Eigenvalue(고유값), Eigenvector(고유벡터)

고윳값 분해에 대해 다룬다

 

정방 행렬 A에 대해 다음 식을 만족하는 영벡터가 아닌 벡터 v, 실수 λ를 찾을 수 있다고 가정하자.

 

 

위 식을 만족하는 실수 λ를 고윳값(eigenvalue), 벡터 v를 고유벡터(eigenvector)라고 한다. 고윳값과 고유벡터를 찾는 작업을 고유분해(eigen-decomposition) 또는 고윳값 분해(eigenvalue decomposition)라고 한다.

 

 

[정리] 중복된 고윳값을 각각 별개로 생각하고 복소수인 고윳값도 고려한다면 NN차원 정방행렬의 고윳값은 항상 NN개다.

 

>> SVD, PCA 등을 수행하기 위해 고유값분해가 쓰임

 

고유값분해를 이용한 대각화 - eigen decomposition

 

고유값, 고유벡터는 정방행렬의 대각화와 밀접한 관련이 있다 (eigen decomposition은 정방행렬에 대해서만 가능함)

 

먼저 대각행렬과의 행렬곱에 대해 살펴보면, 대각행렬을 뒤에 곱하면 행렬의 열벡터들이 대각원소의 크기만큼 상수배가 된다(앞에 곱하면 행벡터들이 상수배가 된다). 예를 들어, 3 x 3 행렬의 경우를 보면 다음과 같다.

 

 --- (3)

행렬 A의 고유값, 고유벡터들을 λi, vi, i = 1, 2, ..., n이라 하자.

 

 --- (4)

 

이제 식 (4)를 한꺼번에 표현하여 정리하면

 

 --- (5)

 

가 성립함을 알 수 있다.

 

즉, 행렬 A의 고유벡터들을 열벡터로 하는 행렬을 P, 고유값들을 대각원소로 하는 대각행렬을 Λ라 하면 다음 식이 성립한다.

 

 --- (6)

즉, 

 --- (7)

 

이와같이 행렬 A는 자신의 고유벡터들을 열벡터로 하는 행렬과 고유값을 대각원소로 하는 행렬의 곱으로 대각화 분해가 가능한데 이러한 대각화 분해를 eigendecomposition이라고 한다.

 

한 예로, A = [1 1 0; 0 2 1; 0 0 3]인 경우 A는 다음과 같이 대각화가 가능하다.

 

 --- (8)

 

 

모든 정방행렬이 이런 방식의 eigendecomposition이 가능한 것은 아니지만 대각화 가능한 경우는 뒤에 적기로 하고 일단은 대각화를 하면 어떤게 좋은지 알아보자.

 

행렬 A의 eigendecomposition을 알면 행렬식 값 det(A), A의 거듭제곱, 역행렬, 대각합(trace), 행렬의 다항식 등을 매우 손쉽게 계산할 수 있다.

 

 --- (9)

 

 --- (10)

 

 --- (11)

 

 --- (12)

 

 --- (13)

 

 

 

 

출처:https://datascienceschool.net/view-notebook/7fd58178d9e64be682058db7e024d8b5/

Data Science School

출처: https://darkpgmr.tistory.com/105

[선형대수학 #3] 고유값과 고유벡터 (eigenvalue & eigenvector)