備忘録です。
\(S\)を対称行列とすると、ある正規直交行列\(U\)が存在して、以下のように対角化ができることが知られている。
\(U^{T}SU=\Lambda\)
ここで、\(U=(\textbf{u}_1, \textbf{u}_2, \cdots, \textbf{u}_n)^{T}, U^{T}U=UU^{T}=I\)で\(I\)は単位行列である。\(\Lambda\)は、以下に示す対角行列である。
\(\Lambda=
\left( \begin{matrix}
\lambda_1 & 0 & \cdots & 0 \\
0 & \lambda_2 & \ddots & \vdots \\
\vdots & \ddots & \ddots & 0 \\
0 & \cdots & 0 & \lambda_n
\end{matrix} \right)
,\quad \lambda_1 \geqq \lambda_2 \geqq \cdots \geqq \lambda_n \geqq 0\)
ここで、\(\lambda_j\)を固有値とよび、\(\lambda_j\)に対応する\(\textbf{u}_j\)を固有ベクトルとよぶ。固有値の大きい順からそれに対応する固有ベクトルを第１固有ベクトル、第２固有ベクトル、…、第\(n\)固有ベクトルとよぶ。
\(U^{T}SU=\Lambda\)に、左から\(U\)をかけて固有ベクトルごとに表記すると、以下のように表せる。
\(S \textbf{u}_j = \lambda_j \textbf{u}_j \quad (j=1,2,\cdots,n)\)
この式から、固有値\(\lambda_j\)とそれに対応する固有値ベクトル\(\textbf{u}_j \)を求めることを対称行列\(S\)の固有値問題を解くとよぶ。対称行列の具体的な例として分散共分散行列や自己相関行列がある。
固有値および固有ベクトルの意味を２次元正規分布の場合について考えてみる。この場合の分散共分散行列は、対角成分が分散を意味し、対角以外の成分は共分散を意味する。また、この分散共分散行列は対称行列になっている。
ここで、固有値問題を解くと、分散共分散行列を対角化させるので、これは共分散が0となるように分布を変換することを意味する。そして、個々の固有ベクトルに対応する固有値\(\lambda\)は、新しい基底の分散になっている。つまり、固有値が大きいほど、その固有ベクトルの方向に分布が分散していることを意味する。
コメント