分散が最小と最大になる所
垂線の足の長さの平方和(=主成分の分散)。回帰直線(FitLine)の最小二乗法との違いがわかりますか? 回帰直線の方はx座標の分散。固有ベクトルの方は直線に対して垂線の足の分散。図の方向の傾きだと分散は最小値。では、平均を通る直線で分散が最大になる直線は? 固有値は主成分の分散の最大値と最小値を示しています。
固有値と固有ベクトル
ここで、回帰直線と固有ベクトルの方向は中心を通る直線です。
先に回帰直線の傾きを求めましたが、固有ベクトルはどのようにして求めるのでしょうか。
固有ベクトルは分散共分散行列の固有ベクトル(Eigenvector)で求まります。
つまり分散共分散行列は重要な行列であり、垂線の足の長さが主成分です。