基底と座標と対角化

2018.12.09

機械学習

こんにちは。PCAの(理論編+2)では基底と座標について少し複雑なトークがでてきます。この記事はそのためのものですが、そのためにとどまらず

基底と座標

そして

対角化

はとても重要なものなので是非マスターしましょう。ここでは基底と座標の関係を確認しよう。とはいってもいきなりやっても面白くないので簡単な例を用いてその重要性を確認しよう。例えばベクトル $p = [10, -4]$ は僕たちが無意識に使っている標準基底というもので

(1) $\begin{align*} p = 10 \begin{pmatrix} 1\\0 \end{pmatrix} -4 \begin{pmatrix} 0\\1 \end{pmatrix} \end{align*}$

つまり座標は $[10,-4]$ とかけます。ところが次のような基底 $a,b$ を考えると

(2) $\begin{align*} p = 2 \begin{pmatrix} 1\\2 \end{pmatrix} +8 \begin{pmatrix} 1\\-1 \end{pmatrix} \end{align*}$

となり、これはつまりベクトル $p$ は $a,b$ を基底としてみるとその座標は $[2,8]$ となり標準基底で見たときの座標と異なっている、という事実が重要です。これを一般化しましょう。

$w$ というベクトルを考える

$u_k, v_k$ $(k=1\cdots,d)$ はそれぞれ異なる基底とする

$u$ と $v$ の関係式がわかれば異なる基底間での座標変換ができますよね。進めていきましょう。

これを全 $v_k$ で行うと

となり、両辺に右から $p$ をかけると

となりcの形がわかりました。さらに $m_k$ が $v_k$ を $u$ で書いた時の座標であることに注意すると

となり基底 $v$ での座標から基底 $u$ での座標への変換行列がMとわかりました。となると $M^{-1}c = p$ でその逆の変換ができることもわかります。これを先ほどの例に適応し確認してみましょう。標準基底

(3) $\begin{align*} e_1 = \begin{pmatrix} 1\\0 \end{pmatrix} , e_2 = \begin{pmatrix} 0\\1 \end{pmatrix} \end{align*}$

から次の基底

(4) $\begin{align*} v_1 = \begin{pmatrix} 1\\2 \end{pmatrix} , v_2 = \begin{pmatrix} 1\\-1 \end{pmatrix} \end{align*}$

への座標変換行列Mは各 $e_1,e_2$ を $v_1,v_2$ で書いた時の座標を並べればいいので

(5) $\begin{align*} M = -\frac{1}{3} \begin{pmatrix} -1&-1 \\ -2&1 \end{pmatrix} \end{align*}$

です、これをもちいて計算すると

(6) $\begin{align*} -\frac{1}{3} \begin{pmatrix} -1&-1 \\ -2&1 \end{pmatrix} \begin{pmatrix} 10\\-4 \end{pmatrix} = \begin{pmatrix} 2\\8 \end{pmatrix} \end{align*}$

とたしかに先ほどと同じ結果になりました！今回はMを基底を元に書き換えましたが考える2組の基底のうち片方が標準基底の場合は簡単に求まります。なぜなら $v_1,v_2$ を $e_1,e_2$ で書くと座標は $v_1,v_2$ そのものになり逆行列を計算するなりすればいいからです。では次に対角化についてです。まずは次の問題を考えてみましょう。僕たちにとってポピュラーなの標準基底 $W$ を使う空間において

$A = \begin{pmatrix} 1&-2\\2&1 \end{pmatrix}$