固有値問題・固有空間・スペクトル分解/メモ

固有値を求める †

$$ \begin{aligned} |A-\lambda E|&=\frac1{9^3}\begin{vmatrix} 8-9\lambda&1&-4\\1&8-9\lambda&4\\-4&4&-7-9\lambda \end{vmatrix}=\frac1{9^3} \begin{vmatrix} 9-9\lambda&9-9\lambda&0\\1&8-9\lambda&4\\-4&4&-7-9\lambda \end{vmatrix}\\ &= \frac1{9^2}(1-\lambda)\begin{vmatrix} 1&1&0\\1&8-9\lambda&4\\-4&4&-7-9\lambda \end{vmatrix}=\frac1{9^2} (1-\lambda)\begin{vmatrix} 1&0&0\\1&7-9\lambda&4\\-4&8&-7-9\lambda \end{vmatrix}\\ &= \frac1{9^2}(1-\lambda)\begin{vmatrix} 7-9\lambda&4\\8&-7-9\lambda \end{vmatrix}=\frac1{9^2} (1-\lambda)\big[(7-9\lambda)(-7-9\lambda)-4\cdot8\big]\\ &=\frac1{9^2}(1-\lambda)(-49+81\lambda^2-32) =\frac1{9^2}(1-\lambda)(-81+81\lambda^2)\\ &=(1-\lambda)^2(1+\lambda) \end{aligned} $$

したがって、$\lambda_1=-1,\lambda_2=1$ (2重解)

固有ベクトルを求める †

$$ \begin{aligned} (A-\lambda_1E)&=\frac1{9^3}\begin{pmatrix} 8+9&1&-4\\1&8+9&4\\-4&4&-7+9 \end{pmatrix}\sim \begin{pmatrix} 17&1&-4\\1&17&4\\-4&4&2 \end{pmatrix}\\ &\sim \begin{pmatrix} 1&17&4\\17&1&-4\\-2&2&1 \end{pmatrix}\sim \begin{pmatrix} 1&17&4\\1&17&4\\-2&2&1 \end{pmatrix}\leftarrow\bm r_2-8\bm r_3\\ &\sim \begin{pmatrix} 1&17&4\\0&0&0\\0&36&9 \end{pmatrix}\sim \begin{pmatrix} 1&17&4\\0&0&0\\0&4&1 \end{pmatrix}\sim \begin{pmatrix} 1&1&0\\0&0&0\\0&4&1 \end{pmatrix} \end{aligned} $$

2列目を掃き出すのが面倒なのでここでは1列目と3列目を掃き出した。

上の式変形における $\sim$ は連立方程式の係数行列としての同値関係を表しており、

$$ (A-\lambda_1E)\begin{pmatrix}x\\y\\z \end{pmatrix}=\bm 0\ \ \leftrightarrow\ \ \begin{cases} x+y=0\\ 0=0\\ 4y+z=0 \end{cases} $$

ということになる。

掃き出せなかった列に対応して $y=s$ とパラメータに置くと一般解を

$$ \begin{pmatrix}x\\y\\z \end{pmatrix}=s\begin{pmatrix}-1\\1\\-4 \end{pmatrix} $$

と求められる。すなわち $\lambda_1=-1$ の固有空間の次元は $\dim V(-1)=1$ であり、基底を $\Big\{\begin{pmatrix}-1\\1\\-4\end{pmatrix}\Big\}$ と取れる。

同様に、

$$ \begin{aligned} (A-\lambda_2E)&=\frac1{9^3}\begin{pmatrix} 8-9&1&-4\\1&8-9&4\\-4&4&-7-9 \end{pmatrix}\sim \begin{pmatrix} {}-1&1&-4\\1&-1&4\\-4&4&-16 \end{pmatrix}\sim \begin{pmatrix} {}-1&1&-4\\0&0&0\\0&0&0 \end{pmatrix} \end{aligned} $$

すなわち、

$$ (A-\lambda_2E)\begin{pmatrix}x\\y\\z \end{pmatrix}=\bm 0\ \ \leftrightarrow\ \ \begin{cases} {}-x+y-4z=0\\ 0=0\\ 0=0 \end{cases} $$

掃き出せなかった列に対応して $y=s,z=t$ とパラメータに置くと一般解を

$$ \begin{pmatrix}x\\y\\z \end{pmatrix}=s\begin{pmatrix}1\\1\\0\end{pmatrix}+ t\begin{pmatrix}-4\\0\\1\end{pmatrix} $$

と求められる。すなわち $\lambda_2=1$ の固有空間の次元は $\dim V(1)=2$ であり、基底を $\Big\{\begin{pmatrix}1\\1\\0\end{pmatrix},\begin{pmatrix}-4\\0\\1\end{pmatrix}\Big\}$ と取れる。

$A$ が対称行列であるため $V(-1)$ と $V(1)$ は直交しているはずである。

$\begin{pmatrix}-1\\1\\-4\end{pmatrix}\in V(-1)$ が $\begin{pmatrix}1\\1\\0\end{pmatrix},\begin{pmatrix}-4\\0\\1\end{pmatrix}\in V(1)$ と直交していることを確かめれば簡単な検算になる。

３次元実空間 $\mathbb R^3$ の中で $V(-1)$ は原点を通る直線であり、 $V(1)$ は減点を通る平面であり、両者が直交しているイメージを持てると良い。

任意の $\mathbb R^3$ のベクトルは $V(-1)$ のベクトルと $V(1)$ のベクトルの和で書けるから $\mathbb R^3$ は $V(-1)$ と $V(1)$ の和空間であるが、$V(-1)$ と $V(1)$ は直交するから 直和でも、直交直和でもある。

$\mathbb R^3=V(-1)+V(1)=V(-1)\dot +V(1)=V(-1)\oplus V(1)$

正規直交化する †

上で求めた基底を正規直交化する。

まず $V(-1)$ について

$$ \bm b_1=\begin{pmatrix}-1\\1\\-4\end{pmatrix}\in V(-1) $$

を正規化して、

$$ \bm e_1=\frac1{\|\bm b_1\|}\bm b_1=\frac1{\sqrt{18}}\begin{pmatrix}-1\\1\\-4\end{pmatrix} $$

とすれば $\{\bm e_1\}$ は $V(-1)$ の正規直交基底。

次に $V(1)$ については

$$ \bm b_2=\begin{pmatrix}1\\1\\0\end{pmatrix},\bm b_3=\begin{pmatrix}-4\\0\\1\end{pmatrix}\in V(1) $$

を正規直交化する必要がある。

シュミットの直交化を使うなら、まず $\bm b_2$ を正規化し、

$$ \bm e_2=\frac1{\|\bm b_2\|}\bm b_2=\frac1{\sqrt2}\begin{pmatrix}1\\1\\0\end{pmatrix} $$

$\bm b_3$ から $\bm e_2$ に平行な成分（$\bm e_2$ への射影）を引くことで直交化、

$$ \bm f_3=\bm b_3-(\bm e_2,\bm b_3)\bm e_2=\bm b_3-\underbrace{\bm e_2\bm e_2^\dagger}_{P_{\bm e_2}}\,\bm b_3= \begin{pmatrix}-4\\0\\1\end{pmatrix}-\frac12\cdot(-4)\begin{pmatrix}1\\1\\0\end{pmatrix}=\begin{pmatrix}-2\\2\\1\end{pmatrix}\perp \bm e_2 $$

これを正規化して、

$$ \bm e_3=\frac1{\|\bm f_3\|}\bm f_3=\frac13\begin{pmatrix}-2\\2\\1\end{pmatrix} $$

とすればよいが、この例であれば $\bm b_2=\begin{pmatrix}1\\1\\0\end{pmatrix}$ が簡単な形なので、目の子で探しても

$$ \bm f_3=\bm b_3+2\bm b_2=\begin{pmatrix}-2\\2\\1\end{pmatrix}\perp\bm b_2 $$

はすぐに見つかるかもしれない。

$\{\bm e_2,\bm e_3\}$ が $V(1)$ の正規直交基底となる。

$V(-1)$ と $V(1)$ は直交するから、それらの正規直交基底を合わせると３次元空間 $\mathbb R^3$ に $A$ の固有ベクトルからなる正規直交基底を取れたことになる。

$$ \big\{\underbrace{\bm e_1}_{\in V(-1)},\ \underbrace{\bm e_2\ \ ,\ \ \bm e_3}_{\in V(1)}\big\} $$

任意のベクトル $\forall\bm x\in\mathbb R^3$ はこれらの線形結合で表せて、

$$ \begin{aligned} \bm x&=\underbrace{x_1\bm e_1}_{\bm x_{V(-1)}}+\underbrace{x_2\bm e_2+x_3\bm e_3}_{\bm x_{V(1)}}\\ &=\bm x_{V(-1)}+\bm x_{V(1)} \end{aligned} $$

と表せば、$\bm x_{V(-1)},\bm x_{V(1)}$ はそれぞれ $-1,1$ の固有ベクトルであり、任意のベクトルを固有ベクトルの和に分解できることと対応する。

射影演算子を求める †

例えば上の式に現れる係数 $x_1$ を $(\bm e_1,\bm x)$ として求められることと対応して、

$$ \bm x_{V(-1)}=x_1\bm e_1=(\bm e_1,\bm x)\bm e_1=\bm e_1\bm e_1^\dagger\bm x=P_{V(-1)}\bm x $$

$$ \begin{aligned} \bm x_{V(1)}&=x_2\bm e_2+x_1\bm e_1=(\bm e_2,\bm x)\bm e_2+(\bm e_3,\bm x)\bm e_3\\ &=\bm e_2\bm e_2^\dagger\bm x+\bm e_3\bm e_3^\dagger\bm x=P_{V(1)}\bm x \end{aligned} $$

これに対応して、

$$ P_{V(-1)}=\bm e_1\bm e_1^\dagger=\frac1{18}\begin{pmatrix}-1\\1\\-4\end{pmatrix}\begin{pmatrix}-1&1&-4\end{pmatrix} =\frac1{18}\begin{pmatrix}1&-1&4\\-1&1&-4\\4&-4&16\end{pmatrix} $$

$$ \begin{aligned} P_{V(1)}&=\bm e_2\bm e_2^\dagger+\bm e_3\bm e_3^\dagger =\frac12\begin{pmatrix}1\\1\\0\end{pmatrix}\begin{pmatrix}1&1&0\end{pmatrix}+ \frac19\begin{pmatrix}-2\\2\\1\end{pmatrix}\begin{pmatrix}-2&2&1\end{pmatrix}\\ &=\frac12\begin{pmatrix}1&1&0\\1&1&0\\0&0&0\end{pmatrix}+ \frac19\begin{pmatrix}4&-4&-2\\-4&4&2\\-2&2&1\end{pmatrix} =\frac1{18}\begin{pmatrix}17&1&-4\\1&17&4\\-4&4&2\end{pmatrix} \end{aligned} $$

と求まる。実は

$$P_{V(-1)}+P_{V(1)}=E$$

の関係があるため

$$P_{V(1)}=E-P_{V(-1)}$$

として求めれば計算を大幅に減らせる。両方を別々に求めるならこの関係を検算に用いればよい。

スペクトル分解を求める †

固有値と射影演算子を掛けてすべて加えた形がスペクトル分解である：

$$ \begin{aligned} A&=-1\cdot P_{V(-1)}+1\cdot P_{V(1)}\\ &=-1\cdot \frac1{18}\begin{pmatrix}1&-1&4\\-1&1&-4\\4&-4&16\end{pmatrix}+ 1\cdot \frac1{18}\begin{pmatrix}17&1&-4\\1&17&4\\-4&4&2\end{pmatrix}\\ \end{aligned} $$

スペクトル分解はあくまで「分解」することが目的なので、固有値と行列の掛け算などの計算を進めるべきではなく、この形で解答するのが正しい。

とはいえ、実際に右辺が $A$ に戻ることを確認するのは検算として意味がある。

$$ \frac1{18}\begin{pmatrix}-1&1&-4\\1&-1&4\\-4&4&-16\end{pmatrix}+ \frac1{18}\begin{pmatrix}17&1&-4\\1&17&4\\-4&4&2\end{pmatrix}= \frac1{18}\begin{pmatrix}16&2&-8\\2&16&8\\-8&8&-14\end{pmatrix}= \frac1{9}\begin{pmatrix}8&1&-4\\1&8&4\\-4&4&-7\end{pmatrix}=A $$

確かに $A$ と等しくなったので、計算間違いはなさそうだ。