固有値問題・固有空間・スペクトル分解 の変更点
更新- 追加された行はこの色です。
- 削除された行はこの色です。
- 線形代数II/固有値問題・固有空間・スペクトル分解 へ行く。
- 線形代数II/固有値問題・固有空間・スペクトル分解 の差分を削除
[[前の単元 ＜＜＜>線形代数II/射影・直和・直交直和]]
[[線形代数II]]
[[＞＞＞ 次の単元>線形代数II/行列の関数]]
* 概要 [#rda7a628]
#contents
&katex();
* 行列の固有値問題 [#z1f21735]
１年生でしっかりやったはずなので、ここでは簡単におさらい。
** 固有値問題 [#se45d460]
$A$ を $n$ 次正方行列として、
$$\begin{aligned}A\bm x=\lambda\bm x\hspace{1cm}\text{ただし}\hspace{1cm}\bm x\ne\bm 0\end{aligned}$$
を満たすような $\lambda$ を固有値、$\bm x$ を固有ベクトルと呼ぶ。~
これらを求めるのが [[固有値問題>線形代数Ｉ/固有値と固有ベクトル#z22bc852]]。
変形すると $(A-\lambda E)\bm x=\bm 0$
もし $(A-\lambda E)$ が正則なら $\bm x=(A-\lambda E)^{-1}\bm 0=\bm 0$ となってしまってダメなので、$\lambda$ は次の式を満たさなければならない。
$$\begin{aligned}|A-\lambda E|=0\end{aligned}$$
これは $\lambda$ に関する $n$ 次方程式（$A$ の固有方程式と呼ぶ）
となる。これを複素数の範囲で解けば、重複度を含めて $n$ 個の $\lambda$
が求まる（[[Wikipedia:代数学の基本定理]]）
固有方程式から得られたそれぞれの $\lambda$ について、
$(A-\lambda E)\bm x=\bm 0$ を $\bm x$ について解くことで、
１コ以上、重複度コ以下の一次独立な固有ベクトルの線形結合の形で $\bm x$ の一般解が求まる
$\bm x=c_1\bm x_1+c_2\bm x_2+\dots+c_r\bm x_r$ $c_k\in K$ $r\le(\text{重複度})$
$r$ は解の自由度と呼ばれ、これは $\text{Ker}\,(A-\lambda E)$ の次元に等しい。
** 固有空間 [#b1721ee9]
$$V(\lambda)=\text{Ker}\,(A-\lambda E)$$
と置くと、$V(\lambda)$ は $A\bm x=\lambda \bm x$ を満たすベクトルが作る線形空間であり、行列 $A$ の固有値 $\lambda$ に属する固有ベクトルの集合にゼロベクトルを加えた集合となる。
この線形空間は行列 $A$ の固有値 $\lambda$ に対する「固有空間」と呼ばれる。
上記の $\bm x_1,\bm x_2,\dots,\bm x_r$ が $V(\lambda)$ の基底となり $r$ がその次元となる。
*** 練習 [#jce2f76d]
$\theta$ を $\pi$ の整数倍ではない実数として $\displaystyle A=\begin{pmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\\\end{pmatrix}$ について固有値問題を解き、固有空間を求めよ。
$A$ は回転を表わす行列。一方で、固有値問題は $A\bm x=\lambda\bm x$ だから、$A$ を掛けても向きの変わらないベクトルを探す問題。すなわち・・・解無しになるのでは？ と思うのが正しい感覚。
実際、実数の範囲では固有値は存在しない。一方、複素数の範囲ではどんな行列にも必ず重複度を含めて $n$ コの固有値が存在し、それぞれの固有値に対して最低１コの固有ベクトルが見付かる。
回転を表わす上記の $A$ にも複素数の範囲ならばちゃんと固有値・固有ベクトルが見付かることを確認せよ。
*** 解答 [#u9ce5749]
$\sin\theta=0$ では $A=E$ または $A=-E$ なので、~
任意のベクトルが固有値 1 または -1 の固有ベクトルになる。 → 全体空間が固有空間
以下では $\sin\theta\ne 0$ として解く。
$$\begin{aligned}
|A-\lambda E|=\begin{vmatrix}
\cos\theta-\lambda&-\sin\theta\\
\sin\theta&\cos\theta-\lambda\\
\end{vmatrix}
=(\cos\theta-\lambda)^2+\sin^2\theta=0
\end{aligned}$$
すなわち、
$$\begin{aligned}(\cos\theta-\lambda)^2=-\sin^2\theta\end{aligned}$$
$\lambda$ が実数であれば左辺はゼロ以上で右辺は負だから、実数の範囲にこの方程式を満たす $\lambda$ は存在しない。
しかし複素数の範囲であれば、
$$\begin{aligned}\cos\theta-\lambda=\pm i\sin\theta\end{aligned}$$
$$\begin{aligned}\lambda=\cos\theta\mp i\sin\theta=e^{\mp i\theta}\end{aligned}$$
として、$2$ 個の $\lambda$ が求まる。
２個なのは元の行列が２次の正方行列であったためだ。
対応する固有ベクトルを求めるには、
$$
(A-\lambda E)\bm x=\begin{pmatrix}
\pm i\sin\theta&-\sin\theta\\
\sin\theta&\pm i\sin\theta\\
\end{pmatrix}\bm x=\bm 0
$$
を解けばよく、係数行列を同値変形すると、
$$
\sim\begin{pmatrix}
\pm i\sin\theta&-\sin\theta\\
\sin\theta&\pm i\sin\theta\\
\end{pmatrix}
\sim\begin{pmatrix}
\pm i&-1\\
1&\pm i\\
\end{pmatrix}
\sim\begin{pmatrix}
1&\pm i\\
1&\pm i\\
\end{pmatrix}
\sim\begin{pmatrix}
1&\pm i\\
0&0\\
\end{pmatrix}
$$
３つ目の $\sim$ では１行目に $\mp i$ をかけた。
したがって、$x\pm iy=0$ となり、掃出せなかった $y$ をパラメータとすれば、
$\lambda=\cos\theta+i\sin\theta=e^{i\theta}$ の固有ベクトルの一般形は
$$\begin{aligned}\bm x=y\begin{pmatrix}
i\\1
\end{pmatrix}\end{aligned}$$
$\lambda=\cos\theta-i\sin\theta=e^{-i\theta}$ の固有ベクトルの一般形は
$$\begin{aligned}\bm x=y\begin{pmatrix}
{}-i\\1
\end{pmatrix}\end{aligned}$$
となる。
実際に入れてみると、
$$\begin{aligned}
\begin{pmatrix}
\cos\theta&-\sin\theta\\
\sin\theta&\cos\theta\\
\end{pmatrix}\begin{pmatrix}
\pm i\\1
\end{pmatrix}&=
\begin{pmatrix}
\pm i\cos\theta-\sin\theta\\
\pm i\sin\theta+\cos\theta
\end{pmatrix}=
\begin{pmatrix}
\pm i(\cos\theta\pm i\sin\theta)\\
\cos\theta\pm i\sin\theta
\end{pmatrix}\\&=
(\cos\theta\pm i\sin\theta)\begin{pmatrix}
\pm i\\
1
\end{pmatrix}=
e^{\pm i\theta}
\begin{pmatrix}
\pm i\\
1
\end{pmatrix}
\end{aligned}$$
のようになって、確かに固有値・固有ベクトルになっていることが分かる。
これらの固有ベクトルに対して、「平面内の回転」を表す行列が、
「複素数の位相を回転」させているのは興味深いところだ。
これらの固有値に対して、固有空間は、
$$V(e^{i\theta})=\big[\begin{pmatrix}i\\1\end{pmatrix}\big],V(e^{-i\theta})=\big[\begin{pmatrix}-i\\1\end{pmatrix}\big]$$
と表せる（ここで、$[\ ]$ の中にベクトルを入れた記法はそれらのベクトルが「張る」空間を表す。つまり $[\bm x]$ なら１つのベクトル $\bm x$ が張る空間、$[\bm x,\bm y,\bm z]$ なら３つのベクトル $\bm x,\bm y,\bm z$ が張る空間、など）。
** 対角化 [#sb4cc10b]
固有値は重複度を含めて $n$ 個存在するから、
それぞれの固有値に対してちょうど重複度に等しい数の一次独立な固有ベクトルが求まる場合には
（必ずしも見付からない）、つまり、すべての固有空間が固有値の重複度に等しい次元を持つならば、
すべての固有値を合わせれば全部で $n$ 個の一次独立な固有ベクトルが見つかることになる。
$$\begin{aligned}A\bm x_1=\lambda_1\bm x_1\end{aligned}$$
$$\begin{aligned}A\bm x_2=\lambda_2\bm x_2\end{aligned}$$
$$\begin{aligned}\phantom{A\bm x_2}\vdots\end{aligned}$$
$$\begin{aligned}A\bm x_n=\lambda_n\bm x_n\end{aligned}$$
これらをまとめて書くと、
$$\begin{aligned}
A\underbrace{\Bigg(\bm x_1\ \bm x_2\ \dots\ \bm x_n\Bigg)}_P
&=\Bigg(A\bm x_1\ A\bm x_2\ \dots\ A\bm x_n\Bigg)\\
&=\Bigg(\lambda_1\bm x_1\ \lambda_2\bm x_2\ \dots\ \lambda_n\bm x_n\Bigg)\\
&=\underbrace{\Bigg(\bm x_1\ \bm x_2\ \dots\ \bm x_n\Bigg)}_P
\underbrace{\begin{pmatrix}
\lambda_1\\
&\lambda_2\\
&&\ddots\\
&&&\lambda_n
\end{pmatrix}}_\Lambda
\end{aligned}$$
$$AP=P\Lambda\hspace{1cm}(\Lambda\,\text{は}\,\lambda\,\text{の大文字})$$
$P$ は $n\times n$ 行列となり、列ベクトルが一次独立であることから $P$ は正則なので、
左から $P^{-1}$ を掛ければ、
$$\begin{aligned}P^{-1}AP=\Lambda\end{aligned}$$
として、正則行列 $P$ により $A$ を [[対角化できる>線形代数Ｉ/対角化（一般の場合）#q6b2c455]]。
「$n$ 個の一次独立な固有ベクトルが見つかる」あるいは
「固有ベクトルで全体空間の基底を作れる」ということと
「対角化できる」は同値な条件になっている。
またこのとき、互いに独立な固有空間の次元をすべて合わせると全体空間の次元になることから、
全体空間 $U$ を固有空間 $V(\lambda_i)$ の直和として表せることになる。
$$
U=V(\lambda_1)\dotplus V(\lambda_1)\dotplus\dots\dotplus V(\lambda_m)
$$
* 線形変換の固有値問題 [#t50eddc9]
行列の時と同様に、線形変換 $T:V\to V$ に対して、
$$\begin{aligned}T\bm x=\lambda\bm x\text{ ただし }\bm x\ne\bm 0\end{aligned}$$
を満たすスカラー $\lambda$ を固有値、ベクトル $\bm x$ を固有ベクトルと呼ぶ。
この方程式の、ある基底 $A$ に対する表現は
$$\begin{aligned}T_A\bm x_A=\lambda\bm x_A\text{ ただし }\bm x_A\ne\bm 0\end{aligned}$$
となるから、行列 $T_A$ の固有値問題を解けば $T$ の固有値問題が解ける。
当然、別の基底 $B$ に対する表現も
$$\begin{aligned}T_B\bm x_B=\lambda\bm x_B\text{ ただし }\bm x_B\ne\bm 0\end{aligned}$$
となるから、
$$\begin{aligned}(T\,\text{の固有値})&=(T_A\,\text{の固有値})\\
&=(T_B\,\text{の固有値})\end{aligned}$$
であり、固有値は基底の取り方に依存しない。
>基底 $A$ から基底 $B$ への基底の変換行列を $P_{A\to B}$ とすると、
>>$T_B=P_{A\to B}^{-1}T_AP_{A\to B}$
>異なる基底に対する $T$ の表現 $T_A,T_B$
は互いに相似の関係にあるのだから、固有値が等しいのは当然だ。
すなわち、&ruby(・){線};&ruby(・){形};&ruby(・){変};&ruby(・){換};&ruby(・){の};固有値や、全固有値の積 = デターミナント、全固有値の和 = トレース を定義可能。（どんな基底で表しても同じ値が得られるため）
固有ベクトル $\bm x$ 自体も基底の取り方に寄らないものの、
（当然ではあるが）その表現 $\bm x_A,\bm x_B$ は基底の取り方に依存する。
** 練習 [#gadd49ab]
$x$ の２次以下の多項式からなる線形空間 $P^2[x]$ において、
次の線形変換を考える。
$$\begin{aligned}T:f(x)\mapsto f(x+1)\end{aligned}$$
$T$ の固有値、固有ベクトルを求めよ。
----
まずは基底を $B=\{x^2,x,1\}$ と取ることにして、$T$ の表現 $T_B$ を求めたい。そのために、
$$
T_B\begin{pmatrix}a\\b\\c\end{pmatrix}
$$
を計算してみる。
$$\begin{aligned}
T(ax^2+bx+c)
&=a(x+1)^2+b(x+1)+c\\
&=ax^2+(2a+b)x+(a+b+c)
\end{aligned}$$
これは、
$$
T_B\begin{pmatrix}a\\b\\c\end{pmatrix}=\begin{pmatrix}a\\2a+b\\a+b+c\end{pmatrix}
$$
を表すから、
$$\begin{aligned}
T_B=\begin{pmatrix}
1&0&0\\
2&1&0\\
1&1&1\\
\end{pmatrix}
\end{aligned}$$
と求まる。次に、$T_B$ の固有値問題を解く。
$$\begin{aligned}
|T_B-\lambda E|=
\begin{vmatrix}
1-\lambda&0&0\\
2&1-\lambda&0\\
1&1&1-\lambda\\
\end{vmatrix}=(1-\lambda)^3=0
\end{aligned}$$
$\therefore \lambda=1$
$$\begin{aligned}
(T_B-E)\bm x=\begin{pmatrix}
0&0&0\\
2&0&0\\
1&1&0\\
\end{pmatrix}\begin{pmatrix}
a\\b\\c
\end{pmatrix}=\bm 0
\end{aligned}$$
$$\begin{aligned}a=b=0\end{aligned}$$
$c=s$ と置けば、
$$\begin{aligned}
\begin{pmatrix}
a\\b\\c
\end{pmatrix}=
s
\begin{pmatrix}
0\\0\\1
\end{pmatrix}
\end{aligned}$$
ここまでで $T_B$ の固有値と、対応する固有ベクトルが求まった。
あとは $T$ の固有ベクトルを求めるため、表現ベクトル
$\bm x_B=\begin{pmatrix}0\\0\\s\end{pmatrix}$ に対応するベクトルを計算すると、
$\bm x=0x^2+0x+s\cdot 1=s$ であるから、
すなわち、$T$ の固有値 $\lambda=1$、固有ベクトル $s$ が最終的な答えとなる。
固有値問題を解くには適当な基底に対する表現を使うと便利だが、
最終的に固有ベクトルを答えるときには元の線形空間の要素に直さなければならない。
基底の選び方には任意性があり、「表現」は回答者が勝手に決めたものだからだ。
どのような基底を取って計算しても、元の空間に戻した際の答えは変わらない。
この問題では縮退度３の固有値 $\lambda=1$ に対して固有空間は１次元しかない。
これは行列で言えば対角化ができないケースに相当する。
一般の線形変換で言えば、全空間である $P^2[x]$ を固有空間の直和で表せないケースに相当する。
** 演習問題 [#ke2daddd]
２次の複素正方行列全体の集合 $C^{2\times 2}$ を複素数上の４次元線形空間とみなし、$A=\begin{pmatrix}1&3\\2&2\end{pmatrix}$ を使って線形変換 $T:C^{2\times 2}\to C^{2\times 2}$ を $T:M\mapsto AM$ （すなわち $T(M)=AM$ ）として定義する。以下の問いに答えよ。
(1) 基底 $B=\Big\{\begin{pmatrix}1&0\\0&0\end{pmatrix},\begin{pmatrix}0&0\\1&0\end{pmatrix},\begin{pmatrix}0&1\\0&0\end{pmatrix},\begin{pmatrix}0&0\\0&1\end{pmatrix}\Big\}$ に対して $T$ の表現 $T_B$ を求めよ。
(2) $T$ の固有値を求めよ。ただし、行列 $A$ が小行列 $B,C,D,O$ により $A=\begin{pmatrix}B&O\\C&D\end{pmatrix}$ の形に表せるとき、$|A|=\begin{vmatrix}B&O\\C&D\end{vmatrix}=|B|\cdot|D|$ であることを利用して良い。ここで $O$ は零行列、$B,D$ は正方行列であるとする。
(3) (2) で求めた固有値のそれぞれに対して固有空間の基底を求めよ。
*** 解答例 [#n00f6e63]
$T_B\begin{pmatrix}a\\b\\c\\d\end{pmatrix}$ を求めよう。
$$
\begin{aligned}
&T\bigg[a\begin{pmatrix}1&0\\0&0\end{pmatrix}+b\begin{pmatrix}0&0\\1&0\end{pmatrix}+c\begin{pmatrix}0&1\\0&0\end{pmatrix}+d\begin{pmatrix}0&0\\0&1\end{pmatrix}\bigg]\\
&=T\begin{pmatrix}a&c\\b&d\end{pmatrix}=\begin{pmatrix}1&3\\2&2\end{pmatrix}\begin{pmatrix}a&c\\b&d\end{pmatrix}=\begin{pmatrix}a+3b&c+3d\\2a+2b&2c+2d\end{pmatrix}\\
\end{aligned}
$$
これを $B$ による表現に直せば、
$$
T_B\begin{pmatrix}a\\b\\c\\d\end{pmatrix}=\begin{pmatrix}a+3b\\2a+2b\\c+3d\\2c+2d\end{pmatrix}
$$
を得る。したがって、
$$
T_B=\begin{pmatrix}
1&3&0&0\\
2&2&0&0\\
0&0&1&3\\
0&0&2&2
\end{pmatrix}
$$
(2)
$T$ の固有値を求めるには $T_B$ の固有値を求めればよい。
$$
\begin{aligned}
&|T_B-\lambda E|=
\left|
\begin{matrix}
1-\lambda&3&0&0\\
2&2-\lambda&0&0\\
0&0&1-\lambda&3\\
0&0&2&2-\lambda\\
\end{matrix}
\right|=
\left|
\begin{matrix}
1-\lambda&3\\
2&2-\lambda\\
\end{matrix}
\right|^2\\
&=\big[(1-\lambda)(2-\lambda)-3\cdot 2\big]^2
=(\lambda^2-3\lambda-4)^2
=(\lambda-4)^2(\lambda+1)^2
\end{aligned}
$$
したがって $\lambda=4,-1$ でどちらも２重解。
(3)
$T_B$ の固有空間を求めてから、それに対応する $C^{2\times 2}$ の空間を求めればよい。
$\lambda=4$ の固有ベクトルは掃き出し法を使って、
$$(T_B-\lambda E)=\begin{pmatrix}
{}-3&3&0&0\\
2&-2&0&0\\
0&0&-3&3\\
0&0&2&-2\\
\end{pmatrix}\sim
\begin{pmatrix}
1&-1&0&0\\
0&0&1&-1\\
0&0&0&0\\
0&0&0&0\\
\end{pmatrix}
$$
であるから、固有ベクトルを $\bm x=\begin{pmatrix}a\\b\\c\\d\end{pmatrix}$ とすれば条件式は
$$
\begin{cases}
a-b=0\\
c-d=0\\
0=0\\
0=0
\end{cases}
$$
と同値である。掃き出しの行えなかった２列目、４列目にあたる $b,d$ をパラメータ $s,t$ を用いて $b=s,d=t$ と置けば、
$$
\bm x=
s\begin{pmatrix}1\\1\\0\\0\end{pmatrix}+
t\begin{pmatrix}0\\0\\1\\1\end{pmatrix}
$$
が固有ベクトルの一般形。固有空間 $V(4)$ は $\begin{pmatrix}1\\1\\0\\0\end{pmatrix},\begin{pmatrix}0\\0\\1\\1\end{pmatrix}$ を基底とする空間である。
$\lambda=-1$ の固有ベクトルは掃き出し法を使って、
$$(T_B-\lambda E)=\begin{pmatrix}
2&3&0&0\\
2&3&0&0\\
0&0&2&3\\
0&0&2&3\\
\end{pmatrix}\sim
\begin{pmatrix}
1&3/2&0&0\\
0&0&1&3/2\\
0&0&0&0\\
0&0&0&0\\
\end{pmatrix}
$$
であるから、固有ベクトルを $\bm x=\begin{pmatrix}a\\b\\c\\d\end{pmatrix}$ とすれば条件式は
$$
\begin{cases}
a+3b/2=0\\
c+3d/2=0\\
0=0\\
0=0
\end{cases}
$$
と同値である。掃き出しの行えなかった２列目、４列目にあたる $b,d$ をパラメータ $s,t$ を用いて $b=2s,d=2t$ と置けば、
$$
\bm x=
s\begin{pmatrix}-3\\2\\0\\0\end{pmatrix}+
t\begin{pmatrix}0\\0\\-3\\2\end{pmatrix}
$$
が固有ベクトルの一般形。固有空間 $V(-1)$ は $\begin{pmatrix}-3\\2\\0\\0\end{pmatrix},\begin{pmatrix}0\\0\\-3\\2\end{pmatrix}$ を基底とする空間である。
それぞれの数ベクトルに対応する $C^{2\times 2}$ のベクトルを求めて解答とする。
$T$ の固有値は $\lambda=4,-1$ であり、
$V(4)$ は $\begin{pmatrix}1&0\\1&0\end{pmatrix},\begin{pmatrix}0&1\\0&1\end{pmatrix}$ を基底とする空間、
$V(-1)$ は $\begin{pmatrix}-3&0\\2&0\end{pmatrix},\begin{pmatrix}0&-3\\0&2\end{pmatrix}$ を基底とする空間、
である。
あくまで問題は $T_B$ ではなく $T$ の固有空間を聞いているものであるから、解答はこのように $C^{2\times 2}$ の部分空間として答えなければならないことに注意せよ。
また以上について $A=\begin{pmatrix}1&3\\2&2\end{pmatrix}$ の固有値が $\lambda=4,-1$ であり、$V(4)$ が $\begin{pmatrix}1\\1\end{pmatrix}$ を基底とする空間、$V(-1)$ が $\begin{pmatrix}-3\\2\end{pmatrix}$ を基底とする空間であることを踏まえて理解できるとよい。
* 対角化と基底変換の関係 [#qec8f224]
** 表現ベクトルの基底変換 (復習) [#ec98d8bc]
線形空間 $V$ に２つの基底 $A,B$ を取る。$\bm x\in V$ の $A,B$ それぞれに対する表現ベクトル $\bm x_A,\bm x_B$ は、
$$
\bm x=\underbrace{\big(\bm a_1\ \bm a_2\ \dots\ \bm a_n\big)}_{\text{基底 }A}
\underbrace{\begin{pmatrix}x_{A1}\\x_{A2}\\\vdots\\x_{An}\end{pmatrix}}_{\bm x_A}
=\underbrace{\big(\bm b_1\ \bm b_2\ \dots\ \bm b_n\big)}_{\text{基底 }B}
\underbrace{\begin{pmatrix}x_{B1}\\x_{B2}\\\vdots\\x_{Bn}\end{pmatrix}}_{\bm x_B}
\hspace{1cm}\cdots\ \ (*)
$$
を満たす。したがって、例えば $\bm a_i$ の $A$ に対する表現 $\bm a_{iA}$ は、
$$
\bm a_1=\big(\bm a_1\ \bm a_2\ \dots\ \bm a_n\big)
\underbrace{\begin{pmatrix}1\\0\\\vdots\\0\end{pmatrix}}_{\bm a_{1A}}
$$
に見るように基本ベクトルになる。一方、$\bm b_i$ の $A$ に対する表現は、
$$
\bm b_i=\big(\bm a_1\ \bm a_2\ \dots\ \bm a_n\big)
\bm b_{iA}
$$
を満たすが、これを横に並べることで、
$$
\big(\bm b_1\ \bm b_2\ \dots\ \bm b_n\big)=
\big(\bm a_1\ \bm a_2\ \dots\ \bm a_n\big)
\underbrace{\Bigg(\bm b_{1A}\ \bm b_{2A}\ \dots\ \bm b_{nA}\Bigg)}_{n\times n\ \text{行列}\ P_{A\to B}}
$$
が得られ、この $P_{A\to B}$ は基底 $A$ から基底 $B$ への変換行列と呼ばれる。
またこの式を上の $(*)$ 式に代入すると、
$$
\bm x=\big(\bm a_1\ \bm a_2\ \dots\ \bm a_n\big)\bm x_A
=\underbrace{\big(\bm a_1\ \bm a_2\ \dots\ \bm a_n\big)P_{A\to B}}_{\big(\bm b_1\ \bm b_2\ \dots\ \bm b_n\big)}\bm x_B
$$
より、[[ベクトル表現の基底変換>線形代数II/基底の変換#lb2f5ba0]] は
$$
\bm x_A=P_{A\to B}\bm x_B
$$
として、基底 $B$ に対する表現を基底 $A$ に対する表現に変更するには基底 $A$ から基底 $B$ への変換行列を左から掛ければ良いことが分かる。表現を $B$ から $A$ にするのに、$A$ から $B$ への変換行列が必要になるので注意が必要。
** 線形変換の基底変換 (復習) [#e8d55e1a]
線形変換 $T:V\to V$ の基底 $A$ に対する表現行列 $T_A$ は、$\bm x,\bm y\in V$ が
$$
\bm y=T\bm x
$$
を満たす時にその表現 $\bm x_A,\bm y_A\in K^n$ が
$$
\bm y_A=T_A\bm x_A
$$
を満たすような $n\times n$ の正方行列である。($n=\dim V$)
基底 $B$ を導入して $\bm x_A=P_{A\to B}\bm x_B,\ \bm y_A=P_{A\to B}\bm y_B$ と変換してやると、
$$
P_{A\to B}\bm y_B=T_AP_{A\to B}\bm x_B
$$
左から $P_{A\to B}^{-1}$ を掛けることで、
$$
\bm y_B=\underbrace{P_{A\to B}^{-1}T_AP_{A\to B}}_{T_B}\bm x_B
$$
を得る。すなわち [[線形変換の表現行列の基底変換>線形代数II/線形写像の行列表現と階数#dbb71d8a]] は,
$$
T_B=P_{A\to B}^{-1}T_AP_{A\to B}
$$
で与えられる。
** 対角化の意味 [#m9a74767]
実は、行列の対角化 $\Lambda=P^{-1}TP$ は、
「固有ベクトルを基底に取ると行列表現は対角形になる」
という事実に対応している。
というのも、固有ベクトルからなる基底 $A=\{\bm a_1,\bm a_2,\dots,\bm a_n\}$ に対して $\bm x$ の表現を $\bm x_A$ とすると、
$$
\bm x=\sum_{i=1}^n x_{Ai}\bm a_i\hspace{5mm}\text{ただし} \hspace{5mm}T\bm a_i=\lambda_i\bm a_i
$$
ここで、
$$
\bm y=T\bm x=\sum_{i=1}^n x_{Ai}T\bm a_i=\sum_{i=1}^n \underbrace{x_{Ai}\lambda_i}_{y_{Ai}}\bm a_i
$$
すなわち、
$$
\begin{aligned}
\bm y_A
=\begin{pmatrix}\lambda_1\bm x_{A1}\\\lambda_2\bm x_{A2}\\\vdots\\\lambda_n\bm x_{An}\end{pmatrix}
&=\underbrace{\begin{pmatrix}\lambda_1\\&\lambda_2\\&&\ddots\\&&&\lambda_n\end{pmatrix}}_{T_A}
\begin{pmatrix}\bm x_{A1}\\\bm x_{A2}\\\vdots\\\bm x_{An}\end{pmatrix}=T_A\bm x_A
\end{aligned}
$$
固有ベクトルからなる基底 $A$ に対する $T$ の表現 $T_A$ は確かに対角行列になっている。
同じ変換は固有ベクトルではない基底 $B$ に対しては非対角行列 $T_B$ で表されるが、
$$
\bm y_B=\underbrace{T_B}_\text{非対角}\bm x_B
$$
これを対角な $T_A$ に変換する基底 $B$ から基底 $A$ への変換行列 $P_{B\to A}$ は
($T_A=P_{B\to A}^{-1}\,T_B\,P_{B\to A}$)、
$$
(\bm a_1\ \bm a_2 \ \dots\ \bm a_n)=(\bm b_1\ \bm b_2 \ \dots\ \bm b_n)P_{B\to A}
$$
のように基底 $B$ を固有ベクトルからなる基底 $A$ への変換するものとなるが、上で見たとおり
$$
P_{B\to A}=\Bigg(\bm a_{1B}\ \bm a_{2B}\ \dots\bm a_{nB}\Bigg)
$$
であり、この行列は固有ベクトルの基底 $B$ に対する表現 $\bm a_{iA}$ を並べた行列である。
（対角化で使う $P$ は「固有ベクトル（の表現）を並べた行列」だったことを思いだそう）
以上より「行列の対角化」が線形変換が対角行列で表されるような基底、すなわち固有ベクトルからなる基底と、その基底に対する線形変換の行列表現を見つける作業に対応するものであったことを理解して欲しい。
* 特殊な線形変換とその固有値問題 [#z59881ce]
以下では応用上特に有用となる特殊な性質を持つ線形変換についてその固有値問題を考えたい。
線形変換の正規直交基底に対する行列表現を考えることで、行列で学んだことをそのまま線形変換に生かせることになる。
そこで以下では正規直交基底 $B$ を定めたとして進めよう。
** 準備：線形変換のエルミート共役 [#tbebb39e]
行列 $A$ のエルミート共役 $A^\dagger$ は $A^\dagger=\overline{{}^t\!A}$ として定義されるが、
これは任意の $\bm x,\bm y$ に対して
$$
(A\bm x,\bm y)=(\bm x,A^\dagger\bm y)
$$
を満たす行列であるということと同値なのであった。
同様にして、計量空間に定義された線形変換 $T$ にエルミート共役 $T^\dagger$ を定義できる。
すなわち、$T$ の正規直交基底 $B$ に対する表現を $T_B$ とするとき、
$T_B^\dagger$ を表現とするような変換 $T^\dagger$ を線形変換 $T$ のエルミート共役と呼ぶ。
$T^\dagger$ は、与えられたベクトル $\bm x$ を表現 $\bm x_B$ に直した上で $T_B^\dagger$ を掛け、$T_B^\dagger\bm x_B$ を表現とするベクトルを求める線形変換であると考えれば良い。
この $T^\dagger$ は任意の $\bm x,\bm y$ に対して
$$
(T\bm x,\bm y)=(\bm x,T^\dagger\bm y)
$$
を満たすことになる。
** エルミート変換 [#b253f18d]
任意の $\bm x,\bm y$ に対して $(H\bm x,\bm y)=(\bm x,H\bm y)$ を満たす線形変換 $H$ のことをエルミート変換と呼ぶ。~
この条件は $H^\dagger=H$ と書いても同値である。
エルミート変換の正規直交基底に対する表現行列はエルミート行列になる。
すなわち $H_B^\dagger=H_B$。
>$$\begin{aligned}
\because\ &\text{(左辺)}_B=(H_B\bm x_B)^\dagger\bm y_B=\bm x_B^\dagger H_B^\dagger\bm y_B=
\text{(右辺)}_B=\bm x_B^\dagger H_B\bm y_B\\
&H_B^\dagger=H_B
\end{aligned}$$
注：エルミート行列かつ実数行列である行列、すなわち実エルミート行列は対称行列になる
下で見るように、エルミート変換は以下の性質を持つ。
- 固有値は実数である
- 異なる固有値に属する固有ベクトルは直交する
*** エルミート演算子の例 [#yd4e94ef]
正射影変換はエルミートである。
量子力学では、任意の観測可能な物理量は波動関数に対するエルミート変換で表わされる。何を言っているか分からないだろうけれど、量子力学の授業でこの意味を学んで欲しい。
*** エルミート変換の固有値は実数になる [#b881fe48]
$H\bm x=\lambda x$ ただし
$\bm x\ne \bm 0$ とすると、
$$\begin{aligned}(\bm x,H\bm x)=(H\bm x,\bm x)\end{aligned}$$
に対して、
$$\begin{aligned}
&(\text{左辺})= \lambda(\bm x,\bm x)= \lambda\|\bm x\|^2\\
=&(\text{右辺})=\overline\lambda(\bm x,\bm x)=\overline\lambda\|\bm x\|^2\\
\end{aligned}$$
より、
$$\begin{aligned}(\lambda-\overline\lambda)\|\bm x\|^2=0\end{aligned}$$
$\bm x\ne 0$ だから、
$$\begin{aligned}\lambda=\overline\lambda\end{aligned}$$
すなわち、
$$\begin{aligned}\lambda\in\mathbb R\end{aligned}$$
*** エルミート変換の異なる固有値に属する固有ベクトルは直交する [#iae36740]
$H\bm x=\lambda\bm x$、$H\bm y=\lambda'\bm y$
ただし $\bm x\ne \bm 0,\bm y\ne\bm 0$ とすると、
$$\begin{aligned}(H\bm x,\bm y)=(\bm x, H\bm y)\end{aligned}$$
に対して、$\lambda\in\mathbb R$ すなわち $\overline\lambda=\lambda$ であるから、
$$\begin{aligned}
&(\text{左辺})=(\lambda\bm x,\bm y)=\overline\lambda(\bm x,\bm y)=\lambda(\bm x,\bm y)\\
=\,&(\text{右辺})=(\bm x, \lambda'\bm y)=\lambda'(\bm x, \bm y)
\end{aligned}$$
$$\begin{aligned}
\therefore (\lambda-\lambda')(\bm x,\bm y)=0
\end{aligned}$$
したがって、
$\lambda\ne\lambda'$ ならば、
$(\bm x,\bm y)=0$ である。
** ユニタリ変換 [#g90f3615]
任意の $\bm x,\bm y$ に対して $(U\bm x,U\bm y)=(\bm x,\bm y)$ を満たす線形変換をユニタリ変換と呼ぶ。~
この条件は $U^\dagger=U^{-1}$ と書いても同値。($U^{-1}$ は $U$ の逆変換)
任意の $\bm x$ に対して $\|\bm x\|=\|U\bm x\|$ を満たす、としても同値な条件である。
ユニタリ変換は、内積やノルムを保存する変換である。
ユニタリ変換の正規直交基底に対する表現行列はユニタリ行列になる
すなわち、$U_B^\dagger=U_B^{-1}$ ただし $B$ は正規直交基底
>$(\text{左辺})_B=(U_B\bm x_B)^\dagger U_B\bm y_B=\bm x_B^\dagger U_B^\dagger U_B\bm y_B=(\text{右辺})_B=\bm x_B^\dagger\bm y_B$~
>$U_B^\dagger U_B=E_B$
注：ユニタリ行列かつ実行列な行列、すなわち実ユニタリ行列は直交行列である。~
ユニタリ行列は列ベクトル、行ベクトルが正規直交基底となる。
ユニタリ変換は以下の性質を持つ。
- 内積やノルムを保存する
- 固有値の絶対値が１である
- 異なる固有値に属する固有ベクトルは直交する
*** ユニタリ変換の例 [#ra216322]
原点を中心とする回転および反転は任意のベクトルの長さを保存する。
そのような変換がユニタリ変換である。
任意の正規直交基底から、別の正規直交基底への基底の変換はユニタリ変換となる。
- ユニタリ行列の列ベクトルは正規直交系を為す
- ユニタリ行列の逆行列はユニタリ変換
- ユニタリ行列の積はユニタリ変換
などを使うと証明できる。
量子力学において、例えば時間を進める演算子 = 時間発展演算子はユニタリになる。何を言っているか…（略
*** ユニタリ行列の列ベクトルは正規直交系を為す [#k321f97b]
$U=\Big(\bm e_1\ \bm e_2\ \dots\ \bm e_n\Big)$ と置けば、
$$\begin{aligned}
&U^{-1}U=U^\dagger U=\begin{pmatrix}
\hspace{5mm}&\bm e_1^\dagger&\hspace{5mm}\\&\bm e_2^\dagger\\&\vdots\\&\bm e_n^\dagger
\end{pmatrix}\Bigg(\bm e_1\ \bm e_2\ \dots\ \bm e_n\Bigg)=
\begin{pmatrix}
(\bm e_1,\bm e_1)&(\bm e_1,\bm e_2)&\cdots &(\bm e_1,\bm e_n)\\
(\bm e_2,\bm e_1)&(\bm e_2,\bm e_2)& &\vdots\\
\vdots & &\ddots &\vdots\\
(\bm e_n,\bm e_1)&\cdots &\cdots &(\bm e_n,\bm e_n)\\
\end{pmatrix}\\
&=E=
\begin{pmatrix}
\delta_{11}&\delta_{12}&\cdots &\delta_{1n}\\
\delta_{21}&\delta_{22}& &\vdots\\
\vdots & &\ddots &\vdots\\
\delta_{n1}&\cdots &\cdots &\delta_{nn}\\
\end{pmatrix}
\end{aligned}$$
より、
$$
(\bm e_i,\bm e_j)=\delta_{ij}
$$
同様に $UU^\dagger=E$ より行ベクトルも正規直交系を為すことを示せる。
*** ユニタリ変換の固有値の絶対値は１になる [#u6e5ff67]
$U\bm x=\lambda\bm x$ ただし $\bm x\ne \bm 0$ とすると、
$$\begin{aligned}
(U\bm x,U\bm x)=(\bm x,\bm x)
\end{aligned}$$
に対して、
$$\begin{aligned}
&(\text{左辺})=\lambda\overline\lambda(\bm x,\bm x)=|\lambda|^2\|\bm x\|^2\\
=\,&(\text{右辺})=\|\bm x\|^2\\
\end{aligned}$$
$$\begin{aligned}(|\lambda|^2-1)\|\bm x\|^2=0\end{aligned}$$
$\bm x\ne\bm 0$ であれば
$$\begin{aligned}|\lambda|=1\end{aligned}$$
絶対値が１の複素数はある実数 $\theta$ を用いて $e^{i\theta}$ と表せるから、
$$\begin{aligned}\lambda=e^{i\theta}\end{aligned}$$
と書けることになる。
*** ユニタリ変換の異なる固有値に属する固有ベクトルは直交する [#o4ab3e08]
$U\bm x=\lambda\bm x$、$U\bm y=\lambda'\bm y$
ただし $\bm x\ne\bm 0,\bm y\ne\bm 0$ とすると、
$$\begin{aligned}
(U\bm x,U\bm y)=(\bm x,\bm y)
\end{aligned}$$
に対して、
$$\begin{aligned}
&(\text{左辺})=(\lambda\bm x,\lambda'\bm y)=\overline\lambda\lambda'(\bm x,\bm y)\\
\end{aligned}$$
$$\begin{aligned}
\therefore (\overline\lambda\lambda'-1)(\bm x,\bm y)=0
\end{aligned}$$
ここで、$|\lambda|=1$ より $\lambda=e^{i\theta}$ と置けば、
$$\begin{aligned}\overline\lambda=e^{-i\theta}=\frac{1}{e^{i\theta}}=\frac{1}{\lambda}\end{aligned}$$
$$\begin{aligned}\overline\lambda\lambda'-1=\frac{\lambda'}{\lambda}-1=\frac{\lambda'-\lambda}{\lambda}\end{aligned}$$
この値は $\lambda\ne\lambda'$ のときゼロにならないから、
$$\begin{aligned}(\bm x,\bm y)=0\end{aligned}$$
※もちろん $|\lambda|^2=\overline{\lambda}\lambda=1$ から直接
$\overline{\lambda}=1/\lambda$ としても良いが、
上記の説明の方がその意味がよく分かるはず。
*** 例 [#m4cc8fd3]
ユニタリ行列
$A=\begin{pmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\\\end{pmatrix}$ について上記を確かめよ。
** 演習 [#z2920f42]
- エルミート行列の和はエルミート行列になること
- ユニタリ行列の積はユニタリ行列になること
- エルミート行列の積が必ずしもエルミート行列にはならないこと
- ユニタリ行列の和が必ずしもユニタリ行列にはならないこと
を証明せよ。解答はこちら > [[線形代数II/固有値問題・固有空間・スペクトル分解/メモ]]
** 正規行列 [#gbc1ad24]
エルミート行列がユニタリ行列で対角化可能であることは１年生で学んだ。
上記のようにユニタリ行列の固有ベクトルも互いに直交するため、
ユニタリ行列もユニタリ行列で対角化できる。
このように、ユニタリ行列 $U^\dagger=U^{-1}$
で対角化可能な行列のことを正規行列と呼ぶ。
正規行列であるかどうかは
$A^\dagger A=AA^\dagger$ を満たすかどうかで判別可能である。（ユニタリー行列による対角化可能性の必要十分条件）
※証明は [[線形代数II/正規行列の対角化可能性]] を参照。
エルミート行列では $H^\dagger H=H^2=HH^\dagger$
ユニタリ行列では $U^\dagger U=E=UU^\dagger$
で、確かにどちらも正規行列になっている。
*** 正規行列の固有ベクトル [#i7801746]
対角化 $P^{-1}AP=\Lambda$ に用いる行列 $P$
の列ベクトルはすべて固有ベクトルであった。
したがって、ユニタリ行列で対角化可能ということは、
固有ベクトルにより正規直交系（$n$ 本あるため正規直交基底）
を作れることと同値である。
結果的に、正規行列の異なる固有値に属する固有ベクトルは直交する。~
証明はこちら→ [[線形代数II/正規行列の異なる固有値に属する固有ベクトルは直交する]]
** 一般の変換では [#d32a4a3d]
異なる固有値に属する固有ベクトルは必ずしも直交はしないが、少なくとも一次独立ではある。
すなわち、$A\bm x_k=\lambda_k \bm x_k$ ただし $k=1\sim r$ かつ、
すべての $\lambda_k$ が互いに異なるとき、$\bm x_1,\bm x_2,\dots,\bm x_r$ は一次独立である。
証明は一年生の時にやった。→ [[線形代数Ｉ/固有値と固有ベクトル#o23f59a7]]
* 固有空間 (再)[#s319d545]
ある固有値 $\lambda$ に属する固有ベクトルの集合は部分空間
$V(\lambda)=\{\,\bm x\,|\,A\bm x=\lambda\bm x\,\}=\text{Ker}\,(A-\lambda E)$ を作る。
>$\because \bm x,\bm y\in V(\lambda)$ すなわち $A\bm x=\lambda\bm x,A\bm y=\lambda\bm y$ ならば、$A(a\bm x+b\bm y)=\lambda(a\bm x+b\bm y)$ すなわち $a\bm x+b\bm y\in V(\lambda)$ であるから、$V(\lambda)$ はベクトルの和とスカラー倍に対して閉じている。
>厳密には、固有ベクトルの集合にゼロベクトル $\bm 0$ を加えた集合が部分空間になる
この部分空間 $V(\lambda)$ を $A$ の $\lambda$ に属する固有空間と呼ぶ。
固有値 $\lambda$ に属する固有ベクトルの一般解が $r$ コの一次独立なベクトル
$\bm x_1,\bm x_2,\dots,\bm x_r$ を用いて
$$\begin{aligned}\bm x=c_1\bm x_1+c_2\bm x_2+\dots+c_r\bm x_r\end{aligned}$$
と書かれるならば、$\bm x_1,\bm x_2,\dots,\bm x_r$ は $V(\lambda)$
の基底となるから、$\dim V(\lambda)=r$ である。
** 異なる固有値に属する固有空間はゼロでのみ重なる [#md2ec770]
あるベクトル $\bm x$ が２つの固有空間の交わり $V(\lambda)\cap V(\lambda')$ に含まれるとすると、
$$\begin{aligned}A\bm x=\lambda\bm x=\lambda'\bm x\end{aligned}$$
$$\begin{aligned}(\lambda-\lambda')\bm x=\bm 0\end{aligned}$$
したがって、$\lambda\ne\lambda'$ であるなら $\bm x=\bm 0$ である。
これは、$\lambda\ne\lambda'$ であるなら $V(\lambda)\cap V(\lambda')=\{\,\bm 0\,\}$ となることを表している。
** 対角化可能な場合 [#ua2eb55a]
$P^{-1}AP=\Lambda$ の $P$ の $n$ 個の列ベクトルは、
固有空間 $V(\lambda_1),V(\lambda_2),\dots,V(\lambda_m)$
の基底を並べたものである。
さらに、この $n$ 本のベクトルは一次独立であるから $K^n$ の基底となる。
部分空間 $V(\lambda_1),V(\lambda_2),\dots,V(\lambda_m)$ の基底を
合わせたものが全体空間 $K^n$ の基底となるから、
$$\begin{aligned}K^n=V(\lambda_1)\,\dot +\,V(\lambda_2)\,\dot +\,\dots\,\dot +\,V(\lambda_m)\end{aligned}$$
このとき任意の $\bm x\in K^n$ は
$\bm x_1\in V(\lambda_1),\bm x_2\in V(\lambda_2),\dots,\bm x_m\in V(\lambda_m)$
を用いて
$$\begin{aligned}\bm x=\bm x_1+\bm x_2+\dots+\bm x_m\end{aligned}$$
のように一意に分解できて、ここに $A$ をかければ
$$\begin{aligned}A\bm x=\lambda_1\bm x_1+\lambda_2\bm x_2+\dots+\lambda_m\bm x_m\end{aligned}$$
となる。
すなわち $\bm x$ に $A$ を掛けることは、~
$\begin{aligned}\bm x\end{aligned}$ の $V(\lambda_1)$ 成分を $\lambda_1$ 倍して、~
$\begin{aligned}\bm x\end{aligned}$ の $V(\lambda_2)$ 成分を $\lambda_2$ 倍して、~
・・・~
最後にまた足し合わせるのと同じである。
もっと一般に、
$$\begin{aligned}A^n\bm x=\lambda_1^n\bm x_1+\lambda_2^n\bm x_2+\dots+\lambda_m^n\bm x_m\end{aligned}$$
が成り立つこともすぐに分かる。
* スペクトル分解 [#o3f454b2]
射影演算子：$P_{V(\lambda_k)}:\bm x\mapsto\bm x_k$
を導入すれば、上記の対角化可能な場合の式は、
$$\begin{aligned}\bm x=\sum_k\underbrace{P_{V(\lambda_k)}\bm x}_{\bm x_k}\end{aligned}$$
$$\begin{aligned}A\bm x=\sum_k\lambda_kP_{V(\lambda_k)}\bm x\end{aligned}$$
$$\begin{aligned}A^n\bm x=\sum_k\lambda_k^nP_{V(\lambda_k)}\bm x\end{aligned}$$
となる。右辺と左辺とを比べれば、これらはそれぞれ、
$$\begin{aligned}E=\sum_kP_{V(\lambda_k)}\end{aligned}$$
$$\begin{aligned}A=\sum_k\lambda_kP_{V(\lambda_k)}\end{aligned}$$
$$\begin{aligned}A^n=\sum_k\lambda_k^nP_{V(\lambda_k)}\end{aligned}$$
の関係を表している事が分かる。
特に２番目の式は、対角化可能な行列を固有空間への射影と固有値のかけ算の和に分解できることを表しており、
この右辺を行列 $A$ の「スペクトル分解」と呼ぶ。
１番目と２番目の式は、３番目の式の $n=0,1$ の場合と考えることもできる。
** ユニタリ行列で対角化可能な場合（正規行列の場合）[#s017b088]
ユニタリ行列 $U$ に対して ${}^tUAU=\Lambda$ が対角形になるとき、
$U$ の列ベクトルは $A$ の固有ベクトルであり、
ユニタリ行列の列ベクトルは正規直交系をなすから、
$$\begin{aligned}
U=\Bigg(\underbrace{\underbrace{\bm e_1\ \bm e_2}_{V(\lambda_1)}\underbrace{\ \bm e_3\ }_{V(\lambda_2)}
\underbrace{\bm e_4\ \bm e_5\ \bm e_6}_{V(\lambda_3)}\ \dots\ \bm e_n}_\text{全体空間の正規直交基底}\Bigg)
\end{aligned}$$
などというように、それぞれの列ベクトルは対応する固有空間の正規直交基底となり、
それら全体を集めたものが全体空間の正規直交基底となる。
これは、全空間が固有空間の直交直和になることに対応している。
$$\begin{aligned}V=V(\lambda_1)\oplus V(\lambda_2)\oplus \dots\oplus V(\lambda_m)\end{aligned}$$
このとき、射影演算子 $P_{V(\lambda_k)}$ は基底ベクトルを使って簡単に求めることができ、
$$\begin{aligned}P_{V(\lambda_1)}=\bm e_1\bm e_1^\dagger+\bm e_2\bm e_2^\dagger\end{aligned}$$
$$\begin{aligned}P_{V(\lambda_2)}=\bm e_3\bm e_3^\dagger\end{aligned}$$
$$\begin{aligned}P_{V(\lambda_3)}=\bm e_4\bm e_4^\dagger+\bm e_5\bm e_5^\dagger+\bm e_6\bm e_6^\dagger\end{aligned}$$
・・・
などと表せる。
*** 例題 [#tb33e9c0]
$A=\begin{pmatrix}1&0&0&0\\0&3&2&-1\\0&2&0&2\\0&-1&2&3\end{pmatrix}$ を以下の手順でスペクトル分解せよ。
(1) 固有値を求め、小さい方から $\lambda_1,\lambda_2,\lambda_3,\dots$ とせよ。
(2) 対応する固有ベクトルを求めよ
(3) 固有ベクトルを正規直交化して、ユニタリ行列により $A$ を対角化せよ。
(4) それぞれの固有値に対応する固有空間 $V(\lambda_k)$
への射影行列 $P_{V(\lambda_k)}$ を求めよ。
(5) $\sum_k P_{V(\lambda_k)}=E$ を確かめよ。（$E$ は単位行列である）
(6) $A$ をスペクトル分解せよ。
*** 解答 (1) [#gd09808c]
$A$ は実対称行列すなわちエルミート行列であるから、
固有値は必ず実数になる。
$$\begin{aligned}
&|A-\lambda E|
=\begin{vmatrix}
1-\lambda&0&0&0\\
0&3-\lambda&2&-1\\
0&2&-\lambda&2\\
0&-1&2&3-\lambda
\end{vmatrix}\\
&=(1-\lambda)\begin{vmatrix}
3-\lambda&2&-1\\
2&-\lambda&2\\
{}-1&2&3-\lambda
\end{vmatrix}\ \ \leftarrow(1,1)\text{成分を使った次数の低下}\\
&=(1-\lambda)\begin{vmatrix}
4-\lambda&0&-4+\lambda\\
2&-\lambda&2\\
{}-1&2&3-\lambda
\end{vmatrix}\ \ \ \ \leftarrow \text{１行目から３行目を引いた}\\
&=(1-\lambda)(4-\lambda)\begin{vmatrix}
1&0&-1\\
2&-\lambda&2\\
{}-1&2&3-\lambda
\end{vmatrix}\ \ \ \ \leftarrow \text{１行目の因子}\ (4-\lambda)\ \text{を前に出した}\\
&=(1-\lambda)(4-\lambda)\begin{vmatrix}
1&0&0\\
2&-\lambda&4\\
{}-1&2&2-\lambda
\end{vmatrix}\ \ \ \ \leftarrow \text{１列目を３列目に足した}\\
&=(1-\lambda)(4-\lambda)\big[-\lambda(2-\lambda)-4\cdot 2\big]\\
&=(1-\lambda)(4-\lambda)(-8-2\lambda+\lambda)\\
&=(1-\lambda)(4-\lambda)(-2-\lambda)(4-\lambda)\\
&=(-2-\lambda)(1-\lambda)(4-\lambda)^2\\
\end{aligned}$$
したがって、$\lambda_1=-2,\lambda_2=1,\lambda_3=4\ (\text{二重})$
*** 解答 (2)：$\lambda_1$ について [#u3288e6d]
$$\begin{aligned}
(A-\lambda_1 E)\bm x=\begin{pmatrix}
3&0&0&0\\
0&5&2&-1\\
0&2&2&2\\
0&-1&2&5
\end{pmatrix}\begin{pmatrix}
x\\y\\z\\w
\end{pmatrix}=\bm 0
\end{aligned}$$
に対して、係数行列を同値変形すれば、
$$\begin{aligned}
\sim\begin{pmatrix}
1&0&0&0\\
0&1&1&1\\
0&5&2&-1\\
0&-1&2&5\\
\end{pmatrix}
\sim\begin{pmatrix}
1&0&0&0\\
0&1&1&1\\
0&0&-3&-6\\
0&0&3&6\\
\end{pmatrix}
\sim\begin{pmatrix}
1&0&0&0\\
0&1&1&1\\
0&0&1&2\\
0&0&0&0\\
\end{pmatrix}
\sim\begin{pmatrix}
1&0&0&0\\
0&1&0&-1\\
0&0&1&2\\
0&0&0&0\\
\end{pmatrix}
\end{aligned}$$
すなわち、
$
\begin{cases}
x=0\\
y-w=0\\
z+2w=0\\
0=0
\end{cases}
$ が成り立つ。
掃出せなかった $w$ をパラメータとすれば、
$
\bm x=w\begin{pmatrix}
0\\1\\-2\\1
\end{pmatrix}
$
が固有ベクトルの一般形である。
したがって、固有空間 $V(-2)$ は１次元で、基底は
$\bm b_1=\begin{pmatrix}
0\\1\\-2\\1
\end{pmatrix}$
$\bm b_1$ が元の方程式の解になっていること、つまり
$(A-\lambda_1E)\bm b_1=\bm 0$ を確かめれば検算になる。
*** 解答 (2)：$\lambda_2$ について [#qc0020b5]
$$
(A-\lambda_2 E)\bm x=\begin{pmatrix}
0&0&0&0\\
0&2&2&-1\\
0&2&-1&2\\
0&-1&2&2
\end{pmatrix}\begin{pmatrix}
x\\y\\z\\w
\end{pmatrix}=\bm 0\\
$$
について、係数行列を同値変形すれば、
$$
\sim\begin{pmatrix}
0&0&0&0\\
0&1&-2&-2\\
0&2&2&-1\\
0&2&-1&2\\
\end{pmatrix}
\sim\begin{pmatrix}
0&0&0&0\\
0&1&-2&-2\\
0&0&6&3\\
0&0&3&6\\
\end{pmatrix}
\sim\begin{pmatrix}
0&0&0&0\\
0&1&-2&-2\\
0&0&1&2\\
0&0&2&1\\
\end{pmatrix}
\sim\begin{pmatrix}
0&0&0&0\\
0&1&0&2\\
0&0&1&2\\
0&0&0&-3\\
\end{pmatrix}\sim\begin{pmatrix}
0&0&0&0\\
0&1&0&0\\
0&0&1&0\\
0&0&0&1\\
\end{pmatrix}
$$
すなわち、
$
\begin{cases}
0=0\\
y=0\\
z=0\\
w=0\\
\end{cases}
$
が成り立つ。
掃出せなかった $x$ をパラメータとすれば、
$\bm x=x\begin{pmatrix}
1\\0\\0\\0\end{pmatrix}$
が固有ベクトルの一般形である。
したがって、固有空間 $V(1)$ は１次元で、基底は
$\bm b_2=\begin{pmatrix}
1\\0\\0\\0\end{pmatrix}$
$\bm b_2$ が元の方程式の解になっていること、
つまり $(A-\lambda_2E)\bm b_2=\bm 0$
を確かめれば検算になる。
*** 解答 (2)：$\lambda_3$ について [#adcc6798]
$$
(A-\lambda_3 E)\bm x=\begin{pmatrix}
{}-3&0&0&0\\
0&-1&2&-1\\
0&2&-4&2\\
0&-1&2&-1
\end{pmatrix}\begin{pmatrix}
x\\y\\z\\w
\end{pmatrix}=\bm 0\\
$$
について、係数行列を同値変形すれば、
$
\sim\begin{pmatrix}
1&0&0&0\\
0&1&-2&1\\
0&0&0&0\\
0&0&0&0
\end{pmatrix}
$
したがって、
$
\begin{cases}
x=0\\
y-2z+w=0\\
0=0\\
0=0\\
\end{cases}
$
が成り立つ。
掃出せなかった $z,w$ をパラメータとすれば、
$\bm x=z\begin{pmatrix}
0\\2\\1\\0
\end{pmatrix}+w\begin{pmatrix}
0\\-1\\0\\1
\end{pmatrix}
$
が固有ベクトルの一般形である。
したがって、固有空間 $V(4)$ は２次元で、基底は
$\bm b_3=\begin{pmatrix}
0\\2\\1\\0\end{pmatrix},
\bm b_4=\begin{pmatrix}
0\\-1\\0\\1\end{pmatrix}$
$\bm b_3,\bm b_4$ が元の方程式の解になっていること、
すなわち $(A-\lambda_3E)\bm b_3=\bm 0,\,$
$(A-\lambda_3E)\bm b_4=\bm 0$ を確かめれば検算になる。
*** 解答 (2)：まとめ [#c01ca4b2]
$$
\bm b_1=\begin{pmatrix}
0\\1\\-2\\1\end{pmatrix}\ \in V(-2),\ {}
\bm b_1=\begin{pmatrix}
1\\0\\0\\0\end{pmatrix}\ \in V(1),\ {}
\bm b_3=\begin{pmatrix}
0\\2\\1\\0\end{pmatrix},
\bm b_4=\begin{pmatrix}
0\\-1\\0\\1\end{pmatrix}\ \in V(4)
$$
重複度１である $\lambda_1=-2,\ \lambda_2=1$ が１次元、~
重複度２である $\lambda_3=4$ が２次元になっていることに注意せよ。
*** 解答 (3) [#s6a3bf79]
ここでは $A$ が正規行列（対称行列）であるため、
異なる固有値に属する固有ベクトルは直交する。
すなわち、
$$\begin{aligned}
&\bm b_1\perp\bm b_2,\\
&\bm b_1\perp\bm b_3,\bm b_1\perp\bm b_4,\\
&\bm b_2\perp\bm b_3,\bm b_2\perp\bm b_4\\
\end{aligned}$$
は自動的に成り立つが、同じ固有値に対する固有ベクトルが直交するとは限らない。~
つまり、$\bm b_3\perp\bm b_4$ とは限らない。
実際、
$$\begin{aligned}
\big(\bm b_3,\bm b_4\big)=\bm b_3^\dagger\bm b_4=\Big(
0\ \ 2\ \ 1\ \ 0
\Big)\begin{pmatrix}
0\\-1\\0\\1
\end{pmatrix}
=-2\ne 0
\end{aligned}$$
となり、$\bm b_3\not\perp\bm b_4$ であることが確かめられる。
しかし、$\bm b_3,\bm b_4$ は一次独立であるため、
これら２つのベクトルに対してシュミットの直交化を適用し、
正規直交系を作ることはいつでも可能である。
$V(4)$ は線形空間で、和とスカラー倍に対して閉じているから、
シュミットの直交化によって得られるベクトルも、
やはり固有値 $4$ の固有ベクトルであることに注意せよ。
もちろん、直交するベクトル群を他の方法で見つけることができるならば
必ずしもシュミットの直交化を使う必要はない。
例えば $\bm b_3'=\bm b_3+\bm b_4=\begin{pmatrix}
0\\1\\1\\1
\end{pmatrix}$ は、$\bm b_3'\in V(4)$ かつ
$\bm b_3'\perp\bm b_4$ を満たす。
したがって、$\bm b_1,\bm b_2,\bm b_3',\bm b_4$ はすべて互いに直交する。
そこで、これらを正規化して、
$$\begin{aligned}
\bm e_1=\frac{1}{\sqrt 6}\begin{pmatrix}
0\\1\\-2\\1
\end{pmatrix},\ {}
\bm e_2=\begin{pmatrix}
1\\0\\0\\0
\end{pmatrix},\ {}
\bm e_3=\frac{1}{\sqrt 3}\begin{pmatrix}
0\\1\\1\\1
\end{pmatrix},\ {}
\bm e_4=\frac{1}{\sqrt 2}\begin{pmatrix}
0\\-1\\0\\1
\end{pmatrix}
\end{aligned}$$
として、正規直交基底 $\set{\bm e_1,\bm e_2,\bm e_3,\bm e_4}$ が得られる。
$A$ を対角化するユニタリ行列は、
$$\begin{aligned}U=\big(\bm e_1\ \ \bm e_2\ \ \bm e_3\ \ \bm e_4\big)=\begin{pmatrix}
0&1&0&0\\
1/\sqrt 6&0&1/\sqrt 3&-1/\sqrt 2\\
{}-2/\sqrt 6&0&1/\sqrt 3&0\\
1/\sqrt 6&0&1/\sqrt 3&1/\sqrt 2\\
\end{pmatrix}\end{aligned}$$
であり、
$$\begin{aligned}U^\dagger AU=\begin{pmatrix}
{}-2&&&\\
&1&&\\
&&4&\\
&&&4
\end{pmatrix}\end{aligned}$$
として対角化できる。
*** 解答 (4) [#bf376dda]
$$\begin{aligned}
P_{V(-2)}=\bm e_1\bm e_1^\dagger=
\frac{1}{6}\begin{pmatrix}
0\\1\\-2\\1
\end{pmatrix}\begin{pmatrix}
0&1&-2&1
\end{pmatrix}
=\frac{1}{6}\begin{pmatrix}
0&0&0&0\\
0&1&-2&1\\
0&-2&4&-2\\
0&1&-2&1
\end{pmatrix}
\end{aligned}$$
$$\begin{aligned}
P_{V(1)}=\bm e_2\bm e_2^\dagger=
\begin{pmatrix}
1\\0\\0\\0
\end{pmatrix}\begin{pmatrix}
1&0&0&0
\end{pmatrix}=
\begin{pmatrix}
1&0&0&0\\
0&0&0&0\\
0&0&0&0\\
0&0&0&0\\
\end{pmatrix}
\end{aligned}$$
$$\begin{aligned}
P_{V(4)}&=\bm e_3\bm e_3^\dagger+\bm e_4\bm e_4^\dagger=
\frac{1}{3}\begin{pmatrix}
0\\1\\1\\1
\end{pmatrix}\begin{pmatrix}
0&1&1&1\\
\end{pmatrix}+\frac{1}{2}\begin{pmatrix}
0\\-1\\0\\1
\end{pmatrix}\begin{pmatrix}
0&-1&0&1\\
\end{pmatrix}\\&=
\frac{1}{3}\begin{pmatrix}
0&0&0&0\\
0&1&1&1\\
0&1&1&1\\
0&1&1&1\\
\end{pmatrix}+
\frac{1}{2}\begin{pmatrix}
0&0&0&0\\
0&1&0&-1\\
0&0&0&0\\
0&-1&0&1\\
\end{pmatrix}=
\frac{1}{6}\begin{pmatrix}
0&0&0&0\\
0&5&2&-1\\
0&2&2&2\\
0&-1&2&5\\
\end{pmatrix}
\end{aligned}$$
*** 解答 (5) [#tb0992b3]
$$\begin{aligned}
&P_{V(-2)}+P_{V(1)}+P_{V(4)}=\\
&\frac{1}{6}\begin{pmatrix}
0&0&0&0\\
0&1&-2&1\\
0&-2&4&-2\\
0&1&-2&1
\end{pmatrix}+
\begin{pmatrix}
1&0&0&0\\
0&0&0&0\\
0&0&0&0\\
0&0&0&0\\
\end{pmatrix}+
\frac{1}{6}\begin{pmatrix}
0&0&0&0\\
0&5&2&-1\\
0&2&2&2\\
0&-1&2&5\\
\end{pmatrix}
=\begin{pmatrix}
1&0&0&0\\
0&1&0&0\\
0&0&1&0\\
0&0&0&1\\
\end{pmatrix}
\end{aligned}$$
*** 解答 (6) [#tb0992b3]
スペクトル分解は、
$$\begin{aligned}
A&=-2\cdot P_{V(-2)}+1\cdot P_{V(1)}+4\cdot P_{V(4)}\\
&=
{}-2\cdot\frac{1}{6}\begin{pmatrix}
0&0&0&0\\
0&1&-2&1\\
0&-2&4&-2\\
0&1&-2&1
\end{pmatrix}+
1\cdot\begin{pmatrix}
1&0&0&0\\
0&0&0&0\\
0&0&0&0\\
0&0&0&0\\
\end{pmatrix}+
4\cdot\frac{1}{6}\begin{pmatrix}
0&0&0&0\\
0&5&2&-1\\
0&2&2&2\\
0&-1&2&5\\
\end{pmatrix}
\end{aligned}$$
である。
検算してみると以下のようになって、確かに等号が成立することを確認できるが、
「スペクトル分解」はあくまでも固有値と射影演算子の積の和の形であるから、
かけ算を実行してまぜこぜにする前の形で解答を書かねばならない。
$$\begin{aligned}
(右辺)&=
{}-\frac{1}{3}\begin{pmatrix}
{}-3&0&0&0\\
0&1&-2&1\\
0&-2&4&-2\\
0&1&-2&1
\end{pmatrix}+
\frac{2}{3}\begin{pmatrix}
0&0&0&0\\
0&5&2&-1\\
0&2&2&2\\
0&-1&2&5\\
\end{pmatrix}\\
&=\frac{1}{3}\begin{pmatrix}
3&0&0&0\\
0&-1+10&2+4&-1-2\\
0&2+4&-4+4&2+4\\
0&-1-2&2+4&-1+10
\end{pmatrix}\\
&=\frac{1}{3}\begin{pmatrix}
3&0&0&0\\
0&9&6&-3\\
0&6&0&6\\
0&-3&6&9
\end{pmatrix}=
\begin{pmatrix}
1&0&0&0\\
0&3&2&-1\\
0&2&0&2\\
0&-1&2&3
\end{pmatrix}=A
\end{aligned}$$
* スペクトル分解の演習 [#g8aa83c0]
行列 $\displaystyle A=\frac19\begin{pmatrix}8&1&-4\\1&8&4\\-4&4&-7\end{pmatrix}$ をスペクトル分解せよ。
（解答例を準備中です）
[[解答例はこちら>固有値問題・固有空間・スペクトル分解/メモ]]
~
[[前の単元 ＜＜＜>線形代数II/射影・直和・直交直和]]
[[線形代数II]]
[[＞＞＞ 次の単元>線形代数II/行列の関数]]
* 質問・コメント [#d834c5f8]
#article_kcaptcha
**固有値に関して [#kfdb6286]
>[Math] (2014-01-29 (水) 22:40:17)~
~
初めまして。~
私は現在大学にてパターン認識を学び、研究している学生です。~
~
固有値に関して質問があります。~
固有値は工学的な応用の際に重要な役割があると伺いました。~
例えばパターン認識において部分空間法では次元の削減のために固有ベクトルを求め、固有値の大きい方からベクトルをピックアップし、任意の次元に削減します。~
このとき固有値の大きいほど重要な特徴ベクトルであるとされるため、このような操作をするようなのですが、なぜ固有値が大きいほど重要な特徴ベクトルであると言えるのでしょうか？~
線形代数初学者のため無知な質問かもしれませんが、どうかよろしくお願いいたします。~
//
- 固有ベクトルに対しては「行列とのかけ算の結果」を「固有値によるスカラー倍」により求められるわけですので、固有値がほぼゼロとなるような特徴ベクトルと行列とをかけ算すればその結果はゼロに近くなり、無視して良いことになります。逆に固有値が大きければその特徴ベクトルは行列とのかけ算の後も大きな値を持つことになりますので、無視できない、すなわち重要なベクトルであると考えられるのではないでしょうか？ -- [武内（管理人）] &new{2014-02-05 (水) 05:13:43};
#comment_kcaptcha
**≠が=/というふうに斜めの線の位置がズレている [#abb31861]
>[we] (2019-07-17 (水) 00:22:31)~
~
記事の内容に関係なくて申し訳ないのですが、iPhoneで見てると≠が=/というふうに斜めの線の位置がズレていて誤解する人がいそうです。。~
//
- ≠がずれないよう修正しました。ご指摘ありがとうございました。 -- [[武内（管理人）]] &new{2019-07-26 (金) 13:47:59};
#comment_kcaptcha
Counter: 150571 (from 2010/06/03),
today: 29,
yesterday: 75