射影・直和・直交直和 の履歴(No.34)
更新- 履歴一覧
- 差分 を表示
- 現在との差分 を表示
- ソース を表示
- 線形代数II/射影・直和・直交直和 へ行く。
目次†
ベクトルの成分†
規格化されたベクトル に対して、ベクトル を
- に平行な成分 と、
- に垂直な成分 とに分け、
としたい。
両辺に左から をかければ、
が得られ、
としてこれらのベクトルを求められる。
(同じことをグラム・シュミットの直交化で行った)
この を の への射影と呼ぶ。
に垂直な光を に当てたとき、 軸上にできる影が であるという気持ちが込められている → 「射影」
注意1†
規格化されていない 方向の成分を求めるなら、 だから、
注意2†
複素ベクトルに対しては なので、 どちらから掛けるかが重要である。
だが、
となってしまう。
注意3†
この授業では となる内積の公理を採用しているため 上記が正しいが、
多くの教科書では を採用しているため、 そのような公理系では左ではなく右から掛ける必要がある。
射影演算子†
から を求める演算、
は線形変換であり、 は射影変換あるいは射影演算子と呼ばれる。
正規直交基底 の下での数ベクトル表現を考えれば、
&math( (\bm a_A,\bm b_A)&=\sum_k^n \overline{a_k}b_k=\begin{pmatrix}\overline a_1&\overline a_2&\dots&\overline a_n\end{pmatrix} \begin{pmatrix}b_1\\b_2\\\vdots\\b_n\end{pmatrix}={}^t\overline {\bm a_A}\bm b_A=\bm a_A^\dagger\bm b_A );
となることを用いて、
&math( (\bm x_{\parallel})_A &=(\bm e_A,\bm x_A)\bm e_A\\ &=\{\bm e_A^\dagger \bm x_A\}\bm e_A\\ &=\bm e_A\{\bm e_A^\dagger \bm x_A\}\hspace{1cm}\because \{\ \}内はスカラー\\ &=\{\bm e_A\bm e_A^\dagger\}\bm x_A\hspace{1cm}\because 結合法則\\ &=(P_{\bm e})_A\,\bm x_A\\ );
すなわち の表現は、任意の正規直交基底 に対して次のように表せる。
&math( (P_{\bm e})_A&=\bm e_A\bm e^\dagger_A= \begin{pmatrix} e_1\\e_2\\\vdots\\e_n \end{pmatrix} \begin{pmatrix} \overline{ e_1}&\overline{ e_2}&\dots&\overline{ e_n} \end{pmatrix}\\ &=\begin{pmatrix} e_1\overline{e_1}&e_1\overline{e_2}&\cdots&e_1\overline{e_n}\\ e_2\overline{e_1}&e_2\overline{e_2}&&\vdots\\ \vdots&&\ddots&\vdots\\ e_n\overline{e_1}&\cdots&\cdots&e_n\overline{e_n} \end{pmatrix} );
例†
の 方向成分を求めよう。
を用いて、
&math( P_{\bm v}=P_{\bm e}=\bm e\bm e^\dagger =\frac{1}{2}\begin{pmatrix}1\\-1\\0\end{pmatrix}\begin{pmatrix}1&-1&0\end{pmatrix} =\frac{1}{2}\begin{pmatrix}1&-1&0\\-1&1&0\\0&0&0\end{pmatrix} );
&math(\bm x_\parallel&=P_{\bm v}\bm x\\ &=\frac{1}{2}\begin{pmatrix}1&-1&0\\-1&1&0\\0&0&0\end{pmatrix}\begin{pmatrix}x\\y\\z\end{pmatrix} =\frac{1}{2}\begin{pmatrix}x-y\\-x+y\\0\end{pmatrix} =\frac{x-y}{2}\begin{pmatrix}1\\-1\\0\end{pmatrix}\hspace{1cm}\parallel \bm v );
&math(\bm x_\perp&=\bm x-\bm x_\parallel\\ &=\begin{pmatrix}x\\y\\z\end{pmatrix}-\frac{x-y}{2}\begin{pmatrix}1\\-1\\0\end{pmatrix} =\begin{pmatrix}(x+y)/2\\(x+y)/2\\z\end{pmatrix}\hspace{1cm}\perp \bm v );
射影演算子はエルミートになる。†
&math( (P_{\bm e})_A^\dagger=\big(\bm e_A\bm e_A^\dagger\big)^\dagger=\big(\bm e_A^\dagger\big)^\dagger\bm e_A^\dagger=\bm e_A\bm e_A^\dagger=(P_{\bm e})_A );
より、射影演算子の表現行列はエルミートである。
このとき、任意のベクトル に対して
&math( (\bm x,P_{\bm e}\bm y)=(P_{\bm e}^\dagger\bm x,\bm y)=(P_{\bm e}\bm x,\bm y) );
が成り立ち、このような演算子はエルミート演算子と呼ばれる。
$n$ 次元空間への射影を考える†
ここまで、あるベクトルに平行な直線(一次元空間)への射影を考えたが、 以下では平面への射影や、もっと一般に 次元空間への射影を考える。
そのためにまずはいくつか準備を行う。
復習1:線形空間†
上の線形空間とは、ベクトルの和とスカラー倍について閉じた集合のことだった。
- 任意の
に対して、必ず
↔ から を導けるということ - 任意の
に対して、必ず
↔ から を導けるということ
復習2:部分空間†
線形空間の部分集合 がベクトルの和とスカラー倍について閉じている場合、 も線形空間となり、 は の部分空間であるという。
の部分空間:
- 0次元の部分空間は原点のみからなる集合
- 1次元の部分空間は原点を通る直線
- 2次元の部分空間は原点を通る平面
- 3次元の部分空間は そのもの
同じ直線的でも、原点を通らない は線形空間にならない。(和やスカラー倍が元の集合からはみ出す)
復習3:集合の積と和†
集合 と集合 の積と和は、
|
記号の覚え方:
- 「 」は英語では「 」
- And の A と とは似ている(でしょ?)
以下、$U$ の部分空間 $V,W$ について考える†
上の線形空間
の部分空間
を考え、
,
をそれぞれの基底とする。
(
)
交空間 $V\cap W$†
2つの線形空間の交わり は常に線形空間になり、交空間と呼ばれる。
証明:
とする。
かつ であるから、
かつ また かつ
すなわち、 であり、
はベクトルの和とスカラー倍に対して閉じている。
交わり が空集合になることはない。
線形空間は必ず を含むから、常に である。
のとき、
和集合 $V\cup W$ はベクトル和に対して閉じていないことがある†
例えば図のように、2つの1次元空間 の和集合 は、 原点で交わる2本の直線の形をしている。
上から2つのベクトルを取り
とすれば、
でない限り、
である。
すなわち、和集合は必ずしも線形空間にならない
和空間 $V+W$†
和集合をベクトル和について閉じるように拡大した線形空間が和空間 である。
これは の元と の元の和で表せる任意のベクトルを含む集合となる。
はそれぞれ、 の基底 の線形結合として表せるから、 は
&math( \bm x&=\bm x_V+\bm x_W\\ &=\underbrace{\sum_{k=1}^n c_k\bm v_k}_{\bm x_V}+
\underbrace{\sum_{k=1}^m d_k\bm w_k}_{\bm x_W}
);
のように の基底を合わせた線形結合として表せる。
すなわち、 の基底ベクトルすべてで「張られる」空間が和空間である。
和空間の次元†
厳密な証明は省くが、
の関係がある。
これは、 の基底にいくつかベクトルを加えて の基底を作成し、 同じ の基底にいくつかベクトルを加えて の基底を作成したならば、 それらすべてのベクトルを合わせると の基底となる、という事実による。
例:
右図の平面状の の和空間は3次元空間全体となる。また2平面の交線が に相当する。すなわち、
&math( \underbrace{\dim(V+W)}_3=\underbrace{\dim V}_2+\underbrace{\dim W}_2-\underbrace{\dim(V\cap W)}_1 );
直和 $V\dot +W$†
上記より、 のとき、 となる。
このとき「和空間 は と の直和になっている」と言い、
と書く。
- 直和は新たな演算ではない
- 「~~の場合に は直和となる」「~~の場合には直和にならない」といった文脈で用いられる。
-
の基底と
の基底を合わせると、そのまま
の基底になる
↔
成分分解の一意性†
任意の に対して、
の分解は一意に定まる。
これは、 を使えば
&math(\bm x&=\bm x_V+\bm x_W\\ &=(\bm x_V+\bm \delta)+(\bm x_W-\bm \delta)\\ &=\bm x_V'+\bm x_W' );
のように異なる分解 を作れるが、 直和であれば に限るから、 常に となる、ということ。
線形独立な空間†
直和は「線形独立な空間」の和空間のイメージになる。
成分の値はもう一方の空間に依存する†
成分分解のイメージは下図のようなものになる。
同じベクトル
を
と
に分解したときの
と、
と
に分解したときの
とは
一般には異なる値になる。
すなわち、ある部分空間の成分は、その部分空間だけでは決まらずに、他の部分空間の取り方にも依存する。
すなわち、上記の とは違って、 の情報のみから を求めることはできない。
が2次元の時の成分分解のイメージは次の通り。
直交する空間†
の任意の元が、 の任意の元と直交するとき、 と とは直交すると言う。
のすべての基底ベクトルが、
のすべての基底ベクトルと直交することと同義。
直交直和 $V \oplus W$†
2つの空間が直交する時、 を と の「直交直和」であるといい、
と書く。
このとき、 の正規直交基底を合わせると の正規直交基底となる。
∵ の正規直交基底が の正規直交基底とも直交するから
当然、直交直和は直和でもある。
直交直和の成分分解†
直交直和の成分分解は簡単である。 が正規直交基底であるとすると、
&math( \bm x&=\underbrace{\sum_{k=1}^n c_{k}\bm v_{k}}_{\,\bm x_V}
+\underbrace{\sum_{k=1}^m d_{k}\bm w_{k}}_{\,\bm x_W}\\
&=c_k\bm v_k+\underbrace{\sum_{k'\ne k}^n c_{k'}\bm v_{k'}+\sum_{k'=1}^m d_{k'}\bm w_{k'}}_{\perp\bm v_k} );
のように、 を取り出せば、残りの部分は と直交するから、 は の 方向成分である。
すると、上で見た任意の から 方向成分を取り出す1次元射影演算子 を使って と書けるから、
&math( \bm x_V &=\sum_{k=1}^n P_{\bm v_k}\bm x\\ &=\left(\sum_{k=1}^n P_{\bm v_k}\right)\bm x\\ &=P_V\bm x );
すなわち、
が から への射影演算子となる。
数ベクトルに対しては上で見たとおり
である。
射影演算子は の情報だけから定まり、 に依存しないことに注意せよ。
エルミート演算子の和はエルミート演算子になるから、 の和である もエルミートである。
空間が直交しない一般の直和の場合にも「逆基底」を考えることにより、 直交直和の場合とほとんど同じように射影や成分分解が可能である。 → 発展:線形代数II/非直交基底の成分分解
直交補空間†
全体空間 が と表されるとき、 を の「直交補空間」と呼び、 と書く。
ある線形空間 に対してその補空間は一意に定まる。
つまり全体集合を、ある空間と、それに直交する補空間と、に分解することはいつも可能である。
あるベクトル を に平行な成分 と垂直な成分 に分ける問題は、それぞれ線形空間 とその直交補空間 の成分への分解を表わしていたことになる。
一方、全体空間 を と表せるとき、 を の(単なる)「補空間」と呼ぶが、こちらはあまり使われない。
射影演算子の性質†
- のとき
- のとき
- ← ∵
-
あるいは
∵ だから、 - これは、 であり、 であることからも理解できる
例†
の部分空間として で張られる空間 を考える。
(1) から への射影演算子を求めよ。
(2) 直交補空間 に正規直交基底を定めよ。
解答 (1)†
から正規直交基底を作る。
と垂直なのは の形のベクトルであることに注意して、 とすれば これは 内にあり と垂直なベクトルである。
これらを正規化すれば、
&math(\bm e_1=\frac{1}{\sqrt 2}\begin{pmatrix}-1\\0\\1\end{pmatrix}, \bm e_2=\frac{1}{\sqrt 3}\begin{pmatrix}1\\1\\1\end{pmatrix});
として正規直交基底が得られる。
したがって、求める射影演算子は
&math( P_V&=\bm e_1\bm e_1^\dagger+\bm e_2\bm e_2^\dagger\\ &=\frac{1}{2}\begin{pmatrix}-1\\0\\1\end{pmatrix}\begin{pmatrix}-1&0&1\end{pmatrix}
- \frac{1}{3}\begin{pmatrix}1\\1\\1\end{pmatrix}\begin{pmatrix}1&1&1\end{pmatrix}\\ &=\frac{1}{2}\begin{pmatrix}1&0&-1\\0&0&0\\-1&0&1\end{pmatrix}
- \frac{1}{3}\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}\\ &=\frac{1}{6}\begin{pmatrix}5&2&-1\\2&2&2\\-1&2&5\end{pmatrix} );
各射影演算子がエルミート(実数行列では対称)になっていることにも注目せよ。
解答 (1) 別解†
からシュミットの直交化を用いて正規直交系を作る。
&math( \bm f_2 &=\bm b-(\bm e_1,\bm b)\bm e_1\\ &=\begin{pmatrix}-1\\0\\1\end{pmatrix}
- \frac{1}{14}\cdot 2\cdot\begin{pmatrix}1\\2\\3\end{pmatrix}\\ &=\frac{1}{7}\begin{pmatrix}-8\\-2\\4\end{pmatrix} =\frac{2}{7}\begin{pmatrix}-4\\-1\\2\end{pmatrix} );
&math( \bm e_2=\frac{1}{\|\bm f_2\|}\bm f_2=\frac{1}{\sqrt{21}}\begin{pmatrix}-4\\-1\\2\end{pmatrix} );
&math( P_V&= \frac{1}{14}\begin{pmatrix}1\\2\\3\end{pmatrix}\begin{pmatrix}1&2&3\end{pmatrix}+ \frac{1}{21}\begin{pmatrix}-4\\-1\\2\end{pmatrix}\begin{pmatrix}-4&-1&2\end{pmatrix}\\ &=\frac{1}{14}\begin{pmatrix}1&2&3\\&4&6\\&&9\end{pmatrix}+ \frac{1}{21}\begin{pmatrix}16&4&-8\\&1&-2\\&&4\end{pmatrix}\\ &=\frac{1}{42}\begin{pmatrix}3+32&6+8&9-16\\&12+2&18-4\\&&27+8\end{pmatrix}\\ &=\frac{1}{42}\begin{pmatrix}35&14&-7\\&14&14\\&&35\end{pmatrix}\\ &=\frac{1}{6}\begin{pmatrix}5&2&-1\\2&2&2\\-1&2&5\end{pmatrix}\\ );
射影演算子はエルミートになるため、左下部分の計算は省略した。
の形は正規直交基底の取り方によらないことに注目せよ。
解答 (2)†
が3次元、 が2次元なので、 は1次元となる。
に垂直なベクトルを1つ挙げれば例えば、
したがって、
である。正規直交基底はこれを正規化して、
このとき、
&math( P_{V^\perp}&=\frac{1}{6}\begin{pmatrix}1\\-2\\1\end{pmatrix}\begin{pmatrix}1&-2&1\end{pmatrix}\\ &=\frac{1}{6}\begin{pmatrix}1&-2&1\\-2&4&-2\\1&-2&1\end{pmatrix} );
であり、 となることが確かめられる。
演習†
3次元空間に原点を通る平面 を考える。 この平面への射影演算子を求めよ。 またその直交補空間を求めよ。
解答例†
まず平面内に基底を取る†
この「原点を通る平面」は2次元部分空間となるから、 平面内に2つの一次独立なベクトルを取れば、 それが平面に対応する線形空間の基底となる。
を満たせば良いから、例えば、
&math(\begin{pmatrix}
1\\-1\\0
\end{pmatrix},
\begin{pmatrix}
0\\-1\\1
\end{pmatrix}
);
など、条件を満たすベクトルを「
を &math(\begin{pmatrix} 1&1&1 \end{pmatrix}\begin{pmatrix} x\\y\\z \end{pmatrix}=\bm 0 ); の形に書いて、掃出し法により係数行列を階段化する。
今の場合は元の &math(\begin{pmatrix} 1&1&1 \end{pmatrix}); がすでに階段行列であり、1列目は掃出しの完了した形になっているから、 掃出しの行えなかった列に対応する をパラメータと見て、
&math(\begin{cases} x=-y-z\\ y=y\\ z=z \end{cases});
すなわち、
&math(\bm x=y\begin{pmatrix}
- 1\\1\\0 \end{pmatrix}+z\begin{pmatrix}
- 1\\0\\1 \end{pmatrix});
とすれば、2つのベクトル &math(\bm b_1=\begin{pmatrix}
- 1\\1\\0 \end{pmatrix}, \bm b_2=\begin{pmatrix}
- 1\\0\\1 \end{pmatrix}); がこの空間の基底となることが明らかである。
基底を正規直交化する†
これらを直交化するのも暗算で行っても良いが、 シュミットの直交化を使えばどんな場合にも必ず実行できて、
&math(\bm f_1=b_1=\begin{pmatrix}
- 1\\1\\0 \end{pmatrix});
&math(\bm e_1=\frac{\bm f_1}{\|\bm f_1\|}=\frac{1}{\sqrt 2}\begin{pmatrix}
- 1\\1\\0 \end{pmatrix});
&math( \bm f_2&=\bm b_2-\big(\bm e_1,\bm b_2\big)\bm e_1\\ &=\begin{pmatrix}
- 1\\0\\1 \end{pmatrix}-\frac{1}{2}\underbrace{\overline{\begin{pmatrix}
- 1&1&0 \end{pmatrix}}\begin{pmatrix}
- 1\\0\\1 \end{pmatrix}}_{=\,1}\cdot\begin{pmatrix}
- 1\\1\\0 \end{pmatrix}\\ &=\frac{1}{2}\begin{pmatrix}
- 1\\-1\\2 \end{pmatrix} );
&math( \bm e_2=\frac{\bm f_2}{\|\bm f_2\|}=\frac{1}{\sqrt 6}\begin{pmatrix}
- 1\\-1\\2 \end{pmatrix} );
途中で、転置されたベクトルの上に線が引いてあるのは 複素共役を取る演算であるが、ここでは実ベクトルなので値は変わらない。
したがって、 の正規直交基底は、
&math(\set{\bm e_1,\bm e_2}=\Bigg\{\ \frac{1}{\sqrt 2}\begin{pmatrix}
- 1\\1\\0 \end{pmatrix},\ \frac{1}{\sqrt 6}\begin{pmatrix}
- 1\\-1\\2 \end{pmatrix}\ \Bigg\} );
正規直交基底から射影演算子を作る†
&math( P_V&=\bm e_1\bm e_1^\dagger+\bm e_2\bm e_2^\dagger= \frac{1}{2}\begin{pmatrix}
- 1\\1\\0 \end{pmatrix}\overline{\begin{pmatrix}
- 1&1&0 \end{pmatrix}}+ \frac{1}{6}\begin{pmatrix}
- 1\\-1\\2 \end{pmatrix}\overline{\begin{pmatrix}
- 1&-1&2 \end{pmatrix}}\\ &=\frac{1}{2}\begin{pmatrix} 1&-1&0\\
- 1&1&0\\ 0&0&0\\ \end{pmatrix}+ \frac{1}{6}\begin{pmatrix} 1&1&-2\\ 1&1&-2\\
- 2&-2&4\\ \end{pmatrix}= \frac{1}{6}\begin{pmatrix} 4&-2&-2\\
- 2&4&-2\\
- 2&-2&4\\ \end{pmatrix}\\ &= \frac{1}{3}\begin{pmatrix} 2&-1&-1\\
- 1&2&-1\\
- 1&-1&2\\ \end{pmatrix} );
この に任意の をかければ、
&math( P_V\begin{pmatrix} x\\y\\z \end{pmatrix}= \frac{x}{3}\begin{pmatrix} 2\\-1\\-1 \end{pmatrix}+ \frac{y}{3}\begin{pmatrix}
- 1\\2\\-1 \end{pmatrix}+ \frac{z}{3}\begin{pmatrix}
- 1\\-1\\2 \end{pmatrix} );
となるが、右辺に現れる3つのベクトルはすべて を満たしており、 確かに となることが確認できる。
直交補空間を見つける†
直交補空間 は、 の任意の元と直交するベクトルを集めた集合である。
&math( V^\perp=\set{\bm x|\forall\bm y\in V,(\bm x,\bm y)=0} );
は と表せるから、
は を表し、 任意の すなわち任意の についてこれが成り立つには、
が必要十分条件となる。すなわち、
&math( V^\perp=\set{\bm x|\bm x\perp\bm e_1\ \mathrm{and}\ \bm x\perp\bm e_2} );
のすべての基底と直交するベクトルを集めた集合が である。
&math(\begin{cases}
- x+y=0\\
- x-y+2z=0 \end{cases});
の係数行列を同値変形して、
&math(\begin{pmatrix}
- 1&1&0\\
- 1&-1&2 \end{pmatrix}\sim \begin{pmatrix} 1&-1&0\\ 0&-2&2 \end{pmatrix}\sim \begin{pmatrix} 1&-1&0\\ 0&1&-1 \end{pmatrix}\sim \begin{pmatrix} 1&0&-1\\ 0&1&-1 \end{pmatrix} );
すなわち、&math(\begin{cases} x-z=0\\ y-z=0 \end{cases});
掃出せなかった列に対応する をパラメータとすれば、
&math(\bm x=z\begin{pmatrix} 1\\1\\1 \end{pmatrix} );
すなわち の正規直交基底は &math(\Bigg\{\ \frac{1}{\sqrt 3}\begin{pmatrix} 1\\1\\1 \end{pmatrix}\ \Bigg\});
そもそも を与える条件式 は &math( \Big(\ \bm x,\ \begin{pmatrix} 1\\1\\1 \end{pmatrix}\ \Big)=0 ); という条件であるから、
が &math(\begin{pmatrix} 1\\1\\1 \end{pmatrix}); に平行な1次元空間となることは当然のことである。
一般化†
以上の話は2つ以上の部分空間がある場合にも拡張できて、以下の通りである。
交空間 | 全空間の共通部分 | |
和空間 | 一般には一次従属な空間たちを内包する空間 | |
直和 | 一次独立な空間たちの和空間 | |
直交直和 | 直交する空間たちの和空間 |
たとえば などの意味であるが、これらの演算子には結合法則や交換法則が成り立ち、 , などとなる。
や が複数の部分空間から新しい部分空間を作る演算子であるのに比べて、 や は 「線形空間同士の演算」 ではなく、 和空間を形成する空間が特殊な条件を満たすことを表現しているに過ぎない。
この違いに注意せよ。