射影・直和・直交直和 のバックアップ(No.20)

更新


前の単元 <<<                線形代数II                >>> 次の単元

ベクトルの成分

規格化されたベクトル \bm e に対して、ベクトル \bm x

  • \bm e に平行な成分 \bm x_{\parallel}=x_\parallel \bm e と、
  • \bm e に垂直な成分 \bm x_{\perp} とに分け、

\bm x=\bm x_{\parallel}+\bm x_{\perp}=x_\parallel \bm e+\bm x_{\perp} としたい。

成分分解.png

両辺に左から \bm e をかければ、

(\bm e,\bm x)=x_{\parallel}(\bm e,\bm e)+(\bm e,\bm x{\perp})=x_{\parallel}

が得られ、

\bm x_{\parallel}=(\bm e,\bm x)\bm e
\bm x_{\perp}=\bm x-\bm x_\parallel=\bm x-(\bm e,\bm x)\bm e

としてこれらのベクトルを求められる。
(同じことをグラム・シュミットの直交化で行った)

この \bm x_\parallel \bm x \bm e 方向成分と呼ぶ。

注意1

規格化されていない \bm v 方向の成分を求めるなら、

\bm x_{\parallel}=(\frac{\bm v}{\|\bm v\|},\bm x)\,\frac{\bm v}{\|\bm v\|}=\frac{(\bm v,\bm x)}{\|\bm v\|^2}\bm v

注意2

複素ベクトルに対しては (\bm x,\bm e)\ne(\bm e,\bm x) なので、 どちらから掛けるかが重要である。

(\bm e,\bm x)=(\bm e,x_\parallel \bm e)=x_{\parallel} だが、
(\bm x,\bm e)=(x_\parallel \bm e,\bm e)=\overline{x_{\parallel}} となってしまう。

注意3

この授業では (\bm a,k\bm b)=k(\bm a,\bm b) となる内積の公理を採用しているため 上記が正しいが、

多くの教科書では (k\bm a,\bm b)=k(\bm a,\bm b) を採用しているため、 そのような公理系では逆から掛ける必要がある。

射影演算子

&math( \bm x_{\parallel}&=(\bm e,\bm x)\bm e );

の右辺は 「数」×「ベクトル」 で、「ベクトルのスカラー倍」 として任意の線形空間において正しい形であるが、

数ベクトル空間においては、あるいは数ベクトル表現では、これを入れ替えると、

&math( \bm x_{\parallel}=\bm e(\bm e,\bm x) );

「n×1行列」×「1×1行列」で、行列のかけ算として正しい形になる。 (スカラーと1×1行列を同一視するのは1年生で学んだとおり)

さらに内積を行列の積で表わすと、

&math( \bm x_{\parallel}&=\bm e \{\bm e^\dagger \bm x\}\\ &=\{\bm e \bm e^\dagger\} \bm x\\ &=P_{\bm e} \bm x );

ただし、 P_{\bm e}=\bm e\bm e^\dagger である。

この行列は \bm x から \bm e 方向成分を取り出す行列であり、 「 \bm e 軸への射影演算子」と呼ばれる。

実際の形は、

&math( P_{\bm e}&=\bm e\bm e^\dagger= \begin{pmatrix} e_1\\e_2\\\vdots\\e_n \end{pmatrix} \begin{pmatrix} \overline{ e_1}&\overline{ e_2}&\dots&\overline{ e_n} \end{pmatrix}\\ &=\begin{pmatrix} e_1\overline{e_1}&e_1\overline{e_2}&\cdots&e_1\overline{e_n}\\ e_2\overline{e_1}&e_2\overline{e_2}&&\vdots\\ \vdots&&\ddots&\vdots\\ e_n\overline{e_1}&\cdots&\cdots&e_n\overline{e_n} \end{pmatrix} );

のような n\times n 行列になる。

射影.png

\bm e に垂直な光を \bm x に当てたとき、 \bm e 軸上にできる影が \bm x_\parallel であるという気持ちが込められている → 「射影」

射影演算子はエルミート行列になる。

上記の「具体的な形」を見て分かるとおり、

\big(P_{\bm e}\big)_{ij}=e_i \overline{e_j}

\big(P_{\bm e}\big)_{ji}=e_j \overline{e_i}=\overline{(e_i \overline{e_j})}

より、 \big(P_{\bm e}\big)_{ji}=\overline{\big(P_{\bm e}\big)_{ij}} であり、 射影演算子はエルミートであることが分かる。

以下、あるベクトルを「成分」に分ける話を一般化するのだが、 その前にいろいろ準備が必要になる。

復習1:線形空間

線形空間とは、ベクトルの和とスカラー倍について閉じた集合のことだった。

  • 任意の \bm x,\bm y\in V に対して、必ず \bm x+\bm y\in V
  • 任意の \bm x\in V,k\in K に対して、必ず k\bm x\in V

復習2:部分空間

線形空間の部分集合 W\subset V がベクトルの和とスカラー倍について閉じている場合、 W も線形空間となり、 W V の部分空間であるという。

\mathbb R^3 の部分空間:

  • 0次元の部分空間は原点のみからなる集合 \set{\bm 0}
  • 1次元の部分空間は原点を通る直線    \set{\bm p=s\bm a|s\in K}
  • 2次元の部分空間は原点を通る平面    \set{\bm p=s\bm a+t\bm b|s,t\in K}
  • 3次元の部分空間は \mathbb R^3 そのもの

同じ直線的でも、原点を通らない \set{\bm p=s\bm a+\bm b|s\in K} は線形空間にならない。(和やスカラー倍が元の集合からはみ出す)

復習3:集合の積と和

集合 A と集合 B の積と和は、

積(交わり)
A\cap B=\set{x|x\in A\,\mathrm{かつ}\,x\in B}
A および B の両方に含まれる要素の集合
和(結び)
A\cup B=\set{x|x\in A\,\mathrm{または}\,x\in B}
A あるいは B の少なくとも片方に含まれる要素の集合
積集合和集合.png

記号の覚え方:

  • x\in A\,\mathrm{かつ}\,x\in B 」は英語では「 x\in A\,\mathrm{and}\,x\in B
  • And の A と \cap とは似ている(でしょ?)

以下では、

2つの線形空間 W_1,W_2 はどちらもある線形空間 V の部分空間であり( W_1,W_2\subset V )、

W_1 の基底を B_1=\set{\bm b_{11},\bm b_{12},\dots,\bm b_{1n}} W_2 の基底を B_2=\set{\bm b_{21},\bm b_{22},\dots,\bm b_{2m}} とする。

交空間

W_1 W_2 の交わり W_1\cap W_2 は無条件で線形空間となり、 交空間と呼ばれる。

練習:
部分空間の積(交わり)がベクトルの和とスカラー倍について閉じていることを示せ。

$W_1\cap W_2\ne\{\bm 0\}$ は $W_1$ と $W_2$ の基底が線形従属であることの必要十分条件

W_1 W_2 はどちらも線形空間なので、 \bm 0 を含んでいる ( \bm 0\in W_1, \bm 0\in W_2 )。すなわち \bm 0\in W_1\cap W_2 W_1\cap W_2\ne\{\bm 0\} W_1 W_2 \bm 0 以外でも重なっているということ。

以下証明:

\bm x \in W_1\cap W_2 かつ \bm x\ne \bm 0 であるとする。 \bm x\in W_1,\bm x\in W_2 より、 \bm x

&math( \bm x&=c_{11}\bm b_{11}+c_{12}\bm b_{12}+\dots+c_{1n}\bm b_{1n}\hspace{1.13cm}\because\bm x\in W_1\\

    &=c_{21}\bm b_{21}+c_{22}\bm b_{22}+\dots+c_{2m}\bm b_{2m}\hspace{1cm}\because\bm x\in W_2

);

のように2種類の基底の一次結合として表せる。すると、

&math( c_{11}\bm b_{11}+c_{12}\bm b_{12}+\dots+c_{1n}\bm b_{1n}

  • c_{21}\bm b_{21}-c_{22}\bm b_{22}-\dots-c_{2n}\bm b_{2m}=\bm 0 );

\bm x\ne\bm 0 より、係数にはゼロでない物が含まれるから、 これは、 B_1 B_2 のベクトルを合わせると線形従属になることを示す。

逆に、$W_1\cap W_2=\{\bm 0\}$ は $W_1$ と $W_2$ の基底が線形独立であることの必要十分条件となる。

和集合は線形空間にならない

File not found: "ベクトルの成分1.png" at page "線形代数II/射影・直和・直交直和"[添付]

2つの1次元部分空間 W_1,W_2 の和集合 W_1\cup W_2 は、原点を通る2本の直線を合わせた集合。

この集合から2つのベクトルを取って和を作ると、集合から「はみ出してしまう」。 すなわち和集合はベクトル和について閉じていないため、線形空間ではない。

和空間

和集合をベクトル和について閉じるように拡大した線形空間が和空間 W_1+W_2 である。

W_1+W_2=\set{\bm x=\bm x_1+\bm x_2|\bm x_1\in W_1,\bm x_2\in W_2}  となる。

和空間は $W_1,W_2$ の基底ベクトルを合わせたベクトルで張られる

\bm x=\bm x_1+\bm x_2\in W_1+W_2 ただし \bm x_1\in W_1,\bm x_2\in W_2 のとき、

&math( \bm x=\underbrace{\sum_{k=1}^m x_{1k}\bm b_{1k}}_{\bm x_1}+

     \underbrace{\sum_{k=1}^m x_{2k}\bm b_{2k}}_{\bm x_2});

であり、任意の \bm x\in W_1+W_2 を、 W_1 W_2 の基底を合わせたベクトルの一次結合で表せる。

和空間の次元

W_1,W_2 の基底 B_1,B_2 を合わせたベクトルが一次独立であれば これらを合わせたベクトルが W_1+W_2 の基底となるため、

\dim (W_1+W_2)=\dim W_1+\dim W_2

であるが、一般には2つの空間の交わりがゼロにはならないため、

\dim (W_1+W_2)<\dim W_1+\dim W_2

となる。正確には、

\dim (W_1+W_2)=\dim W_1+\dim W_2-\dim(W_1\cap W_2)

である。(基底が線形独立なら \dim(W_1\cap W_2)=\dim(\set{\bm 0})=0 )

例:3次元空間に原点を通る2枚の平面 W_1,W_2 を考えると、これらはそれぞれ部分空間となる。 2枚が平行ではない場合、これらの和空間 W_1+W_2 は3次元空間全体であり、原点を通る交線が交空間 W_1\cap W_2 である。このとき、

&math( \underbrace{\dim(W_1+W_2)}_3=\underbrace{\dim W_1}_2+\underbrace{\dim W_2}_2-\underbrace{\dim(W_1\cap W_2)}_1 );

直和

  • W_1 の基底と W_2 の基底を合わせたベクトルが一次独立であるとき、
  • あるいは同じことであるが W_1\cap W_2=\set{\bm 0} のとき、

W_1,W_2 の基底を合わせると W_1+W_2 の基底となる。

このとき

W_1+W_2=W_1\dot +W_2

と書き、 W_1\dot +W_2 W_1 W_2 の直和という。

直和は和空間と対立する概念ではなく、 W_1 W_2 が上記の条件を満たしているときに、それらの和空間を直和と呼ぶということ。

成分分解

そのようにして作った W_1\dot +W_2 の基底により

&math( \bm x&=\underbrace{x_{11}\bm b_{11}+x_{12}\bm b_{12}+\cdots+x_{1n}\bm b_{1n}}_{\bm x_1\in W_1}+

      \underbrace{x_{21}\bm b_{21}+x_{22}\bm b_{22}+\cdots+x_{2n}\bm b_{2n}}_{\bm x_2\in W_2}\\

&=\bm x_1+\bm x_2 );

のように、任意の \bm x\in W_1\dot +W_2 を2つの成分 \bm x_1\in W_1 \bm x_2\in W_2 とに 一意に 分解できる。

逆に直和でないときには分解が一意に決まらないので、 直和の時だけ「成分分解」が定義されるということになる。

成分の値はもう一方の空間に依存する

成分分解のイメージは下図のようなものになる。

File not found: "ベクトルの成分1.png" at page "線形代数II/射影・直和・直交直和"[添付] File not found: "ベクトルの成分2.png" at page "線形代数II/射影・直和・直交直和"[添付]

同じベクトル \bm x
W_1 W_2 に分解したときの \bm x_1 と、
W_1 W_3 に分解したときの \bm x'_1 とは
一般には異なる値になる。

すなわち、ある部分空間の成分は、その部分空間だけでは決まらずに、他の部分空間の取り方にも依存する。

上記の P_{\bm e} とは違い、例えば \bm x から W_1 成分 \bm x_1 を求める演算子を W_1 の情報のみから簡単に求めることはできないことになる。

W_1 が2次元の時の成分分解のイメージは次の通り。

2D-1D.png

直交する空間

W_1 の任意の元が、 W_2 の任意の元と直交するとき、 W_1 W_2 とは直交すると言う。

直交直和

直交する2つの空間の和空間 W_1 + W_2 W_1 \oplus W_2 と書き、 W_2 の直交直和という。

このとき、 W_1,W_2 正規直交基底を合わせると W_1+W_2 正規直交基底となる。

直交直和の成分分解

直交直和の成分分解は簡単である。

&math( \bm x=\underbrace{\sum_{k=1}^n x_{1k}\bm b_{1k}}_{=\,\bm x_1 \in W_1}

    +\underbrace{\sum_{k=1}^m x_{2k}\bm b_{2k}}_{=\,\bm x_2 \in W_2});

という成分分解に対して、 \bm b_{1k}\perp \bm x_2 より x_{1k}=(\bm b_{1k},\bm x) と書けるからから、

&math( \bm x_1&=\sum_{k=1}^n (\bm b_{1k},\bm x)\bm b_{1k}\\

      &=\sum_{k=1}^n \bm b_{1k}(\bm b_{1k},\bm x)\\
      &=\sum_{k=1}^n \bm b_{1k}\bm b_{1k}^\dagger\bm x\\
      &=\left(\sum_{k=1}^n \bm b_{1k}\bm b_{1k}^\dagger\right)\bm x\\
      &=P_{W_1}\bm x\\

);

すなわち、 P_{W_1}=\sum_{k=1}^n \bm b_{1k}\bm b_{1k}^\dagger W_1\oplus W_2 から W_1 への射影演算子を表わすことになる。

射影演算子は W_1 の正規直交基底を1つ決めれば定まり、 W_2 に依存しないことに注意せよ。

直交直和でない場合には (\bm b_{1k},\bm x_2)=0 が必ずしも成り立たないため、 成分への分解がこれほど単純にならないことと対比して理解せよ

直交補空間

ある線形空間 V に対して、 V を含むような全体空間 U U=V\oplus W と表されるとき、 W V の「直交補空間」と呼び、 W=V^\perp と書く。

全体集合を、ある空間と、直交する補空間へと、分解するイメージである。

  V^\perp=\set{\bm x\in U|\forall\bm y\in V,(\bm x,\bm y)=0}

であるから、 V^\perp U,V から一意に決まる。

あるベクトル \bm x \bm e に平行な成分 \bm x_\parallel と垂直な成分 \bm x_\perp に分ける問題は、それぞれ線形空間 V=\set{\bm p=t\bm e|t\in K} とその直交補空間 V^\perp の成分への分解を表わしていたことになる。

一方、全体空間 U U=V\dot + W と表せるとき、 W V の(単なる)「補空間」と呼ぶが、こちらはあまり使われない。

性質

  • \bm x\in V のとき P_V\bm x=\bm x
  • \bm x\in V^\perp のとき P_V\bm x=\bm 0
  • E=P_V+P_{V^\perp} ← ∵ \bm x=P_V\bm x+P_{V^\perp}\bm x
  • P_V^2=P_V あるいは P_V(E-P_V)=O
    P_V\bm x\in V だから、 P_V^2\bm x=P_V\bm x
  • これは、 P_{V^\perp}=E-P_V であり、 P_VP_{V^\perp}=O であることからも理解できる

例1

\mathbb R^3 の部分空間として \bm a=\begin{pmatrix}1\\2\\3\end{pmatrix},\bm b=\begin{pmatrix}-1\\0\\1\end{pmatrix} で張られる空間 V=[\bm a,\bm b]\in \mathbb R^3 を考える。

(1) \mathbb R^3 から V への射影演算子を求めよ。

(2) 直行補空間 V^\perp を求めよ。

解答:

(1)

\bm b,\bm a から正規直交基底を作る。

(別解) \bm b,\bm a からシュミットの直交化を用いて正規直交系を作る。

\bm e_1=\frac{1}{\|\bm b\|}\bm b=\frac{1}{\sqrt 2}\begin{pmatrix}-1\\0\\1\end{pmatrix}

&math( \bm f_2 &=\bm a-(\bm e_1,\bm a)\bm e_1\\ &=\bm a-\bm e_1\bm e_1^\dagger\bm a\\ &=\begin{pmatrix}1\\2\\3\end{pmatrix}

  • \frac{1}{2}\begin{pmatrix}-1\\0\\1\end{pmatrix}\begin{pmatrix}-1&0&1\end{pmatrix}\begin{pmatrix}1\\2\\3\end{pmatrix}\\ &=\begin{pmatrix}1\\2\\3\end{pmatrix}-\begin{pmatrix}-1\\0\\1\end{pmatrix}\\ &=\begin{pmatrix}2\\2\\2\end{pmatrix}

);

&math( \bm e_2=\frac{1}{\|\bm f_2\|}\bm f_2=\frac{1}{\sqrt{3}}\begin{pmatrix}1\\1\\1\end{pmatrix} );

したがって、求める射影演算子は

&math( P_V&=\bm e_1\bm e_1^\dagger+\bm e_2\bm e_2^\dagger\\ &=\frac{1}{2}\begin{pmatrix}-1\\0\\1\end{pmatrix}\begin{pmatrix}-1&0&1\end{pmatrix}

  1. \frac{1}{3}\begin{pmatrix}1\\1\\1\end{pmatrix}\begin{pmatrix}1&1&1\end{pmatrix}\\ &=\frac{1}{2}\begin{pmatrix}1&0&-1\\0&0&0\\-1&0&1\end{pmatrix}
  2. \frac{1}{3}\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}\\ &=\frac{1}{6}\begin{pmatrix}5&2&-1\\2&2&2\\-1&2&5\end{pmatrix} );

各射影演算子がエルミート(実数行列では対称)になっていることにも注目。

演習

3次元空間に原点を通る平面 x+y+z=0 を考える。 この平面への射影演算子を求めよ。

一般化

上記は2つの部分空間について交空間、和空間、直和、直交直和を考えたが、 2つ以上の部分空間がある場合にも自然に拡張できる。

交空間 W_1\cap W_2\cap \dots\cap W_r 全空間の共通部分
和空間 W_1+W_2+\dots+W_r 一般には一次従属な空間たちを内包する空間
直和 W_1\dot +W_2\dot +\dots\dot +W_r 一次独立な空間たちを内包する空間
直交直和 W_1\oplus W_2\oplus \dots\oplus W_r 直交する空間たちを内包する空間

たとえば W_1\cap W_2\cap \dots\cap W_r=(\dots((W_1\cap W_2)\cap W_3)\cap \dots)\cap W_r の意味である。

交空間や和空間を表わす \cap,+ が 複数の部分空間から新しい部分空間を作る演算子であるのに比べて、 直和や直交直和を表わす \dot +,\oplus は 「線形空間同士の演算」 ではなく、 和空間の演算子で結ばれる空間達が特殊な条件を満たすことを 表現しているに過ぎない。この違いに注意せよ。

射影に関する簡易まとめ

全体空間 U から
部分空間 V への射影演算子 P_V は、

\bm x\in U に対して、

  • P_V \bm x\in V かつ
  • \forall \bm y\in V に対して (\bm x-P_V\bm x,\bm y)=0

を満たす線形演算子。

これは、 U=V\oplus V^\perp として V の直交補空間 V^\perp を導入して

\bm x-P_V\bm x\in V^\perp

とも書ける。

数ベクトル空間において射影演算は正方行列 P_V のかけ算で表せて、 V の正規直交基底の1つを \set{\bm e_1,\bm e_2,\dots,\bm e_n} として、

&math( P_V&=\sum_{k=1}^n \bm e_k\bm e_k^\dagger\\

  &=\sum_{k=1}^n \bm e'_k{\bm e'_k}^\dagger

);

である。ただし \set{\bm e'_k} は別の正規直交基底で、演算子の形は基底の取り方に依らず同じになる。

U=W_1\oplus W_2\oplus\dots\oplus W_r のように多数の空間に別れているときは、例えば

U=W_1\oplus \underbrace{W_2\oplus\dots\oplus W_r}_{W_1^\perp}=W_1\oplus W_1^\perp

である。

前の単元 <<<                線形代数II                >>> 次の単元

質問・コメント





Counter: 119070 (from 2010/06/03), today: 25, yesterday: 0