射影・直和・直交直和 のバックアップ(No.25)

更新


前の単元 <<<                線形代数II                >>> 次の単元

目次

ベクトルの成分

規格化されたベクトル \bm e に対して、ベクトル \bm x

  • \bm e に平行な成分 \bm x_{\parallel}=x_\parallel \bm e と、
  • \bm e に垂直な成分 \bm x_{\perp} とに分け、

\bm x=\bm x_{\parallel}+\bm x_{\perp}=x_\parallel \bm e+\bm x_{\perp} としたい。

成分分解.png

両辺に左から \bm e をかければ、

(\bm e,\bm x)=x_{\parallel}(\bm e,\bm e)+(\bm e,\bm x{\perp})=x_{\parallel}

が得られ、

\bm x_{\parallel}=(\bm e,\bm x)\bm e
\bm x_{\perp}=\bm x-\bm x_\parallel=\bm x-(\bm e,\bm x)\bm e

としてこれらのベクトルを求められる。
(同じことをグラム・シュミットの直交化で行った)

この \bm x_\parallel \bm x \bm e 方向成分と呼ぶ。

注意1

規格化されていない \bm v 方向の成分を求めるなら、

\bm x_{\parallel}=(\frac{\bm v}{\|\bm v\|},\bm x)\,\frac{\bm v}{\|\bm v\|}=\frac{(\bm v,\bm x)}{\|\bm v\|^2}\bm v

注意2

複素ベクトルに対しては (\bm x,\bm e)\ne(\bm e,\bm x) なので、 どちらから掛けるかが重要である。

(\bm e,\bm x)=(\bm e,x_\parallel \bm e)=x_{\parallel} だが、
(\bm x,\bm e)=(x_\parallel \bm e,\bm e)=\overline{x_{\parallel}} となってしまう。

注意3

この授業では (\bm a,k\bm b)=k(\bm a,\bm b) となる内積の公理を採用しているため 上記が正しいが、

多くの教科書では (k\bm a,\bm b)=k(\bm a,\bm b) を採用しているため、 そのような公理系では左ではなく右から掛ける必要がある。

射影演算子

\bm x から \bm x_\parallel を求める演算、

P_{\bm e}:\bm x\mapsto\bm x_\parallel

は線形写像であり、 P_{\bm e} は射影演算と呼ばれる。

あるいは P_{\bm e}\bm x のように \bm x に左から掛ける書き方を想定して、射影演算子と呼ばれる。

正規直交基底 A の下での数ベクトル表現を考えれば、

&math( \bm x_{\parallel A} &=(\bm e_A,\bm x_A)\bm e_A\\ &=\{\bm e_A^\dagger \bm x_A\}\bm e_A\\ &=\bm e_A\{\bm e_A^\dagger \bm x_A\}\\ &=\{\bm e_A\bm e_A^\dagger\}\bm x_A\\ &=P_{\bm eA}\bm x_A\\ );

すなわち P_{\bm e} の表現は、

&math( P_{\bm eA}&=\bm e_A\bm e^\dagger_A= \begin{pmatrix} e_1\\e_2\\\vdots\\e_n \end{pmatrix} \begin{pmatrix} \overline{ e_1}&\overline{ e_2}&\dots&\overline{ e_n} \end{pmatrix}\\ &=\begin{pmatrix} e_1\overline{e_1}&e_1\overline{e_2}&\cdots&e_1\overline{e_n}\\ e_2\overline{e_1}&e_2\overline{e_2}&&\vdots\\ \vdots&&\ddots&\vdots\\ e_n\overline{e_1}&\cdots&\cdots&e_n\overline{e_n} \end{pmatrix} );

のような n\times n 行列になる。

射影.png

\bm e に垂直な光を \bm x に当てたとき、 \bm e 軸上にできる影が \bm x_\parallel であるという気持ちが込められている → 「射影」

射影演算子はエルミート行列になる。

上記の「具体的な形」を見て分かるとおり、

\big(P_{\bm e}\big)_{ij}=e_i \overline{e_j}

\big(P_{\bm e}\big)_{ji}=e_j \overline{e_i}=\overline{(e_i \overline{e_j})}

より、 \big(P_{\bm e}\big)_{ji}=\overline{\big(P_{\bm e}\big)_{ij}} であり、 射影演算子はエルミートであることが分かる。

以下、あるベクトルを「成分」に分ける話を一般化するのだが、 その前にいろいろ準備が必要になる。

復習1:線形空間

線形空間とは、ベクトルの和とスカラー倍について閉じた集合のことだった。

  • 任意の \bm x,\bm y\in V に対して、必ず \bm x+\bm y\in V
  • 任意の \bm x\in V,k\in K に対して、必ず k\bm x\in V

復習2:部分空間

線形空間の部分集合 W\subset V がベクトルの和とスカラー倍について閉じている場合、 W も線形空間となり、 W V の部分空間であるという。

\mathbb R^3 の部分空間:

  • 0次元の部分空間は原点のみからなる集合 \set{\bm 0}
  • 1次元の部分空間は原点を通る直線    \set{\bm p=s\bm a|s\in K}
  • 2次元の部分空間は原点を通る平面    \set{\bm p=s\bm a+t\bm b|s,t\in K}
  • 3次元の部分空間は \mathbb R^3 そのもの

同じ直線的でも、原点を通らない \set{\bm p=s\bm a+\bm b|s\in K} は線形空間にならない。(和やスカラー倍が元の集合からはみ出す)

復習3:集合の積と和

集合 A と集合 B の積と和は、

積(交わり)
A\cap B=\set{x|x\in A\,\mathrm{かつ}\,x\in B}
A および B の両方に含まれる要素の集合
A キャップ B と読む。
和(結び)
A\cup B=\set{x|x\in A\,\mathrm{または}\,x\in B}
A あるいは B の少なくとも片方に含まれる要素の集合
A カップ B と読む。
積集合和集合.png


記号の覚え方:

  • x\in A\,\mathrm{かつ}\,x\in B 」は英語では「 x\in A\,\mathrm{and}\,x\in B
  • And の A と \cap とは似ている(でしょ?)

以下では、

K 上の線形空間 U の部分空間 V,W を考え、
\{\bm v_1,\bm v_2,\dots,\bm v_n\} \{\bm w_1,\bm w_2,\dots,\bm w_m\} をそれぞれの基底とする。
( \dim V=n,\ \dim W=m )

交空間 $V\cap W$

交わり V\cap W は線形空間であり、交空間と呼ばれる。

証明:
\bm x,\bm y\in V\cap W,\ k\in K とする。
\bm x,\bm y\in V かつ \bm x,\bm y\in W であるから、
\bm x+\bm y\in V かつ \bm x+\bm y\in W また k\bm x\in V かつ k\bm x\in W
すなわち、 \bm x+\bm y, k\bm x\in V\cap W であり、
V\cap W はベクトルの和とスカラー倍に対して閉じている。

和集合 $V\cup W$ は線形空間にならない

例えば V=[\bm v], W=[\bm w] とすれば、どちらも原点を通る直線状の空間であり、 V\cup W は2つの直線を合わせたものとなる。

しかし \bm v\parallel \bm w でない限り、 \bm v,\bm w\in V\cup W にもかかわらず、 \bm v+\bm w\not\in V\cup W となる。

File not found: "ベクトルの成分1.png" at page "線形代数II/射影・直和・直交直和"[添付]

すなわち和集合は必ずしもベクトル和に対して閉じていない。

和空間 $V+W$

和集合をベクトル和について閉じるように拡大した線形空間が和空間 V+W である。

V+W\equiv\set{\bm x=\bm x_V+\bm x_W|\bm x_V\in V,\bm x_W\in W}

和空間の次元

詳しい証明は省くが、

\dim (V+W)=\dim V+\dim W-\dim(V\cap W)

の関係がある。

これは、 V\cap W の基底にいくつかベクトルを加えて V の基底を作成し、 同じ V\cap W の基底にいくつかベクトルを加えて W の基底を作成したならば、 それらすべてのベクトルを合わせると V+W の基底となる、という事実による。

例:

3次元空間に2つの2次元空間(原点を通る2枚の平面) V,W を取れば、2つの平面が平行でない限りその和空間は3次元空間全体となる。このとき2平面の交線が V\cap W に相当し、これは原点を通る直線つまり1次元空間となる。すなわち、

&math( \underbrace{\dim(V+W)}_3=\underbrace{\dim V}_2+\underbrace{\dim W}_2-\underbrace{\dim(V\cap W)}_1 );

$V\cap W=\{\bm 0\}$ の場合

上記について詳しい証明をしない代わりに、 V\cap W=\{\bm 0\} の場合について解説を加える。

すなわち、 V\cap W=\{\bm 0\} であるとき、 V の基底と W の基底を合わせたベクトル列は一次独立であり、 それが V+W の基底となるため、 \dim(V+W)=\dim V+\dim W が成り立つ。

以下に証明を与える。

前半部分の証明:

V\cap W=\{\bm 0\} であるとき、 V の基底と W の基底を合わせたベクトル列は一次独立である」

c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n+d_1\bm w_1+d_2\bm w_2+\dots+d_m\bm w_m=\bm 0

と仮定すると、

c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n=-d_1\bm w_1-d_2\bm w_2-\dots-d_m\bm w_m

を得る。このベクトルを \bm x と置けば、 \bm x V の基底の線形結合で表されるため \bm x\in V であり、 W の基底の線形結合で表されるため \bm x\in W であるから、 すなわち、 \bm x\in V\cap W である。

V\cap W=\{\bm 0\} のときこれは \bm x=\bm 0 を表すから、

c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n=-d_1\bm w_1-d_2\bm w_2-\dots-d_m\bm w_m=\bm 0

を得る。 \{\bm v_i\} \{\bm w_i\} は線形独立であるから、 これはすなわち c_1=c_2=\dots=c_n=d_1=d_2=\dots=d_m=0 を表す。

以上で線形結合をゼロと置くことで係数が全てゼロであることを導けたため、 2つの基底を合わせたベクトル列が線形独立であることが証明された。

後半部分の証明:

V の基底と W の基底を合わせたベクトル列が V+W の基底となる」

\bm x\in V+W であれば、

&math(\bm x&=\bm x_V+\bm_W\\ &=(c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n)+(d_1\bm w_1+d_2\bm w_2+\dots+d_m\bm w_m)\\ );

と表されるから、このベクトル列は V+W を張り、さらに一次独立であるなら基底となる。

前半部分の逆の証明:

実は「 V の基底と W の基底を合わせた時に一次独立であれば V\cap W=\{\bm 0\} である」も成り立ち、この2つは同値な条件になっている。

\bm x\in V\cap W とすれば、 \bm x\in V かつ \bm x\in W であるから、

&math(\bm x&=c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n\\ &=d_1\bm w_1+d_2\bm w_2+\dots+d_m\bm w_m\\ );

のように、2通りの表し方が可能となる。

ここから &math(c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n- d_1\bm w_1-d_2\bm w_2-\dots-d_m\bm w_m=\bm 0 );

を得るが、これらのベクトルが一次独立であるなら係数は全てゼロでなければならないから、 \bm x=\bm 0 を得る。

すなわち、 V\cap W=\{\bm 0\} である。

直和 $V\dot +W$

V\cap W=\{\bm 0\} のとき、「和空間 V+W V W の直和になっている」と言い、 V+W=V\dot +W と書く。

V の基底と W の基底を合わせたベクトルが一次独立であるとき、と言い換えても同じである。

  • 直和は新たな演算ではない
  • 「~~の場合に V+W は直和となる」「~~の場合には直和にならない」といった文脈で用いられる。

成分分解

\bm x\in V\dot +W であるとき、

\bm x=\bm x_V+\bm x_W

の分解は一意に定まる。

以下その証明:

\bm x&=\bm x_V+\bm x_W\\&=\bm x_V'+\bm x_W'\\

とすれば、

\underbrace{(\bm x_V-\bm x_V')}_{\in V}+\underbrace{(\bm x_W-\bm x_W')}_{\in W}=\bm 0

であり、それぞれを基底で展開すれば上と同様にすべての係数がゼロとなり、

\bm x_V-\bm x_V'=\bm 0 および \bm x_W-\bm x_W'=\bm 0 を得る。

逆に V+W が直和でなければ \bm \delta\in V\cap W を使って

&math(\bm x&=\bm x_V+\bm x_W\\ &=(\bm x_V+\bm \delta)+(\bm x_W-\bm \delta)\\ &=\bm x_V'+\bm x_W' );

として異なる分解が可能となる。

成分の値はもう一方の空間に依存する

成分分解のイメージは下図のようなものになる。

File not found: "ベクトルの成分1.png" at page "線形代数II/射影・直和・直交直和"[添付] File not found: "ベクトルの成分2.png" at page "線形代数II/射影・直和・直交直和"[添付]

同じベクトル \bm x
V W に分解したときの \bm x_V と、
V W' に分解したときの \bm x'_V とは
一般には異なる値になる。

すなわち、ある部分空間の成分は、その部分空間だけでは決まらずに、他の部分空間の取り方にも依存する。

すなわち上記の P_{\bm e} とは違い、例えば \bm x から V 成分 \bm x_V を求める演算子 P_V V の情報のみから簡単に求めることはできないことになる。

V が2次元の時の成分分解のイメージは次の通り。

2D-1D.png

直交する空間

V の任意の元が、 W の任意の元と直交するとき、 V W とは直交すると言う。

直交直和 $V \oplus W$

2つの空間が直交する時、その和空間 V + W V W の直交直和であるといい、 を V+W=V \oplus W と書く。

このとき、 V,W 正規直交基底を合わせると V \oplus W 正規直交基底となる。

V の正規直交基底は W の正規直交基底とも直交するから

直交直和の成分分解

直交直和の成分分解は簡単である。

&math( \bm x=\underbrace{\sum_{k=1}^n c_{k}\bm v_{k}}_{\,\bm x_V}

    +\underbrace{\sum_{k=1}^m d_{k}\bm w_{k}}_{\,\bm x_W});

に対して、 c_k=(\bm v_k,\bm x) より、

\bm x_V&=\sum_{k=1}^n (\bm v_k,\bm x)\bm v_k

であるから、数ベクトル空間に対しては

&math(\bm x_V

      &=\underbrace{\left(\sum_{k=1}^n \bm v_k\bm v_k^\dagger\right)}_{P_V}\bm x

);

すなわち、 P_V=\sum_{k=1}^n \bm v_k\bm v_k^\dagger V\oplus W から V への射影演算子となる。

射影演算子は V のみに対する情報だけから定まり、 W に依存しないことに注意せよ。

エルミート行列の和はエルミート行列であるから、 P_V もエルミートである。

直交補空間

全体空間 U U=V\oplus W と表されるとき、 W V の「直交補空間」と呼び、 W=V^\perp と書く。

ある線形空間 V に対してその補空間は一意に定まる。

  V^\perp=\set{\bm x\in U|\forall\bm y\in V,(\bm x,\bm y)=0}

つまり全体集合を、ある空間と、それに直交する補空間と、に分解することはいつも可能である。

あるベクトル \bm x \bm e に平行な成分 \bm x_\parallel と垂直な成分 \bm x_\perp に分ける問題は、それぞれ線形空間 V=\set{\bm p=t\bm e|t\in K} とその直交補空間 V^\perp の成分への分解を表わしていたことになる。

一方、全体空間 U U=V\dot + W と表せるとき、 W V の(単なる)「補空間」と呼ぶが、こちらはあまり使われない。

性質

  • \bm x\in V のとき P_V\bm x=\bm x
  • \bm x\in V^\perp のとき P_V\bm x=\bm 0
  • E=P_V+P_{V^\perp} ← ∵ \bm x=P_V\bm x+P_{V^\perp}\bm x
  • P_V^2=P_V あるいは P_V(E-P_V)=O
    P_V\bm x\in V だから、 P_V^2\bm x=P_V\bm x
  • これは、 P_{V^\perp}=E-P_V であり、 P_VP_{V^\perp}=O であることからも理解できる

\mathbb R^3 の部分空間として \bm a=\begin{pmatrix}1\\2\\3\end{pmatrix},\bm b=\begin{pmatrix}-1\\0\\1\end{pmatrix} で張られる空間 V=\big[\bm a,\bm b\big]\subset \mathbb R^3 を考える。

(1) \mathbb R^3 から V への射影演算子を求めよ。

(2) 直交補空間 V^\perp に正規直交基底を定めよ。

解答:

(1)

\bm a,\bm b から正規直交基底を作る。

\bm b と垂直なのは \begin{pmatrix}s\\t\\s\end{pmatrix} の形のベクトルであることに注意して、 \bm c=\bm a-\bm b=\begin{pmatrix}2\\2\\2\end{pmatrix} とすれば これは V 内にあり \bm b と垂直なベクトルである。

これらを正規化すれば、

 &math(\bm e_1=\frac{1}{\sqrt 2}\begin{pmatrix}-1\\0\\1\end{pmatrix}, \bm e_2=\frac{1}{\sqrt 3}\begin{pmatrix}1\\1\\1\end{pmatrix});

として正規直交基底が得られる。

したがって、求める射影演算子は

&math( P_V&=\bm e_1\bm e_1^\dagger+\bm e_2\bm e_2^\dagger\\ &=\frac{1}{2}\begin{pmatrix}-1\\0\\1\end{pmatrix}\begin{pmatrix}-1&0&1\end{pmatrix}

  1. \frac{1}{3}\begin{pmatrix}1\\1\\1\end{pmatrix}\begin{pmatrix}1&1&1\end{pmatrix}\\ &=\frac{1}{2}\begin{pmatrix}1&0&-1\\0&0&0\\-1&0&1\end{pmatrix}
  2. \frac{1}{3}\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}\\ &=\frac{1}{6}\begin{pmatrix}5&2&-1\\2&2&2\\-1&2&5\end{pmatrix} );

各射影演算子がエルミート(実数行列では対称)になっていることにも注目せよ。


別解:

\bm b,\bm a からシュミットの直交化を用いて正規直交系を作る。

\bm e_1=\frac{1}{\|\bm a\|}\bm a=\frac{1}{\sqrt 14}\begin{pmatrix}1\\2\\3\end{pmatrix}

&math( \bm f_2 &=\bm b-(\bm e_1,\bm b)\bm e_1\\ &=\begin{pmatrix}-1\\0\\1\end{pmatrix}

  • \frac{1}{14}\cdot 2\cdot\begin{pmatrix}1\\2\\3\end{pmatrix}\\ &=\frac{1}{7}\begin{pmatrix}-8\\-2\\4\end{pmatrix} =\frac{2}{7}\begin{pmatrix}-4\\-1\\2\end{pmatrix} );

&math( \bm e_2=\frac{1}{\|\bm f_2\|}\bm f_2=\frac{1}{\sqrt{21}}\begin{pmatrix}-4\\-1\\2\end{pmatrix} );

&math( P_V&= \frac{1}{14}\begin{pmatrix}1\\2\\3\end{pmatrix}\begin{pmatrix}1&2&3\end{pmatrix}+ \frac{1}{21}\begin{pmatrix}-4\\-1\\2\end{pmatrix}\begin{pmatrix}-4&-1&2\end{pmatrix}\\ &=\frac{1}{14}\begin{pmatrix}1&2&3\\&4&6\\&&9\end{pmatrix}+ \frac{1}{21}\begin{pmatrix}16&4&-8\\&1&-2\\&&4\end{pmatrix}\\ &=\frac{1}{42}\begin{pmatrix}3+32&6+8&9-16\\&12+2&18-4\\&&27+8\end{pmatrix}\\ &=\frac{1}{42}\begin{pmatrix}35&14&-7\\&14&14\\&&35\end{pmatrix}\\ &=\frac{1}{6}\begin{pmatrix}5&2&-1\\2&2&2\\-1&2&5\end{pmatrix}\\ );

射影演算子はエルミートになるため、左下部分の計算は省略した。

P_V の形は正規直交基底の取り方によらないことに注目せよ。

(2) \mathbb R^3 が3次元、 V が2次元なので、 V^\perp は1次元となる。

\bm e_1,\bm e_2 に垂直なベクトルを1つ挙げれば例えば、 \begin{pmatrix}1\\-2\\1\end{pmatrix}

したがって、

  V^\perp=\Big[\begin{pmatrix}1\\-2\\1\end{pmatrix}\Big]

である。正規直交基底はこれを正規化して、

  \Big\{\frac{1}{\sqrt 6}\begin{pmatrix}1\\-2\\1\end{pmatrix}\Big\}

このとき、

 &math( P_{V^\perp}&=\frac{1}{6}\begin{pmatrix}1\\-2\\1\end{pmatrix}\begin{pmatrix}1&-2&1\end{pmatrix}\\ &=\frac{1}{6}\begin{pmatrix}1&-2&1\\-2&4&-2\\1&-2&1\end{pmatrix} );

であり、 P_V+P_{V^\perp}=E となることが確かめられる。

演習

3次元空間に原点を通る平面 x+y+z=0 を考える。 この平面への射影演算子を求めよ。 またその直交補空間を求めよ。

一般化

以上の話は2つ以上の部分空間がある場合にも拡張できて、以下の通りである。

交空間 V_1\cap V_2\cap \dots\cap V_r 全空間の共通部分
和空間 V_1+V_2+\dots+V_r 一般には一次従属な空間たちを内包する空間
直和 V_1\dot +V_2\dot +\dots\dot +V_r 一次独立な空間たちの和空間
直交直和 V_1\oplus V_2\oplus \dots\oplus V_r 直交する空間たちの和空間

たとえば V_1\cap V_2\cap \dots\cap V_r=(\dots((V_1\cap V_2)\cap V_3)\cap \dots)\cap V_r の意味である。

\cap + が複数の部分空間から新しい部分空間を作る演算子であるのに比べて、 \dot + \oplus は 「線形空間同士の演算」 ではなく、 和空間を形成する空間が特殊な条件を満たすことを表現しているに過ぎない。

この違いに注意せよ。

質問・コメント





Counter: 119069 (from 2010/06/03), today: 24, yesterday: 0