射影・直和・直交直和 のバックアップの現在との差分(No.23)

更新


  • 追加された行はこの色です。
  • 削除された行はこの色です。
[[前の単元 <<<>線形代数II/内積と計量空間]]
               [[線形代数II]]
               [[>>> 次の単元>線形代数II/固有値問題・固有空間・スペクトル分解]]

* 目次 [#xf03612b]

#contents
#mathjax
&katex();

* ベクトルの成分 [#x61c2758]

規格化されたベクトル &math(\bm e); に対して、ベクトル &math(\bm x); を 
- &math(\bm e); に平行な成分 &math(\bm x_{\parallel}=x_\parallel \bm e); と、
- &math(\bm e); に垂直な成分 &math(\bm x_{\perp}); とに分け、
#ref(射影.png,right,around,40%);

&math(\bm x=\bm x_{\parallel}+\bm x_{\perp}=x_\parallel \bm e+\bm x_{\perp}); としたい。
規格化されたベクトル $\bm e$ に対して、ベクトル $\bm x$ を 
- $\bm e$ に平行な成分 $\bm x_{\parallel}=x_\parallel \bm e$ と、
- $\bm e$ に垂直な成分 $\bm x_{\perp}$ とに分解して、

&ref(成分分解.png,,33%);
$\bm x=\bm x_{\parallel}+\bm x_{\perp}$ と表したい。

両辺に左から &math(\bm e); をかければ、
両辺に左から $\bm e$ をかければ、

&math((\bm e,\bm x)=x_{\parallel}(\bm e,\bm e)+(\bm e,\bm x{\perp})=x_{\parallel});
$$\begin{aligned}(\bm e,\bm x)=x_{\parallel}(\bm e,\bm e)+(\bm e,\bm x_{\perp})=x_{\parallel}\end{aligned}$$

が得られ、

&math(\bm x_{\parallel}=(\bm e,\bm x)\bm e);~
&math(\bm x_{\perp}=\bm x-\bm x_\parallel=\bm x-(\bm e,\bm x)\bm e);
$$\bm x_{\parallel}=\underbrace{(\bm e,\bm x)}_{\text{大きさ}}\,\underbrace{\bm e\rule[-3pt]{0pt}{0pt}}_\text{向き}$$
$$\begin{aligned}\bm x_{\perp}=\bm x-\bm x_\parallel=\bm x-(\bm e,\bm x)\bm e\end{aligned}$$

としてこれらのベクトルを求められる。~
(同じことをグラム・シュミットの直交化で行った)

この &math(\bm x_\parallel); を &math(\bm x); の &math(\bm e); 方向成分と呼ぶ。
この $\bm x_\parallel$ を $\bm x$ の $\bm e$ への正射影と呼ぶ(直交射影あるいは単に射影とも)。

*** 注意1 [#r5af3ba1]
$\bm e$ に垂直な光を $\bm x$ に当てたとき、
$\bm e$ 軸上にできる影が $\bm x_\parallel$ 
であるという気持ちが込められている → 「射影」

規格化されていない &math(\bm v); 方向の成分を求めるなら、
#clear

&math(\bm x_{\parallel}=(\frac{\bm v}{\|\bm v\|},\bm x)\,\frac{\bm v}{\|\bm v\|}=\frac{(\bm v,\bm x)}{\|\bm v\|^2}\bm v);~
*** 注意1 [#he07ef1e]

*** 注意2 [#s8228082]
例えば $xy$ 平面上のベクトル $\bm v=\begin{pmatrix}2\\3\end{pmatrix}$
の「$\bm v$ の $x$ 方向成分 は $\begin{pmatrix}2\\0\end{pmatrix}$ である」と言う場合と
「$\bm v$ の $x$ 方向成分 は $2$ である」と言う場合と があるので、
どちらを指しているのかは文脈から読み取るように。

複素ベクトルに対しては &math((\bm x,\bm e)\ne(\bm e,\bm x)); なので、
*** 注意2 [#r5af3ba1]

規格化されていない $\bm v$ 方向の成分を求めるなら、$\bm e=\bm v/\|\bm v\|$ だから、

$$\begin{aligned}\bm x_{\parallel}=(\frac{\bm v}{\|\bm v\|},\bm x)\,\frac{\bm v}{\|\bm v\|}=\frac{(\bm v,\bm x)}{\|\bm v\|^2}\bm v\end{aligned}$$

*** 注意3 [#s8228082]

複素ベクトルに対しては $(\bm x,\bm e)\ne(\bm e,\bm x)$ なので、
どちらから掛けるかが重要である。

&math((\bm e,\bm x)=(\bm e,x_\parallel \bm e)=x_{\parallel}); だが、~
&math((\bm x,\bm e)=(x_\parallel \bm e,\bm e)=\overline{x_{\parallel}}); となってしまう。
$(\bm e,\bm x)=(\bm e,x_\parallel \bm e)=x_{\parallel}$ だが、~
$(\bm x,\bm e)=(x_\parallel \bm e,\bm e)=\overline{x_{\parallel}}$ となってしまう。

*** 注意3 [#p72a2888]
*** 注意4 [#p72a2888]

この授業では &math((\bm a,k\bm b)=k(\bm a,\bm b)); となる内積の公理を採用しているため
この授業では $(\bm a,k\bm b)=k(\bm a,\bm b)$ となる内積の公理を採用しているため
上記が正しいが、

多くの教科書では &math((k\bm a,\bm b)=k(\bm a,\bm b)); を採用しているため、
そのような公理系では左ではなく右から掛ける必要がある。
$(k\bm a,\bm b)=k(\bm a,\bm b)$ を採用する場合には左ではなく右から掛ける必要がある。

* 射影演算子 [#c9c77b82]

&math(\bm x); から &math(\bm x_\parallel); を求める演算、
$\bm x$ から $\bm e$ に平行な成分 $\bm x_\parallel$ を求める演算、

&math(P_{\bm e}:\bm x\mapsto\bm x_\parallel);
$$P_{\bm e}:\bm x\mapsto\bm x_\parallel\text{  あるいは同じことだが  }P_{\bm e}:\bm x\mapsto(\bm e,\bm x)\bm e$$

は線形写像であり、&math(P_{\bm e}); は射影演算と呼ばれる。
は線形変換であり、$P_{\bm e}$ は射影変換あるいは射影演算子と呼ばれる。

あるいは &math(P_{\bm e}\bm x); のように &math(\bm x); 
に左から掛ける書き方を想定して、射影演算子と呼ばれる。
ある正規直交基底 $A$ の下で射影変換の行列表現を求めよう。数ベクトル $\bm a_A,\bm b_A$ の標準内積に対して、

正規直交基底 &math(A); の下での数ベクトル表現を考えれば、
$$\begin{aligned}
(\bm a_A,\bm b_A)&=\sum_k^n \overline{a_k}b_k=\begin{pmatrix}\overline a_1&\overline a_2&\dots&\overline a_n\end{pmatrix}
\begin{pmatrix}b_1\\b_2\\\vdots\\b_n\end{pmatrix}={}^t\overline {\bm a_A}\bm b_A=\bm a_A^\dagger\bm b_A
\end{aligned}$$ 

&math(
\bm x_{\parallel A}
となることを用いて、

$$\begin{aligned}
(\bm x_{\parallel})_A
&=(\bm e_A,\bm x_A)\bm e_A\\
&=\{\bm e_A^\dagger \bm x_A\}\bm e_A\\
&=\bm e_A\{\bm e_A^\dagger \bm x_A\}\\
&=\{\bm e_A\bm e_A^\dagger\}\bm x_A\\
&=P_{\bm eA}\bm x_A\\
);
&=\bm e_A\{\bm e_A^\dagger \bm x_A\}\hspace{1cm}\because \{\ \}\,\text{部は}1\times 1\text{行列}\\
&=\{\bm e_A\bm e_A^\dagger\}\bm x_A\hspace{1cm}\because \text{結合法則}\\
&=(P_{\bm e})_A\,\bm x_A\\
\end{aligned}$$

すなわち &math(P_{\bm e}); の表現は、
すなわち $P_{\bm e}$ の表現は、任意の正規直交基底 $A$ 
に対して次のように表せる。

&math(
P_{\bm eA}&=\bm e_A\bm e^\dagger_A=
$$\begin{aligned}
(P_{\bm e})_A&=\bm e_A\bm e^\dagger_A=
\begin{pmatrix}
e_1\\e_2\\\vdots\\e_n
\end{pmatrix}
\begin{pmatrix}
\overline{ e_1}&\overline{ e_2}&\dots&\overline{ e_n}
\end{pmatrix}\\
&=\begin{pmatrix}
e_1\overline{e_1}&e_1\overline{e_2}&\cdots&e_1\overline{e_n}\\
e_2\overline{e_1}&e_2\overline{e_2}&&\vdots\\
\vdots&&\ddots&\vdots\\
e_n\overline{e_1}&\cdots&\cdots&e_n\overline{e_n}
\end{pmatrix}
);
\end{aligned}$$

のような &math(n\times n); 行列になる。

&attachref(射影.png,,33%);
*** 例 [#p94d13e4]

&math(\bm e); に垂直な光を &math(\bm x); に当てたとき、
&math(\bm e); 軸上にできる影が &math(\bm x_\parallel); 
であるという気持ちが込められている → 「射影」
$\bm x=\begin{pmatrix}x\\y\\z\end{pmatrix}$ の $\bm v=\begin{pmatrix}1\\-1\\0\end{pmatrix}$ 方向成分を求めよう。

** 射影演算子はエルミート行列になる。 [#tee56cfe]
$\bm e=\frac{1}{\|\bm v\|}\bm v=\frac{1}{\sqrt 2}\begin{pmatrix}1\\-1\\0\end{pmatrix}$ を用いて普通にやれば、

上記の「具体的な形」を見て分かるとおり、
$$
\bm x_\parallel=(\bm e,\bm x)\bm e=\frac{x-y}2\begin{pmatrix}1\\-1\\0\end{pmatrix}
$$

&math(\big(P_{\bm e}\big)_{ij}=e_i \overline{e_j});
同じことを射影演算子を求めて行えば、

&math(\big(P_{\bm e}\big)_{ji}=e_j \overline{e_i}=\overline{(e_i \overline{e_j})});
$$
P_{\bm v}=P_{\bm e}=\bm e\bm e^\dagger
=\frac{1}{2}\begin{pmatrix}1\\-1\\0\end{pmatrix}\begin{pmatrix}1&-1&0\end{pmatrix}
=\frac{1}{2}\begin{pmatrix}1&-1&0\\-1&1&0\\0&0&0\end{pmatrix}
$$

より、&math(\big(P_{\bm e}\big)_{ji}=\overline{\big(P_{\bm e}\big)_{ij}}); であり、
射影演算子はエルミートであることが分かる。
$$\begin{aligned}\bm x_\parallel&=P_{\bm v}\bm x\\
&=\frac{1}{2}\begin{pmatrix}1&-1&0\\-1&1&0\\0&0&0\end{pmatrix}\begin{pmatrix}x\\y\\z\end{pmatrix}
=\frac{1}{2}\begin{pmatrix}x-y\\-x+y\\0\end{pmatrix}
=\frac{x-y}{2}\begin{pmatrix}1\\-1\\0\end{pmatrix}\hspace{1cm}\parallel \bm v
\end{aligned}$$

以下、あるベクトルを「成分」に分ける話を一般化するのだが、
その前にいろいろ準備が必要になる。
$\bm v$ に垂直成分を求めれば、

* 復習1:線形空間 [#y64f3022]
$$\begin{aligned}\bm x_\perp&=\bm x-\bm x_\parallel\\
&=\begin{pmatrix}x\\y\\z\end{pmatrix}-\frac{x-y}{2}\begin{pmatrix}1\\-1\\0\end{pmatrix}
=\begin{pmatrix}(x+y)/2\\(x+y)/2\\z\end{pmatrix}
\end{aligned}$$

線形空間とは、ベクトルの和とスカラー倍について閉じた集合のことだった。
これは明らかに $\bm v$ と直交する。

- 任意の &math(\bm x,\bm y\in V); に対して、必ず &math(\bm x+\bm y\in V);
- 任意の &math(\bm x\in V,k\in K); に対して、必ず &math(k\bm x\in V);
当然、

* 復習2:部分空間 [#t397a1fd]
$$
\bm x_\parallel+\bm x_\perp=\begin{pmatrix}x\\y\\z\end{pmatrix}=\bm x
$$

線形空間の部分集合 &math(W\subset V); がベクトルの和とスカラー倍について閉じている場合、
&math(W); も線形空間となり、&math(W); は &math(V); の部分空間であるという。
が成り立つ。

&math(\mathbb R^3); の部分空間:

- 0次元の部分空間は原点のみからなる集合 &math(\set{\bm 0});
- 1次元の部分空間は原点を通る直線    &math(\set{\bm p=s\bm a|s\in K});
- 2次元の部分空間は原点を通る平面    &math(\set{\bm p=s\bm a+t\bm b|s,t\in K});
- 3次元の部分空間は &math(\mathbb R^3); そのもの
** 射影演算子はエルミートになる。 [#tee56cfe]

同じ直線的でも、原点を通らない &math(\set{\bm p=s\bm a+\bm b|s\in K}); 
は線形空間にならない。(和やスカラー倍が元の集合からはみ出す)
$$\begin{aligned}
(P_{\bm e})_A^\dagger=\big(\bm e_A\bm e_A^\dagger\big)^\dagger=\big(\bm e_A^\dagger\big)^\dagger\bm e_A^\dagger=\bm e_A\bm e_A^\dagger=(P_{\bm e})_A
\end{aligned}$$

* 復習3:集合の積と和 [#sea08144]
より、射影演算子の表現行列はエルミートである。

集合 &math(A); と集合 &math(B); の積と和は、
このとき、任意のベクトル $\bm x,\bm y$ に対して 

#multicolumns
:積(交わり)|
&math(A\cap B=\set{x|x\in A\,\mathrm{かつ}\,x\in B});~
&math(A); および &math(B); の両方に含まれる要素の集合~
&math(A); キャップ &math(B); と読む。
#multicolumns
:和(結び)|
&math(A\cup B=\set{x|x\in A\,\mathrm{または}\,x\in B});~
&math(A); あるいは &math(B); の少なくとも片方に含まれる要素の集合~
&math(A); カップ &math(B); と読む。
#multicolumns(end)
$$\begin{aligned}
(\bm x,P_{\bm e}\bm y)=(P_{\bm e}^\dagger\bm x,\bm y)=(P_{\bm e}\bm x,\bm y)
\end{aligned}$$

#ref(積集合和集合.png,center,33%);
が成り立ち、このような演算子はエルミート演算子と呼ばれる。

~
* 演習問題 [#y3ae2e46]

記号の覚え方:
-「&math(x\in A\,\mathrm{かつ}\,x\in B);」は英語では「&math(x\in A\,\mathrm{and}\,x\in B);」
- And の A と &math(\cap); とは似ている(でしょ?)
(1) 三次元複素数ベクトル空間 $C^3$ において、$\bm v=\begin{pmatrix}-1\\2\\i\\\end{pmatrix}$ 方向への射影演算子となる行列 $P_{\bm v}$ を求めよ。また、$\bm x=\begin{pmatrix}1\\0\\1\end{pmatrix}$ の $\bm v$ 方向成分を求めよ。(余力があれば、内積を使って求めた結果と、$P_{\bm v}$ を使って求めた結果とが一致することを確かめよ)

* 以下では、 [#i78b84b7]
(2) $x$ の2次以下の複素係数多項式空間 $P^2[x]=\{ax^2+bx+c\,|\,a,b,c\in C\}$ を考える。内積 $(f,g)=\int_{-1}^1 \overline{f(x)}g(x)dx$ に対して $x^2+1$ を $3x-i$ に平行な成分と垂直な成分とに分解せよ。(余力があれば、求めた平行成分と垂直成分とが実際に直交することを確認せよ)

&math(K); 上の線形空間 &math(U); の部分空間 &math(V,W); を考え、~
&math(\{\bm v_1,\bm v_2,\dots,\bm v_n\},); &math(\{\bm w_1,\bm w_2,\dots,\bm w_m\}); をそれぞれの基底とする。~
(&math(\dim V=n,\ \dim W=m);)

* 交空間 $V\cap W$ [#oa2a08fa]
* $n$ 次元空間への射影を考える [#oec8bd2b]

交わり &math(V\cap W); は線形空間であり、交空間と呼ばれる。
ここまで、あるベクトルに平行な直線(一次元空間)への射影を考えたが、
以下では平面への射影や、もっと一般に $n$ 次元空間への射影を考える。

>証明:~
&math(\bm x,\bm y\in V\cap W,\ k\in K); とする。~
&math(\bm x,\bm y\in V); かつ &math(\bm x,\bm y\in W); であるから、~
&math(\bm x+\bm y\in V); かつ &math(\bm x+\bm y\in W); また
&math(k\bm x\in V); かつ &math(k\bm x\in W); ~
すなわち、&math(\bm x+\bm y, k\bm x\in V\cap W); であり、~
&math(V\cap W); はベクトルの和とスカラー倍に対して閉じている。
そのためにまずはいくつか準備を行う。
** 復習1:線形空間 [#y64f3022]

$K$ 上の線形空間とは、ベクトルの和とスカラー倍について閉じた集合のことだった。

* 和集合 $V\cup W$ は線形空間にならない [#xd00301e]
- 任意の $\bm x,\bm y\in V$ に対して、必ず $\bm x+\bm y\in V$~
  ↔ $\bm x,\bm y\in V$ から $\bm x+\bm y\in V$ を導けるということ
- 任意の $\bm x\in V,k\in K$ に対して、必ず $k\bm x\in V$~
  ↔ $\bm x\in V,k\in K$ から $k\bm x\in V$ を導けるということ

例えば &math(V=[\bm v], W=[\bm w]); とすれば、どちらも原点を通る直線状の空間であり、
&math(V\cup W); は2つの直線を合わせたものとなる。
** 復習2:部分空間 [#t397a1fd]

しかし &math(\bm v\parallel \bm w); でない限り、
&math(\bm v,\bm w\in V\cup W); にもかかわらず、&math(\bm v+\bm w\not\in V\cup W); となる。
線形空間の部分集合 $W\subset V$ がベクトルの和とスカラー倍について閉じている場合、
$W$ も線形空間となり、$W$ は $V$ の部分空間であるという。

&attachref(ベクトルの成分1.png,,33%);
$\mathbb R^3$ の部分空間:全体空間が3次元なので部分空間は3次元以下になる

すなわち和集合は必ずしもベクトル和に対して閉じていない。
- 0次元の部分空間は原点のみからなる集合 $\{\,\bm 0\,\}$
- 1次元の部分空間は原点を通る直線    $\{\,\bm p=s\bm a\,|\,s\in K\,\}$
- 2次元の部分空間は原点を通る平面    $\{\,\bm p=s\bm a+t\bm b\,|\,s,t\in K\,\}$
- 3次元の部分空間は $\mathbb R^3$ そのもの

* 和空間 $V+W$ [#i53e231d]
同じ直線的でも、原点を通らない $\{\,\bm p=s\bm a+\bm b\,|\,s\in K\,\}$ 
は線形空間にならない。(和やスカラー倍が元の集合からはみ出す)

和集合をベクトル和について閉じるように拡大した線形空間が和空間 &math(V+W); である。
** 復習3:集合の積と和 [#sea08144]

&math(V+W\equiv\set{\bm x=\bm x_V+\bm x_W|\bm x_V\in V,\bm x_W\in W});
集合 $A$ と集合 $B$ の積と和は、

#multicolumns
:積(交わり)|
$A\cap B=\{\,x\,|\,x\in A\,\text{かつ}\,x\in B\,\}$~
$A$ および $B$ の両方に含まれる要素の集合~
$A$ キャップ $B$ と読む。($\cap$ は帽子の形)
#multicolumns
:和(結び)|
$A\cup B=\{\,x\,|\,x\in A\,\text{または}\,x\in B\,\}$~
$A$ と $B$ の少なくとも一方に含まれる要素の集合~
$A$ カップ $B$ と読む。($\cup$ はカップの形)
#multicolumns(end)

#ref(積集合和集合.png,center,33%);

~

** 和空間の次元 [#iadf0b68]
記号の覚え方:
-「$x\in A\,\text{かつ}\,x\in B$」は英語では「$x\in A\,\text{and}\,x\in B$」
- And の A と $\cap$ とは似ている(でしょ?)

詳しい証明は省くが、
* 以下、$U$ の部分空間 $V,W$ について考える [#i78b84b7]

&math(\dim (V+W)=\dim V+\dim W-\dim(V\cap W));
$K$ 上の線形空間 $U$ の部分空間 $V,W$ を考え、~
$\{\bm v_1,\bm v_2,\dots,\bm v_n\},$ $\{\bm w_1,\bm w_2,\dots,\bm w_m\}$ をそれぞれの基底とする。~
($\dim V=n,\ \dim W=m$)

の関係がある。
* 交空間 $V\cap W$ [#oa2a08fa]

これは、&math(V\cap W); の基底にいくつかベクトルを加えて &math(V); の基底を作成し、
同じ &math(V\cap W); の基底にいくつかベクトルを加えて &math(W); の基底を作成したならば、
それらすべてのベクトルを合わせると &math(V+W); の基底となる、という事実による。
2つの線形空間の、集合としての交わり $V\cap W$ は常に線形空間になり、交空間と呼ばれる。

>例:
>
>3次元空間に2つの2次元空間(原点を通る2枚の平面) &math(V,W); を取れば、2つの平面が平行でない限りその和空間は3次元空間全体となる。このとき2平面の交線が &math(V\cap W); に相当し、これは原点を通る直線つまり1次元空間となる。すなわち、
>
>&math(
\underbrace{\dim(V+W)}_3=\underbrace{\dim V}_2+\underbrace{\dim W}_2-\underbrace{\dim(V\cap W)}_1
);
>証明:~
$\bm x,\bm y\in V\cap W,\ k\in K$ とする。~
$\bm x,\bm y\in V$ かつ $\bm x,\bm y\in W$ であるから、~
$\bm x+\bm y\in V$ かつ $\bm x+\bm y\in W$ また
$k\bm x\in V$ かつ $k\bm x\in W$ ~
すなわち、$\bm x+\bm y, k\bm x\in V\cap W$ であり、~
$V\cap W$ はベクトルの和とスカラー倍に対して閉じている。

** $V\cap W=\{\bm 0\}$ の場合 [#k30a5f9e]
交わり $V\cap W$ が空集合になることはない。

上記について詳しい証明をしない代わりに、&math(V\cap W=\{\bm 0\}); の場合について解説を加える。
線形空間は必ず $\bm 0$ を含むから、常に $\bm 0\in V\cap W$ である。

すなわち、&math(V\cap W=\{\bm 0\}); であるとき、
&math(V); の基底と &math(W); の基底を合わせたベクトル列は一次独立であり、
それが &math(V+W); の基底となるため、&math(\dim(V+W)=\dim V+\dim W); が成り立つ。
$V\cap W=\{\,\bm 0\,\}$ のとき、$\dim(V\cap W)=0$

以下に証明を与える。
&attachref(1D_cap_2D.png,,25%); 
&attachref(2D_cap_2D.png,,25%);

前半部分の証明:
* 和集合 $V\cup W$ はベクトル和に対して閉じていないことがある [#xd00301e]

「&math(V\cap W=\{\bm 0\}); であるとき、
&math(V); の基底と &math(W); の基底を合わせたベクトル列は一次独立である」
#ref(1D_cup_1D.png,right,around,25%);

∵ &math(c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n+d_1\bm w_1+d_2\bm w_2+\dots+d_m\bm w_m=\bm 0);
例えば図のように、2つの1次元空間 $V,W$ 
の和集合 $V\cup W$ は、
原点で交わる2本の直線の形をしている。

と仮定すると、
$V,W$ 上から2つのベクトルを取り
$\bm v\in V, \bm w\in W$ とすれば、~
$\bm v, \bm w\in V\cap W$ でない限り、
$\bm v+\bm w\notin V\cup W$ である。

&math(c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n=-d_1\bm w_1-d_2\bm w_2-\dots-d_m\bm w_m);
すなわち、和集合は必ずしも線形空間にならない

を得る。このベクトルを &math(\bm x); と置けば、&math(\bm x); は 
&math(V); の基底の線形結合で表されるため &math(\bm x\in V); であり、
&math(W); の基底の線形結合で表されるため &math(\bm x\in W); であるから、
すなわち、&math(\bm x\in V\cap W); である。
#clear
* 和空間 $V+W$ [#i53e231d]

&math(V\cap W=\{\bm 0\}); のときこれは &math(\bm x=\bm 0); を表すから、
和集合をベクトル和について閉じるように拡大した線形空間が和空間 $V+W$ である。

&math(c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n=-d_1\bm w_1-d_2\bm w_2-\dots-d_m\bm w_m=\bm 0);
これは $V$ の元と $W$ の元の和で表せるすべてのベクトルからなる集合である。

を得る。&math(\{\bm v_i\}); や &math(\{\bm w_i\}); は線形独立であるから、
これはすなわち &math(c_1=c_2=\dots=c_n=d_1=d_2=\dots=d_m=0); を表す。
$$\begin{aligned}V+W\equiv\{\,\bm x=\bm x_V+\bm x_W\,|\,\bm x_V\in V,\bm x_W\in W\,\}\end{aligned}$$

以上で線形結合をゼロと置くことで係数が全てゼロであることを導けたため、
2つの基底を合わせたベクトル列が線形独立であることが証明された。
$\bm x_V\in V,\bm x_W\in W$ はそれぞれ、$V,W$ の基底 
$\{\,\bm v_k\,\},\{\,\bm w_k\,\}$ の線形結合として表せるから、
$\bm x\in V+W$ は

後半部分の証明:
$$\begin{aligned}
\bm x&=\bm x_V+\bm x_W\\
&=\underbrace{\sum_{k=1}^n c_k\bm v_k}_{\bm x_V}+
{}\underbrace{\sum_{k=1}^m d_k\bm w_k}_{\bm x_W}
\end{aligned}$$

「&math(V); の基底と &math(W); の基底を合わせたベクトル列が &math(V+W); の基底となる」
のように $V,W$ の基底を合わせた線形結合として表せる。

∵ &math(\bm x\in V+W); であれば、
すなわち、$V,W$ の基底ベクトルすべてで「張られる」空間が和空間である。

&math(\bm x&=\bm x_V+\bm_W\\
&=(c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n)+(d_1\bm w_1+d_2\bm w_2+\dots+d_m\bm w_m)\\
);
ここから $\dim(V+W)\le\dim V+\dim W$ が言える。

と表されるから、このベクトル列は &math(V+W); を張り、さらに一次独立であるなら基底となる。
$V,W$ の基底ベクトルを合わせたものが一次独立であるときに限り、
それがそのまま $V+W$ の基底となるから、
$\dim(V+W)=\dim V+\dim W$ となる。

前半部分の逆の証明:
** 和空間の次元 [#iadf0b68]

実は「&math(V); の基底と &math(W); の基底を合わせた時に一次独立であれば 
&math(V\cap W=\{\bm 0\}); である」も成り立ち、この2つは同値な条件になっている。
厳密な証明は省くが、

∵ &math(\bm x\in V\cap W); とすれば、
&math(\bm x\in V); かつ &math(\bm x\in W); であるから、
$$\begin{aligned}\dim (V+W)=\dim V+\dim W-\dim(V\cap W)\end{aligned}$$

&math(\bm x&=c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n\\
&=d_1\bm w_1+d_2\bm w_2+\dots+d_m\bm w_m\\
);
の関係がある。(集合 $A\cup B$ の要素の数 $\#(A\cup B)$ が $\#A+\#B-\#(A\cap B)$ と表せたことに対応する)

のように、2通りの表し方が可能となる。
これは、$V\cap W$ の基底にいくつかベクトルを加えて $V$ の基底を作成し、
同じ $V\cap W$ の基底にいくつかベクトルを加えて $W$ の基底を作成したならば、
それらすべてのベクトルを合わせると $V+W$ の基底となる、という事実による。

ここから 
&math(c_1\bm v_1+c_2\bm v_2+\dots+c_n\bm v_n-
d_1\bm w_1-d_2\bm w_2-\dots-d_m\bm w_m=\bm 0
);
#ref(2D_cap_2D.png,right,around,25%);
>例:
>
>右図の平面状の $V,W$ の和空間は3次元空間全体となる。また2平面の交線が $V\cap W$ に相当する。すなわち、
>
>$$
\underbrace{\dim(V+W)}_3=\underbrace{\dim V}_2+\underbrace{\dim W}_2-\underbrace{\dim(V\cap W)}_1
$$

を得るが、これらのベクトルが一次独立であるなら係数は全てゼロでなければならないから、
&math(\bm x=\bm 0); を得る。
#clear

すなわち、&math(V\cap W=\{\bm 0\}); である。


* 直和 $V\dot +W$ [#u527a7fd]

&math(V\cap W=\{\bm 0\}); のとき、「和空間 &math(V+W); は &math(V); と &math(W); の直和になっている」と言い、&math(V+W=V\dot +W); と書く。
上記より、$V\cap W=\{\bm 0\}$ のとき、$\dim(V+W)=\dim V+\dim W$ となる。

&math(V); の基底と &math(W); の基底を合わせたベクトルが一次独立であるとき、と言い換えても同じである。
このとき「和空間 $V+W$ は $V$ と $W$ の直和になっている」と言い、

- 直和は新たな演算ではない
- 「~~の場合に &math(V+W); は直和となる」「~~の場合には直和にならない」といった文脈で用いられる。
$$\begin{aligned}V+W=V\dot +W\end{aligned}$$ 

** 成分分解 [#o401c83d]
と書く。(プラス記号 $+$ の上に点を書く)

&math(\bm x\in V\dot +W); であるとき、
- 直和は新たな演算ではない
- 「~~の場合に $V+W$ は直和となる」「~~の場合には直和にならない」といった文脈で用いられる。
- $V$ の基底と $W$ の基底を合わせると、そのまま $V\dot +W$ の基底になる~
↔ $\dim V+\dim W=\dim(V\dot +W)$~

&math(\bm x=\bm x_V+\bm x_W);
直和となるのは $V$ と $W$ (の基底)が一次独立なときである。

の分解は一意に定まる。
** 成分分解の一意性 [#o401c83d]

>以下その証明:
>
>&math(\bm x&=\bm x_V+\bm x_W\\&=\bm x_V'+\bm x_W'\\);
>
>とすれば、
>
>&math(\underbrace{(\bm x_V-\bm x_V')}_{\in V}+\underbrace{(\bm x_W-\bm x_W')}_{\in W}=\bm 0);
>
>であり、それぞれを基底で展開すれば上と同様にすべての係数がゼロとなり、
>
>&math(\bm x_V-\bm x_V'=\bm 0); および &math(\bm x_W-\bm x_W'=\bm 0); を得る。
$V\dot +W$ すなわち $V\cap W=\{\bm 0\}$ のときに限り $\bm x\mapsto\bm x_V$ 
の射影演算を定義できる。

逆に &math(V+W); が直和でなければ &math(\bm \delta\in V\cap W); を使って
というのも、もし $\bm\delta\in V\cap W$ が $\bm\delta\ne\bm 0$ であれば、

&math(\bm x&=\bm x_V+\bm x_W\\
$$\begin{aligned}\bm x&=\bm x_V+\bm x_W\\
&=(\bm x_V+\bm \delta)+(\bm x_W-\bm \delta)\\
&=\bm x_V'+\bm x_W'
);
\end{aligned}$$

として異なる分解が可能となる。
のように成分分解が一意に定まらないためだ。

** 線形独立な空間 [#h781440c]

直和は「互いに線形独立な2つの空間」の和空間のイメージになる。

→ $\begin{aligned}\bm x_V+\bm x_W=\bm 0\end{aligned}$ から $\bm x_V=\bm x_W=\bm 0$ を導ける。

** 成分の値はもう一方の空間に依存する [#e7949533]

成分分解のイメージは下図のようなものになる。

&attachref(ベクトルの成分1.png,,33%);
&attachref(ベクトルの成分2.png,,33%);
&attachref(1d_dplus_1d.png,,25%);

同じベクトル &math(\bm x); を~
&math(V); と &math(W); に分解したときの &math(\bm x_V); と、~
&math(V); と &math(W'); に分解したときの &math(\bm x'_V); とは~
同じベクトル $\bm x$ を~
  $\begin{aligned}V\end{aligned}$ と $W$ に分解したときの $\bm x_V$ と、~
  $\begin{aligned}V\end{aligned}$ と $W'$ に分解したときの $\bm x'_V$ とは~
一般には異なる値になる。

すなわち、ある部分空間の成分は、その部分空間だけでは決まらずに、他の部分空間の取り方にも依存する。

すなわち上記の &math(P_{\bm e}); とは違い、例えば &math(\bm x); から &math(V); 成分 &math(\bm x_V); 
を求める演算子 &math(P_V); を &math(V); の情報のみから簡単に求めることはできないことになる。
上で $e$ から $P_{\bm e}$ を求められたのとは違い、$V$ の情報のみから $\bm x_V$ を求めることはできない。

&math(V); が2次元の時の成分分解のイメージは次の通り。
$V$ が2次元の時の成分分解のイメージは次の通り。

&attachref(2D-1D.png,,20%);

* 直交する空間 [#he5eb453]

&math(V); の任意の元が、
&math(W); の任意の元と直交するとき、
&math(V); と &math(W); とは直交すると言う。
$V$ の任意の元が、
$W$ の任意の元と直交するとき、
$V$ と $W$ とは直交すると言う。

* 直交直和 [#d251a548]
$V$ のすべての基底ベクトルが、~
$W$ のすべての基底ベクトルと直交することと同義。

直交する2つの空間の和空間 &math(V + W); を &math(V \oplus W); と書き、
&math(V); と &math(W); の直交直和という。
注意点として、例えば $xy$ 平面からなる空間 $V$ と $yz$ 平面からなる空間 $W$ とは図形的には直交しているが、
$y$ 軸上のベクトル $\bm v=(0,1,0)$ は $\bm v\in V$ かつ $\bm v\in W$ であり、
当然 $\bm v\perp \bm v$ は成り立たないので、$V$ と $W$ は直交する空間とは呼ばない。

このとき、&math(V,W); の''正規直交''基底を合わせると &math(V \oplus W); の''正規直交''基底となる。
$V,W$ が直交する空間であれば、$V\cap W=\{\bm 0\}$ である。すなわち一次独立である。

∵ &math(V); の正規直交基底は &math(W); の正規直交基底とも直交するから
* 直交直和 $V \oplus W$ [#d251a548]

2つの空間が直交する時、$V + W$ を $V$ と $W$ の「直交直和」であるといい、

$$\begin{aligned}V+W=V \oplus W\end{aligned}$$ 

と書く。

#ref(perpendicular.png,right,around,25%);

このとき、$V,W$ の''正規直交''基底を合わせると $V \oplus W$ の''正規直交''基底となる。

∵ $V$ の正規直交基底は $W$ の正規直交基底とも直交するから

当然、直交直和は直和でもある。

** 直交直和の成分分解 [#d2df2673]

直交直和の成分分解は簡単である。
直交直和の成分分解は簡単である。$\{\,\bm v_k\},\{\,\bm w_k\,\}$ 
が正規直交基底であるとすると、

&math(
\bm x=\underbrace{\sum_{k=1}^n c_{k}\bm v_{k}}_{\,\bm x_V}
     +\underbrace{\sum_{k=1}^m d_{k}\bm w_{k}}_{\,\bm x_W});
$$\begin{aligned}
\bm x&=\underbrace{\sum_{k=1}^n c_{k}\bm v_{k}}_{\,\bm x_V}
{    }+\underbrace{\sum_{k=1}^m d_{k}\bm w_{k}}_{\,\bm x_W}\\
&=c_k\bm v_k+\underbrace{\sum_{k'\ne k}^n c_{k'}\bm v_{k'}+\sum_{k'=1}^m d_{k'}\bm w_{k'}}_{\perp\bm v_k}
\end{aligned}$$

に対して、&math(c_k=(\bm v_k,\bm x)); より、
のように、$\bm c_k\bm v_k$ を取り出せば、残りの部分は $\bm v_k$ と直交するから、
$\bm c_k\bm v_k$ は $\bm x$ の $\bm v_k$ 方向成分である。

&math(\bm x_V&=\sum_{k=1}^n (\bm v_k,\bm x)\bm v_k);
すると、上で見た任意の $\bm x$ から $\bm v_k$ 方向成分を取り出す1次元射影演算子
$P_{\bm v_k}$ を使って $c_k\bm v_k=P_{\bm v_k}\bm x$ と書けるから、

であり、数ベクトル空間に対しては
$$\begin{aligned}
\bm x_V
&=\sum_{k=1}^n P_{\bm v_k}\bm x\\
&=\left(\sum_{k=1}^n P_{\bm v_k}\right)\bm x\\
&=P_V\bm x
\end{aligned}$$

&math(\bm x_V
       &=\left(\sum_{k=1}^n \bm v_k\bm v_k^\dagger\right)\bm x\\
       &=P_V\bm x\\
);
すなわち、

すなわち、&math(P_V=\sum_{k=1}^n \bm v_k\bm v_k^\dagger); が &math(V\oplus W); 
から &math(V); への射影演算子となる。
$$\begin{aligned}P_V=\sum_{k=1}^n P_{\bm v_k}\end{aligned}$$

射影演算子は &math(V); のみに対する情報だけから定まり、
&math(W); に依存しないことに注意せよ。
が $V\oplus W$ から $V$ への射影演算子となる。

数ベクトルに対しては上で見たとおり

$$\begin{aligned}P_V=\sum_{k=1}^n \bm v_k\bm v_k^\dagger\end{aligned}$$

である。

射影演算子は $V$ の情報だけから定まり、
$W$ に依存しないことに注意せよ。

エルミート演算子の和はエルミート演算子になるから、
$P_{\bm v_k}$ の和である $P_V$ もエルミートである。

(空間が直交しない一般の直和の場合にも「逆基底」を考えることにより、
直交直和の場合とそっくりな形に射影演算子を表すことが可能であるが、ここでは省略する。
→ 発展:[[線形代数II/非直交基底の成分分解]])

** 直交補空間 [#td0c1fcb]

ある線形空間 &math(V); に対して、
&math(V); を含むような全体空間 &math(U); が &math(U=V\oplus W); と表されるとき、
&math(W); を &math(V); の「直交補空間」と呼び、&math(W=V^\perp); と書く。
#ref(complementary-space.svg,around,right);

全体集合を、ある空間と、直交する補空間へと、分解するイメージである。
全体空間 $U$ が $U=V\oplus W$ と表されるとき、
$W$ を $V$ の「直交補空間」と呼び、$W=V^\perp$ と書く。

 &math(V^\perp=\set{\bm x\in U|\forall\bm y\in V,(\bm x,\bm y)=0});
ある線形空間 $V$ に対してその直交補空間は一意に定まる。

であるから、&math(V^\perp); は &math(U,V); から一意に決まる。
$$\begin{aligned}V^\perp=\{\,\bm x\in U\,|\,\forall\bm y\in V,(\bm x,\bm y)=0\,\}\end{aligned}$$

あるベクトル &math(\bm x); を &math(\bm e); 
に平行な成分 &math(\bm x_\parallel); と垂直な成分 &math(\bm x_\perp); 
に分ける問題は、それぞれ線形空間 &math(V=\set{\bm p=t\bm e|t\in K}); 
とその直交補空間 &math(V^\perp); の成分への分解を表わしていたことになる。
つまり全体集合を、ある空間と、それに直交する補空間と、に分解することはいつも可能である。

一方、全体空間 &math(U); を &math(U=V\dot + W); と表せるとき、
&math(W); を &math(V); の(単なる)「補空間」と呼ぶが、こちらはあまり使われない。
あるベクトル $\bm x$ を $\bm e$ 
に平行な成分 $\bm x_\parallel$ と垂直な成分 $\bm x_\perp$ 
に分ける問題は、それぞれ線形空間 $V=\{\,\bm p=t\bm e\,|\,t\in K\,\}$ 
とその直交補空間 $V^\perp$ の成分への分解を表わしていたことになる。

** 性質 [#ae98dccc]
一方、全体空間 $U$ を $U=V\dot + W$ と表せるとき、
$W$ を $V$ の(単なる)「補空間」と呼ぶ。
ある空間の直交補空間が一意に決まるのに対して、
補空間にはさまざまな取り方がある。

- &math(\bm x\in V); のとき &math(P_V\bm x=\bm x);
- &math(\bm x\in V^\perp); のとき &math(P_V\bm x=\bm 0);
- &math(E=P_V+P_{V^\perp}); ← ∵&math(\bm x=P_V\bm x+P_{V^\perp}\bm x);
- &math(P_V^2=P_V); あるいは &math(P_V(E-P_V)=O);~
∵ &math(P_V\bm x\in V); だから、&math(P_V^2\bm x=P_V\bm x);
- これは、&math(P_{V^\perp}=E-P_V); であり、&math(P_VP_{V^\perp}=O); であることからも理解できる

** 例1 [#mfbb4345]
** 直交射影演算子の性質 [#ae98dccc]

&math(\mathbb R^3); の部分空間として
&math(\bm a=\begin{pmatrix}1\\2\\3\end{pmatrix},\bm b=\begin{pmatrix}-1\\0\\1\end{pmatrix}); で張られる空間 &math(V=[\bm a,\bm b]\in \mathbb R^3);を考える。
$P_V$ が $V$ への直交射影演算子であるというのは、~
任意の $\bm x$ に対して $P_V\bm x=\bm x_\parallel\in V$ かつ $\bm x-P_V\bm x=\bm x_\perp\in V^\perp$ であるというのと同値である

(1) &math(\mathbb R^3); から &math(V); への射影演算子を求めよ。
このとき、

(2) 直交補空間 &math(V^\perp); を求めよ。
- $\bm x\in V$ のとき $P_V\bm x=\bm x$
- $\bm x\in V^\perp$ のとき $P_V\bm x=\bm 0$
- $E=P_V+P_{V^\perp}$ ← ∵$\bm x=P_V\bm x+P_{V^\perp}\bm x=\bm x_\parallel+\bm x_\perp$
- $P_V^2=P_V$ あるいは $P_V(E-P_V)=O$~
∵ $P_V\bm x\in V$ だから、$P_V^2\bm x=P_V\bm x$
- これは、$P_{V^\perp}=E-P_V$ であり、$P_VP_{V^\perp}=O$ であることからも理解できる
- またここから、$P_V$ の固有値は $\lambda^2=\lambda$ を満たす、すなわち $\lambda=0,1$ であることが分かる。
-- 任意の $\bm x\in V$ が固有値 $1$ に対する固有ベクトル
-- 任意の $\bm x\in V^\perp$ が固有値 $0$ に対する固有ベクトル

解答:
また、計量線形空間に定義されたある線形変換 $P$ が直交射影演算子となる為の必要十分条件は
$PP = P$ かつ $P^\dagger=P$ である → [[その証明>線形代数II/射影・直和・直交直和/メモ]]

(1)
** 例 [#mfbb4345]

&math(\bm a,\bm b); から正規直交基底を作る。
$\mathbb R^3$ の部分空間として
$\bm a=\begin{pmatrix}1\\2\\3\end{pmatrix},\bm b=\begin{pmatrix}-1\\0\\1\end{pmatrix}$ で張られる空間 $V=\big[\bm a,\bm b\big]\subset \mathbb R^3$を考える。

&math(\bm b); と垂直なのは &math(\begin{pmatrix}s\\t\\s\end{pmatrix}); 
(1) $\mathbb R^3$ から $V$ への直交射影演算子を求めよ。

(2) 直交補空間 $V^\perp$ に正規直交基底を定めよ。

*** 解答 (1) [#b1fdc171]

$\bm a,\bm b$ から正規直交基底を作る。

$\bm b$ と垂直なのは $\begin{pmatrix}s\\t\\s\end{pmatrix}$ 
の形のベクトルであることに注意して、
&math(\bm c=\bm a-\bm b=\begin{pmatrix}2\\2\\2\end{pmatrix}); とすれば 
これは &math(V); 内にあり &math(\bm b); と垂直なベクトルである。
$\bm c=\bm a-\bm b=\begin{pmatrix}2\\2\\2\end{pmatrix}$ とすれば 
これは $V$ 内にあり $\bm b$ と垂直なベクトルである。

これらを正規化すれば、

 &math(\bm e_1=\frac{1}{\sqrt 2}\begin{pmatrix}-1\\0\\1\end{pmatrix}, 
\bm e_2=\frac{1}{\sqrt 3}\begin{pmatrix}1\\1\\1\end{pmatrix});
$$\begin{aligned}\bm e_1=\frac{1}{\sqrt 2}\begin{pmatrix}-1\\0\\1\end{pmatrix}, 
\bm e_2=\frac{1}{\sqrt 3}\begin{pmatrix}1\\1\\1\end{pmatrix}\end{aligned}$$

として正規直交基底が得られる。

したがって、求める射影演算子は

&math(
$$\begin{aligned}
P_V&=\bm e_1\bm e_1^\dagger+\bm e_2\bm e_2^\dagger\\
&=\frac{1}{2}\begin{pmatrix}-1\\0\\1\end{pmatrix}\begin{pmatrix}-1&0&1\end{pmatrix}
+ \frac{1}{3}\begin{pmatrix}1\\1\\1\end{pmatrix}\begin{pmatrix}1&1&1\end{pmatrix}\\
&=\frac{1}{2}\begin{pmatrix}1&0&-1\\0&0&0\\-1&0&1\end{pmatrix}
+ \frac{1}{3}\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}\\
&=\frac{1}{6}\begin{pmatrix}5&2&-1\\2&2&2\\-1&2&5\end{pmatrix}
);
&= \frac{1}{2}\begin{pmatrix}-1\\0\\1\end{pmatrix}\begin{pmatrix}-1&0&1\end{pmatrix}
{}+\frac{1}{3}\begin{pmatrix}1\\1\\1\end{pmatrix}\begin{pmatrix}1&1&1\end{pmatrix}\\
&= \frac{1}{2}\begin{pmatrix}1&0&-1\\0&0&0\\-1&0&1\end{pmatrix}
{}+\frac{1}{3}\begin{pmatrix}1&1&1\\1&1&1\\1&1&1\end{pmatrix}\\
&= \frac{1}{6}\begin{pmatrix}5&2&-1\\2&2&2\\-1&2&5\end{pmatrix}
\end{aligned}$$

各射影演算子がエルミート(実数行列では対称)になっていることにも注目せよ。

正規直交基底を作るところまでの別解:
~

&math(\bm b,\bm a); からシュミットの直交化を用いて正規直交系を作る。
*** 解答 (1) 別解 [#r5bbcc18]

&math(\bm e_1=\frac{1}{\|\bm b\|}\bm b=\frac{1}{\sqrt 2}\begin{pmatrix}-1\\0\\1\end{pmatrix});
$\bm b,\bm a$ からシュミットの直交化を用いて正規直交系を作る。

&math(
$\bm e_1=\frac{1}{\|\bm a\|}\bm a=\frac{1}{\sqrt 14}\begin{pmatrix}1\\2\\3\end{pmatrix}$

$$\begin{aligned}
\bm f_2
&=\bm a-(\bm e_1,\bm a)\bm e_1\\
&=\bm a-\bm e_1\bm e_1^\dagger\bm a\\
&=\begin{pmatrix}1\\2\\3\end{pmatrix}
-\frac{1}{2}\begin{pmatrix}-1\\0\\1\end{pmatrix}\begin{pmatrix}-1&0&1\end{pmatrix}\begin{pmatrix}1\\2\\3\end{pmatrix}\\
&=\begin{pmatrix}1\\2\\3\end{pmatrix}-\begin{pmatrix}-1\\0\\1\end{pmatrix}\\
&=\begin{pmatrix}2\\2\\2\end{pmatrix}
&=\bm b-(\bm e_1,\bm b)\bm e_1\\
&=\begin{pmatrix}-1\\0\\1\end{pmatrix}
{}-\frac{1}{14}\cdot 2\cdot\begin{pmatrix}1\\2\\3\end{pmatrix}\\
&=\frac{1}{7}\begin{pmatrix}-8\\-2\\4\end{pmatrix}
=\frac{2}{7}\begin{pmatrix}-4\\-1\\2\end{pmatrix}
\end{aligned}$$

);
$$\begin{aligned}
\bm e_2=\frac{1}{\|\bm f_2\|}\bm f_2=\frac{1}{\sqrt{21}}\begin{pmatrix}-4\\-1\\2\end{pmatrix}
\end{aligned}$$

&math(
\bm e_2=\frac{1}{\|\bm f_2\|}\bm f_2=\frac{1}{\sqrt{3}}\begin{pmatrix}1\\1\\1\end{pmatrix}
);
$$\begin{aligned}
P_V&=
\frac{1}{14}\begin{pmatrix}1\\2\\3\end{pmatrix}\begin{pmatrix}1&2&3\end{pmatrix}+
\frac{1}{21}\begin{pmatrix}-4\\-1\\2\end{pmatrix}\begin{pmatrix}-4&-1&2\end{pmatrix}\\
&=\frac{1}{14}\begin{pmatrix}1&2&3\\&4&6\\&&9\end{pmatrix}+
\frac{1}{21}\begin{pmatrix}16&4&-8\\&1&-2\\&&4\end{pmatrix}\\
&=\frac{1}{42}\begin{pmatrix}3+32&6+8&9-16\\&12+2&18-4\\&&27+8\end{pmatrix}\\
&=\frac{1}{42}\begin{pmatrix}35&14&-7\\&14&14\\&&35\end{pmatrix}\\
&=\frac{1}{6}\begin{pmatrix}5&2&-1\\2&2&2\\-1&2&5\end{pmatrix}\\
\end{aligned}$$

(2) &math(\mathbb R^3); が3次元、&math(V); が2次元なので、&math(V^\perp); は1次元となる。
射影演算子はエルミートになるため、左下部分の計算は省略した。

その基底は &math(\bm e_1,\bm e_2); に垂直であるから、例えば、
$P_V$ の形は正規直交基底の取り方によらないことに注目せよ。

 &math(\bm e_3=\frac{1}{6}\begin{pmatrix}1\\-2\\1\end{pmatrix});
*** 解答 (2) [#n59bccf5]
 
$\mathbb R^3$ が3次元、$V$ が2次元なので、$V^\perp$ は1次元となる。

$\bm e_1,\bm e_2$ に垂直なベクトルを1つ挙げれば例えば、$\begin{pmatrix}1\\-2\\1\end{pmatrix}$ 

したがって、

 &math(V^\perp=\Big[\frac{1}{6}\begin{pmatrix}1\\-2\\1\end{pmatrix}\Big]);
$$\begin{aligned}V^\perp=\Big[\begin{pmatrix}1\\-2\\1\end{pmatrix}\Big]\end{aligned}$$

と表せる。
である。正規直交基底はこれを正規化して、

$$\begin{aligned}\Big\{\frac{1}{\sqrt 6}\begin{pmatrix}1\\-2\\1\end{pmatrix}\Big\}\end{aligned}$$

このとき、

** 演習 [#tac0cf13]
$$\begin{aligned}
P_{V^\perp}&=\frac{1}{6}\begin{pmatrix}1\\-2\\1\end{pmatrix}\begin{pmatrix}1&-2&1\end{pmatrix}\\
&=\frac{1}{6}\begin{pmatrix}1&-2&1\\-2&4&-2\\1&-2&1\end{pmatrix}
\end{aligned}$$

3次元空間に原点を通る平面 &math(x+y+z=0); を考える。
この平面への射影演算子を求めよ。
であり、$P_V+P_{V^\perp}=E$ となることが確かめられる。

* 一般化 [#jaf6d678]
* 演習 [#tac0cf13]

上記は2つの部分空間について交空間、和空間、直和、直交直和を考えたが、
2つ以上の部分空間がある場合にも自然に拡張できる。
3次元空間に原点を通る平面 $x+y+z=0$ を考える。
この平面への直交射影演算子を求めよ。
またその直交補空間を求めよ。

|交空間  |&math(W_1\cap W_2\cap \dots\cap W_r);      |全空間の共通部分|
|和空間  |&math(W_1+W_2+\dots+W_r);                  |一般には一次従属な空間たちを内包する空間|
|直和    |&math(W_1\dot +W_2\dot +\dots\dot +W_r);   |一次独立な空間たちを内包する空間|
|直交直和|&math(W_1\oplus W_2\oplus \dots\oplus W_r);|直交する空間たちを内包する空間  |
** 解答例 [#kee7e633]

たとえば &math(W_1\cap W_2\cap \dots\cap W_r=(\dots((W_1\cap W_2)\cap W_3)\cap \dots)\cap W_r); の意味である。
*** まず平面内に基底を取る [#l8835428]

交空間や和空間を表わす &math(\cap,+); が
複数の部分空間から新しい部分空間を作る演算子であるのに比べて、
直和や直交直和を表わす &math(\dot +,\oplus); は 「線形空間同士の演算」 ではなく、
和空間の演算子で結ばれる空間達が特殊な条件を満たすことを
表現しているに過ぎない。この違いに注意せよ。
この「原点を通る平面」は2次元部分空間となるから、
平面内に2つの一次独立なベクトルを取れば、
それが平面に対応する線形空間の基底となる。

* 射影に関する簡易まとめ [#ydc7bdc9]
$x+y+z=0$ を満たせば良いから、例えば、 $\begin{pmatrix}1\\-1\\0\end{pmatrix},\begin{pmatrix}0\\-1\\1\end{pmatrix}$
など、条件を満たすベクトルを「&ruby(めのこ){目の子};」で探しても良いが、
どんな場合にも通用する一般的なやり方を使うなら、

全体空間 &math(U); から~
部分空間 &math(V); への射影演算子 &math(P_V); は、
$x+y+z=0$ を 
$\begin{pmatrix}1&1&1\end{pmatrix}\begin{pmatrix}x\\y\\z\end{pmatrix}=\bm 0$ 
の形に書いて、掃出し法により係数行列を階段化する。

&math(\bm x\in U); に対して、
- &math(P_V \bm x\in V); かつ
- &math(\forall \bm y\in V); に対して &math((\bm x-P_V\bm x,\bm y)=0);
今の場合は元の
$\begin{pmatrix}
1&1&1
\end{pmatrix}$ がすでに階段行列であり、1列目は掃出しの完了した形になっているから、
掃出しの行えなかった列に対応する $y,z$ をパラメータと見て、

を満たす線形演算子。
$$\begin{aligned}\begin{cases}
x=-y-z\\
y=y\\
z=z
\end{cases}\end{aligned}$$

これは、&math(U=V\oplus V^\perp); として &math(V); の直交補空間 &math(V^\perp); を導入して
すなわち、

&math(\bm x-P_V\bm x\in V^\perp);
$$\begin{aligned}\bm x=y\begin{pmatrix}
{}-1\\1\\0
\end{pmatrix}+z\begin{pmatrix}
{}-1\\0\\1
\end{pmatrix}\end{aligned}$$

とも書ける。
とすれば、2つのベクトル $\bm b_1=\begin{pmatrix}
{}-1\\1\\0
\end{pmatrix}, \bm b_2=\begin{pmatrix}
{}-1\\0\\1
\end{pmatrix}$ がこの空間の基底となることが明らかである。

数ベクトル空間において射影演算は正方行列 &math(P_V); のかけ算で表せて、
&math(V); の正規直交基底の1つを &math(\set{\bm e_1,\bm e_2,\dots,\bm e_n}); として、
「拡大係数行列にガウスの掃出し法を適用して、
掃出しの行えなかった列に対応する変数をパラメータに置く」
という手順は常に使える汎用的なものであるから、
必ず身につけておくように。
(そうでないと一般解に含まれるパラメータを1つ忘れるといったミスが起きやすい)

&math(
P_V&=\sum_{k=1}^n \bm e_k\bm e_k^\dagger\\
   &=\sum_{k=1}^n \bm e'_k{\bm e'_k}^\dagger
);
*** 基底を正規直交化する [#me88ef96]

である。ただし &math(\set{\bm e'_k}); は別の正規直交基底で、演算子の形は基底の取り方に依らず同じになる。
これらを直交化するのも暗算で行っても良いが、
シュミットの直交化を使えばどんな場合にも必ず実行できて、

&math(U=W_1\oplus W_2\oplus\dots\oplus W_r); のように多数の空間に別れているときは、例えば
$$\begin{aligned}\bm f_1=b_1=\begin{pmatrix}
{}-1\\1\\0
\end{pmatrix}\end{aligned}$$

&math(U=W_1\oplus \underbrace{W_2\oplus\dots\oplus W_r}_{W_1^\perp}=W_1\oplus W_1^\perp);
$$\begin{aligned}\bm e_1=\frac{\bm f_1}{\|\bm f_1\|}=\frac{1}{\sqrt 2}\begin{pmatrix}
{}-1\\1\\0
\end{pmatrix}\end{aligned}$$

である。
$$\begin{aligned}
\bm f_2&=\bm b_2-\big(\bm e_1,\bm b_2\big)\bm e_1\\
&=\begin{pmatrix}
{}-1\\0\\1
\end{pmatrix}-\frac{1}{2}\underbrace{\overline{\begin{pmatrix}
{}-1&1&0
\end{pmatrix}}\begin{pmatrix}
{}-1\\0\\1
\end{pmatrix}}_{=\,1}\cdot\begin{pmatrix}
{}-1\\1\\0
\end{pmatrix}\\
&=\frac{1}{2}\begin{pmatrix}
{}-1\\-1\\2
\end{pmatrix}
\end{aligned}$$

[[前の単元 <<<>線形代数II/内積と計量空間]]
               [[線形代数II]]
               [[>>> 次の単元>線形代数II/固有値問題・固有空間・スペクトル分解]]
$$\begin{aligned}
\bm e_2=\frac{\bm f_2}{\|\bm f_2\|}=\frac{1}{\sqrt 6}\begin{pmatrix}
{}-1\\-1\\2
\end{pmatrix}
\end{aligned}$$

途中で、転置されたベクトルの上に線が引いてあるのは
複素共役を取る演算であるが、ここでは実ベクトルなので値は変わらない。

したがって、$V$ の正規直交基底は、

$$\begin{aligned}\{\,\bm e_1,\bm e_2\,\}=\Bigg\{
\ \frac{1}{\sqrt 2}\begin{pmatrix}
{}-1\\1\\0
\end{pmatrix},\ \frac{1}{\sqrt 6}\begin{pmatrix}
{}-1\\-1\\2
\end{pmatrix}\ \Bigg\}
\end{aligned}$$

*** 正規直交基底から射影演算子を作る [#hc1e08df]

$$\begin{aligned}
P_V&=\bm e_1\bm e_1^\dagger+\bm e_2\bm e_2^\dagger=
\frac{1}{2}\begin{pmatrix}
{}-1\\1\\0
\end{pmatrix}\overline{\begin{pmatrix}
{}-1&1&0
\end{pmatrix}}+
\frac{1}{6}\begin{pmatrix}
{}-1\\-1\\2
\end{pmatrix}\overline{\begin{pmatrix}
{}-1&-1&2
\end{pmatrix}}\\
&=\frac{1}{2}\begin{pmatrix}
1&-1&0\\
{}-1&1&0\\
0&0&0\\
\end{pmatrix}+
\frac{1}{6}\begin{pmatrix}
1&1&-2\\
1&1&-2\\
{}-2&-2&4\\
\end{pmatrix}=
\frac{1}{6}\begin{pmatrix}
4&-2&-2\\
{}-2&4&-2\\
{}-2&-2&4\\
\end{pmatrix}\\
&=
\frac{1}{3}\begin{pmatrix}
2&-1&-1\\
{}-1&2&-1\\
{}-1&-1&2\\
\end{pmatrix}
\end{aligned}$$

この $P_V$ に任意の $\bm x$ をかければ、

$$\begin{aligned}
P_V\begin{pmatrix}
x\\y\\z
\end{pmatrix}=
\frac{x}{3}\begin{pmatrix}
2\\-1\\-1
\end{pmatrix}+
\frac{y}{3}\begin{pmatrix}
{}-1\\2\\-1
\end{pmatrix}+
\frac{z}{3}\begin{pmatrix}
{}-1\\-1\\2
\end{pmatrix}
\end{aligned}$$

となるが、右辺に現れる3つのベクトルはすべて $x+y+z=0$ を満たしており、
確かに $P_V\bm x\in V$ となることが確認できる。

*** 直交補空間を見つける [#r2a7e72f]

直交補空間 $V^\perp$ は、$V$ の任意の元と直交するベクトルを集めた集合である。

$$\begin{aligned}
V^\perp=\{\,\bm x\,|\,\forall\bm y\in V,(\bm x,\bm y)=0\,\}
\end{aligned}$$

$\bm y\in V$ は $\bm y=y_1\bm e_1+y_2\bm e_2$ と表せるから、

$(\bm x,\bm y)=0$ は $y_1(\bm x,\bm e_1)+y_2(\bm x,\bm e_2)=0$ を表し、
任意の $\bm y$ すなわち任意の $y_1,y_2$ についてこれが成り立つには、

$$\begin{aligned}(\bm x,\bm e_1)=(\bm x,\bm e_2)=0\end{aligned}$$

が必要十分条件となる。すなわち、

$$\begin{aligned}
V^\perp=\{\,\bm x\,|\,\bm x\perp\bm e_1\ \mathrm{and}\ \bm x\perp\bm e_2\,\}
\end{aligned}$$

$V$ のすべての基底と直交するベクトルを集めた集合が $V^\perp$ である。

$$\begin{aligned}\begin{cases}
{}-x+y=0\\
{}-x-y+2z=0
\end{cases}\end{aligned}$$

の係数行列を同値変形して、

$$\begin{aligned}\begin{pmatrix}
{}-1&1&0\\
{}-1&-1&2
\end{pmatrix}\sim
\begin{pmatrix}
1&-1&0\\
0&-2&2
\end{pmatrix}\sim
\begin{pmatrix}
1&-1&0\\
0&1&-1
\end{pmatrix}\sim
\begin{pmatrix}
1&0&-1\\
0&1&-1
\end{pmatrix}
\end{aligned}$$

すなわち、$\begin{cases}
x-z=0\\
y-z=0
\end{cases}$

掃出せなかった列に対応する $z$ をパラメータとすれば、

$$\begin{aligned}\bm x=z\begin{pmatrix}
1\\1\\1
\end{pmatrix}
\end{aligned}$$

すなわち $V^\perp$ の正規直交基底は 
$\Bigg\{\ \frac{1}{\sqrt 3}\begin{pmatrix}
1\\1\\1
\end{pmatrix}\ \Bigg\}$

そもそも $V$ の定義に現れた条件式
$x+y+z=0$ は、
$\Big(\ \bm x,\ \begin{pmatrix}1\\1\\1\end{pmatrix}\ \Big)=0$ と同値であるから、

$V^\perp$ が
$\begin{pmatrix}1\\1\\1\end{pmatrix}$ に平行な1次元空間となることは当然のこととも言える。

* 一般化 [#jaf6d678]

以上の話は3つ以上の部分空間がある場合にも拡張できて、以下の通りである。

|交空間  |$V_1\cap V_2\cap \dots\cap V_r$      |全空間の共通部分|
|和空間  |$V_1+V_2+\dots+V_r$                  |一般には一次従属な空間たちを内包する空間|
|直和    |$V_1\dot +V_2\dot +\dots\dot +V_r$   |一次独立な空間たちの和空間|
|直交直和|$V_1\oplus V_2\oplus \dots\oplus V_r$|直交する空間たちの和空間  |

たとえば $V_1\cap V_2\cap V_3\cap V_4=(((V_1\cap V_2)\cap V_3)\cap V_4$ などの意味であるが、これらの演算子には結合法則や交換法則が成り立ち、$(V_1\oplus V_2)\oplus V_3=V_1\oplus (V_2\oplus V_3)$, $V_1\oplus V_2=V_2\oplus V_1$ などとなる。

$\cap$ や $+$ が複数の部分空間から新しい部分空間を作る演算子であるのに比べて、
$\dot +$ や $\oplus$ は 「線形空間同士の演算」 ではなく、
和空間を形成する空間が特殊な条件を満たすことを表現しているに過ぎない。

この違いに注意せよ。



* 質問・コメント [#m8a71c0e]

#article_kcaptcha
**誤植 [#o8dbe6da]
>[[通りすがり]] (&timetag(2020-10-12T01:08:35+09:00, 2020-10-12 (月) 10:08:35);)~
~
成分分解の一意性~
δ∈V∩W~

//
- ご指摘ありがとうございます、おっしゃる通りでした。早速修正いたしました。 -- [[武内 (管理人)]] &new{2020-10-12 (月) 16:23:45};

#comment_kcaptcha


Counter: 116743 (from 2010/06/03), today: 45, yesterday: 0