射影・直和・直交直和 の履歴(No.61)

射影演算子はエルミートになる。†

$$\begin{aligned} (P_{\bm e})_A^\dagger=\big(\bm e_A\bm e_A^\dagger\big)^\dagger=\big(\bm e_A^\dagger\big)^\dagger\bm e_A^\dagger=\bm e_A\bm e_A^\dagger=(P_{\bm e})_A \end{aligned}$$

より、射影演算子の表現行列はエルミートである。

このとき、任意のベクトル $\bm x,\bm y$ に対して

$$\begin{aligned} (\bm x,P_{\bm e}\bm y)=(P_{\bm e}^\dagger\bm x,\bm y)=(P_{\bm e}\bm x,\bm y) \end{aligned}$$

が成り立ち、このような演算子はエルミート演算子と呼ばれる。

解答例†

復習１：線形空間†

$K$ 上の線形空間とは、ベクトルの和とスカラー倍について閉じた集合のことだった。

• 任意の $\bm x,\bm y\in V$ に対して、必ず $\bm x+\bm y\in V$
  　　↔ $\bm x,\bm y\in V$ から $\bm x+\bm y\in V$ を導けるということ
• 任意の $\bm x\in V,k\in K$ に対して、必ず $k\bm x\in V$
  　　↔ $\bm x\in V,k\in K$ から $k\bm x\in V$ を導けるということ

復習２：部分空間†

線形空間の部分集合 $W\subset V$ がベクトルの和とスカラー倍について閉じている場合、 $W$ も線形空間となり、$W$ は $V$ の部分空間であるという。

$\mathbb R^3$ の部分空間：全体空間が３次元なので部分空間は３次元以下になる

• ０次元の部分空間は原点のみからなる集合 $\{\,\bm 0\,\}$
• １次元の部分空間は原点を通る直線　　　 $\{\,\bm p=s\bm a\,|\,s\in K\,\}$
• ２次元の部分空間は原点を通る平面　　　 $\{\,\bm p=s\bm a+t\bm b\,|\,s,t\in K\,\}$
• ３次元の部分空間は $\mathbb R^3$ そのもの

同じ直線的でも、原点を通らない $\{\,\bm p=s\bm a+\bm b\,|\,s\in K\,\}$ は線形空間にならない。（和やスカラー倍が元の集合からはみ出す）

上の例のように $n$ 個のベクトルの線形結合として表せるベクトルの集合を、それらのベクトルが「張る空間」と呼ぶのであった。$n$ 個のベクトルが張る空間の次元は、それらが一次独立であれば $n$ であるが、一次従属であれば $n$ より小さくなる。

復習３：集合の積と和†

集合 $A$ と集合 $B$ の積と和は、

記号の覚え方：

• 「$x\in A\,\text{かつ}\,x\in B$」は英語では「$x\in A\,\text{and}\,x\in B$」
• And の A と $\cap$ とは似ている（でしょ？）

和空間の次元†

一次従属な時は次の式が成り立つ。

$$\begin{aligned}\dim (V+W)=\dim V+\dim W-\dim(V\cap W)\end{aligned}$$

例：

右図の平面状の $V,W$ の和空間は３次元空間全体となる。また２平面の交線が $V\cap W$ に相当する。すなわち、

$$\underbrace{\dim(V+W)}_3=\underbrace{\dim V}_2+\underbrace{\dim W}_2-\underbrace{\dim(V\cap W)}_1$$

これは集合 $A\cup B$ の要素の数について （$\#$ は集合の要素の数を表す）

$$\#(A\cup B)=\#A+\#B-\#(A\cap B)$$

と表せることに対応している。（単に足しておいて重なった部分を引いている）

上の関係式の証明は省くが、次のように考えると理解できるであろう。

• $V\cap W$ の基底 $a$ 個に $\dim(V\cap W)=a$
• $b$ 個のベクトルを加えて $V$ の基底を作成 $\dim V=a+b$
• $c$ 個のベクトルを加えて $W$ の基底を作成 $\dim W=a+c$
• この $b$ 個と $c$ 個とは一次独立になるので (この証明が必要）
• 合わせて $a+b+c$ 個が $V+W$ の基底になる

$$\dim(V+W)=a+b+c=(a+b)+(a+c)-a=\dim V+\dim W-\dim(V\cap W)$$

直和の性質†

$V\dot +W$ のときには以下が成り立つ：

• $V$ の基底と $W$ の基底は一次独立で、すべて合わせると $V\dot +W$ の基底になる
• $\dim V+\dim W=\dim(V\dot +W)$
• $\bm v\in V$, $\bm w\in W$ が $\bm v+\bm w=\bm 0$ を満たすなら $\bm v=\bm w=\bm 0$ である
  $\because$ $\bm v,\bm w$ を基底で分解すれば $\displaystyle\sum_{k=1}^n b_k\bm v_k+\sum_{k=1}^m d_k\bm w_k=\bm 0$
  $V$ の基底と $W$ の基底が一次独立なら係数はすべてゼロ
• $V\cap W=\{\bm 0\}$
  $\displaystyle\because \bm x\in V\cap W \to \bm x=\sum_{k=1}^n b_k\bm v_k=\sum_{k=1}^m d_k\bm w_k$ と表せる
  $\displaystyle\sum_{k=1}^n b_k\bm v_k-\sum_{k=1}^m d_k\bm w_k=\bm 0$ となるから係数はすべてゼロ

直和は「互いに線形独立な２つの空間」の和空間のイメージになる。
⇔ $\bm v+\bm w=\bm 0$ から $\bm v=\bm w=\bm 0$ を導ける。

成分分解の一意性†

$\bm x\in V\dot +W$ のとき $\bm x=\bm x_V+\bm x_W$ $(\bm x_V\in V, \bm x_W\in W)$ の分解は一意に定まる。

証明：

もし二通りに書けたとすると、

$$\begin{aligned}\bm x&=\bm x_V+\bm x_W\\ &=\bm x'_V+\bm x'_W \end{aligned}$$

両者の差を取って、

$$\begin{aligned} \bm 0&=\underbrace{(\bm x_V-\bm x'_V)}_{\bm\delta_V\in V}+\underbrace{(\bm x_W-\bm x'_W)}_{\bm\delta_W\in W}\\ &=\delta_V+\delta_W\\ \to\ &\delta_V=\delta_W=\bm 0 \end{aligned}$$

逆に $\bm\delta\in V\cap W$ が $\bm\delta\ne\bm 0$ であれば、

$$\begin{aligned}\bm x&=\bm x_V+\bm x_W\\ &=(\bm x_V+\bm \delta)+(\bm x_W-\bm \delta)\\ &=\bm x_V'+\bm x_W' \end{aligned}$$

のように成分分解が一意に定まらない。

成分の値はもう一方の空間に依存する†

成分分解のイメージは下図のようなものになる。

同じベクトル $\bm x$ を
　　$\begin{aligned}V\end{aligned}$ と $W$ に分解したときの $\bm x_V$ と、
　　$\begin{aligned}V\end{aligned}$ と $W'$ に分解したときの $\bm x'_V$ とは
一般には異なる値になる。

すなわち、ある部分空間の成分は、その部分空間だけでは決まらずに、他の部分空間の取り方にも依存する。

上で $e$ から $P_{\bm e}$ を求められたのとは違い、$V$ の情報のみから $\bm x_V$ を求めることはできない。

$V$ が２次元の時の成分分解のイメージは次の通り。

直交直和の成分分解†

直交直和の成分分解は簡単である。$\{\,\bm v_k\},\{\,\bm w_k\,\}$ を正規直交基底とすると、

$$\begin{aligned} \bm x&=\underbrace{\sum_{k=1}^n c_{k}\bm v_{k}}_{\,\bm x_V} { }+\underbrace{\sum_{k=1}^m d_{k}\bm w_{k}}_{\,\bm x_W}\\ &=c_k\bm v_k+\underbrace{\sum_{k'\ne k}^n c_{k'}\bm v_{k'}+\sum_{k'=1}^m d_{k'}\bm w_{k'}}_{\perp\,\bm v_k} \end{aligned}$$

のように、$\bm c_k\bm v_k$ を取り出せば、残りの部分は $\bm v_k$ と直交するから、 $\bm c_k\bm v_k$ は $\bm x$ の $\bm v_k$ 方向成分である。

これは上で定義した１次元射影演算子 $P_{\bm v_k}$ を使って $c_k\bm v_k=P_{\bm v_k}\bm x$ と書けるから、

$$\begin{aligned} \bm x_V &=\underbrace{\sum_{k=1}^n P_{\bm v_k}}\bm x\\ &=\ \ P_V\ \ \bm x \end{aligned}$$

すなわち、

$$\begin{aligned}P_V=\sum_{k=1}^n P_{\bm v_k}\end{aligned}$$

が $V\oplus W$ から $V$ への射影演算子となる。

数ベクトルに対しては上で見たとおり

$$\begin{aligned}P_V=\sum_{k=1}^n \bm v_k\bm v_k^\dagger\end{aligned}$$

である。

射影演算子は $V$ の情報だけから定まり、 $W$ に依存しないことに注意せよ。

エルミート演算子の和はエルミート演算子になるから、 $P_{\bm v_k}$ の和である $P_V$ もエルミートである。

（空間が直交しない一般の直和の場合にも「逆基底」を考えることにより、 直交直和の場合とそっくりな形に射影演算子を表すことが可能であるが、ここでは省略する。 → 発展：線形代数II/非直交基底の成分分解）

直交補空間†

全体空間 $U$ が $U=V\oplus W$ と表されるとき、 $W$ を $V$ の「直交補空間」と呼び、$W=V^\perp$ と書く。

ある線形空間 $V$ に対してその直交補空間は一意に定まる。

$$\begin{aligned}V^\perp=\{\,\bm x\in U\,|\,\forall\bm y\in V,(\bm x,\bm y)=0\,\}\end{aligned}$$

つまり全体集合を、ある空間と、それに直交する補空間と、に分解することはいつも可能である。

あるベクトル $\bm x$ を $\bm e$ に平行な成分 $\bm x_\parallel$ と垂直な成分 $\bm x_\perp$ に分ける問題は、それぞれ線形空間 $V=\{\,\bm p=t\bm e\,|\,t\in K\,\}$ とその直交補空間 $V^\perp$ の成分への分解を表わしていたことになる。

一方、全体空間 $U$ を $U=V\dot + W$ と表せるとき、 $W$ を $V$ の（単なる）「補空間」と呼ぶ。 ある空間の直交補空間が一意に決まるのに対して、 補空間にはさまざまな取り方がある。

直交射影演算子の性質†

$P_V$ が $V$ への直交射影演算子であるというのは、
任意の $\bm x$ に対して $P_V\bm x=\bm x_\parallel\in V$ かつ $\bm x-P_V\bm x=\bm x_\perp\in V^\perp$ であるというのと同値である

このとき、

• $\bm x\in V$ のとき $P_V\bm x=\bm x$
• $\bm x\in V^\perp$ のとき $P_V\bm x=\bm 0$
• $E=P_V+P_{V^\perp}$ ← ∵$\bm x=P_V\bm x+P_{V^\perp}\bm x=\bm x_\parallel+\bm x_\perp$
• $P_V^2=P_V$ あるいは $P_V(E-P_V)=O$
  ∵ $P_V\bm x\in V$ だから、$P_V^2\bm x=P_V\bm x$
• これは、$P_{V^\perp}=E-P_V$ であり、$P_VP_{V^\perp}=O$ であることからも理解できる
• またここから、$P_V$ の固有値は $\lambda^2=\lambda$ を満たす、すなわち $\lambda=0,1$ であることが分かる。
  • 任意の $\bm x\in V$ が固有値 $1$ に対する固有ベクトル
  • 任意の $\bm x\in V^\perp$ が固有値 $0$ に対する固有ベクトル

また、計量線形空間に定義されたある線形変換 $P$ が直交射影演算子となる為の必要十分条件は $PP = P$ かつ $P^\dagger=P$ である → その証明