線形代数II/内積と計量空間 のバックアップ差分(No.23)

更新


  • 追加された行はこの色です。
  • 削除された行はこの色です。
[[前の単元 <<<>線形代数II/線形写像の行列表現と階数]]
               [[線形代数II]]
               [[>>> 次の単元>線形代数II/関数空間]]

*目次 [#p45c8f25]

#contents

~

SIZE(24){COLOR(RED){本授業で採用している内積の公理は[[かけ算の順番が一般的な物と異なる>線形代数II/内積と計量空間#e8db9a80]]ため注意せよ。}}

* 内積 [#k485e13a]

&math(K); 上の線形空間 &math(V); の任意の2つの元 &math(\bm x,\bm y\in V); の間に、
次の公理を満たす演算 &math((\bm x,\bm y)\in K); が定義されるとき、この演算を内積と呼ぶ。

+ &math((\bm x,\bm y_1+\bm y_2)=(\bm x,\bm y_1)+(\bm x,\bm y_2));
+ &math((\bm x,c\bm y)=c(\bm x,\bm y));
+ &math((\bm y,\bm x)=\overline{(\bm x,\bm y)});
+ &math((\bm x,\bm x)\geqq 0); &math((\bm x,\bm x)=0\Leftrightarrow \bm x=\bm 0);

このとき、以下の定理を証明可能:

- &math(K=\mathbb R); の時は &math((\bm y,\bm x)=(\bm x,\bm y));~
   ∵ &math(x\in \mathbb R); に対して &math(x=\overline x);

- &math((\bm x_1+\bm x_2,\bm y)=(\bm x_1,\bm y)+(\bm x_2,\bm y));~
   ∵1. と 3. より

- &math((c\bm x,\bm y)=\overline c(\bm x,\bm y));~
   ∵2. と 3. より

- 任意の &math(\bm x\in V); に対して &math((\bm x,\bm 0)=(\bm 0,\bm x)=0);~
   ∵&math((\bm x,\bm 0)=(\bm x,0\bm 0)=0(\bm x,\bm 0)=0); および 3. 

- ノルム &math(\|\bm x\|=\sqrt{(\bm x,\bm x)}\geqq 0); を定義可能~
   ∵4. より~
    → 絶対値と区別するため &math(|\bm x|);でなく&math(\|\bm x\|);と書く((例えば関数ベクトルのノルム &math(\|f(x)\|); と関数値の絶対値 &math(|f(x)|); とを区別する場面がありうるため))

- シュワルツの不等式が成り立つ~
   &math(|(\bm x,\bm y)|\leqq\|\bm x\|\|\bm y\|); あるいは 
&math(\frac{|(\bm x,\bm y)|}{\|\bm x\|\|\bm y\|}\leqq 1);~
   ∵4. より任意の &math(r,\theta\in\mathbb R); に対して~
    &math(\|\bm x+re^{i\theta}\bm y\|^2=\|\bm x\|^2+2\mathrm{Re}\big\{(\bm x,\bm y)e^{i\theta}\big\}r+\|\bm y\|^2r^2\geqq 0); ~
    判別式はゼロまたは負であり &math(\mathrm{Re}\big\{(\bm x,\bm y)e^{i\theta}\big\}\leqq \|\bm x\|\|\bm y\|);~
    ここで &math(\theta=-\arg\{(\bm x,\bm y)\}); と取れば与式を得る((シュワルツの不等式で等号が成り立つとき、ある複素数値 &math(re^{i\theta}=\frac{\|\bm x\|}{\|\bm y\|}\frac{-|(\bm x,\bm y)|}{(\bm x,\bm y)}); に対して &math(\|\bm x+re^{i\theta}\bm y\|=0); となる。すなわち &math(\bm x\,/\!/\,\bm y); である。この逆も証明可能。))

- 三角不等式が成り立つ &math(\|\bm x+\bm y\|\leqq\|\bm x\|+\|\bm y\|); ~
   ∵シュワルツの不等式を使って~
    &math(\big(\|\bm x\|+\|\bm y\|\big)^2-\|\bm x+\bm y\|^2
&=2\big(\|\bm x\|\|\bm y\|-\mathrm{Re}\big\{(\bm x,\bm y)\big\}\big)\\
&\geqq2\big(\|\bm x\|\|\bm y\|-|(\bm x,\bm y)|\big)\geqq 0); ((三角不等式で等号が成り立つとき左辺はゼロとなり、シュワルツの不等式でも等号が成り立つため &math(\bm x\,/\!/\,\bm y);。この逆も証明可能。))

- 実ベクトルでは2つのベクトルの間の角度 &math(\theta); を定義可能~
   &math((\bm x,\bm y)=\|\bm x\|\|\bm y\|\cos\theta);

- 複素ベクトルにおいてもベクトルの直交を定義可能~
   &math(\bm x\perp\bm y&\Leftrightarrow (\bm x,\bm y)=0 \\
&\Leftrightarrow (\bm y,\bm x)=0);~
   → &math(\bm x=\bm 0); は任意のベクトルと直交する

内積が定義された線形空間を計量線形空間という。~
(ベクトルの大きさ(ノルム)および直交性が定義された線形空間ということ)

** 注意 [#e8db9a80]

実は上記内積の公理のうち2番目は、

 &math((\bm x,c\bm y)=c(\bm x,\bm y));

ではなく、

 &math((c\bm x,\bm y)'=c(\bm x,\bm y)');

とする流儀もあり、実は ''こちらの方が一般的である''。

この2つの定義の間には、

&math((\bm x,\bm y)=(\bm y,\bm x)');

あるいは

&math(\overline{(\bm x,\bm y)}=(\bm x,\bm y)');

の関係がある。

量子力学に出てくるディラックのブラ・ケット記法との整合性を重視して
この授業では(数学では比較的マイナーな)前者を採用している。

COLOR(RED){本授業の受講者が他の教科書やWebページを参照する場合、あるいは他の教科書で学ぶ学生が本Webページを読む場合にはこの差に十分に注意すること。}

* 正規直交系 [#i1230363]

&math(\bm e_1, \bm e_2, \dots, \bm e_k); が

- 正規性: &math((\bm e_i,\bm e_i)=1); つまり &math(\|\bm e_i\|=1);
- 直交性: &math((\bm e_i,\bm e_j)=0); つまり &math(\bm e_i\perp\bm e_j); (&math(i\ne j);)

を満たすとき、正規直交系を為すという。あるいはまとめて、

- &math((\bm e_i,\bm e_j)=\delta_{ij});

とも書ける。

ここで、

&math(\delta_{ij}=\left\{\begin{array}{ll}
1 & (i=j)\\
0 & (i\ne j)
\end{array}\right .);

はクロネッカーのデルタである。

* 正規直交系は一次独立である [#ic67f1e7]

&math(\sum_{i=1}^nc_i\bm e_i=\bm 0); とすると、左から &math(\bm e_j); を掛けることで、

&math(
(左辺)
&=\Big(\bm e_j,\sum_{i=1}^nc_i\bm e_i\Big)\\
&=\Big(\bm e_j,\sum_{i=1}^nc_i\bm e_i\Big)\\
&=\sum_{i=1}^nc_i\left(\bm e_j,\bm e_i\right)\\
&=\sum_{i=1}^nc_i\delta_{ij}\\
&=c_j
);

一方

&math(
(右辺)=(\bm e_j,\bm 0)=0
);

したがって、任意の &math(j); に対して &math(c_j=0);

* 正規直交基底 [#s47e26a7]

ある基底が正規直交系を為すとき、正規直交基底と呼ぶ。

* 数ベクトルの標準内積 [#te5e5d66]

** 実数ベクトル [#m652d7b6]

標準内積(自然内積):

  &math(\bm x=\begin{pmatrix}x_1\\\vdots\\x_n\end{pmatrix},
          \bm y=\begin{pmatrix}y_1\\\vdots\\y_n\end{pmatrix}); に対して

  &math((\bm x,\bm y)&=x_1y_1+x_2y_2+\dots+x_ny_n\\
                       &=\sum_{k=1}^nx_ky_k={}^t\!\bm x\bm y);

  ただし、&math({}^t\!\bm x=(x_1\ x_2\ \dots\ x_n)); は &math(\bm x); の転置

は内積の公理を満たす。

ノルムの正値性:

  &math((\bm x,\bm x)&=\sum_{k=1}^nx_k^2\geqq 0);

基本ベクトル:

  &math(\bm e_1,\bm e_2,\dots,\bm e_n\in\mathbb{R}^n);, 
&math(\bm e_k=\begin{pmatrix}0\\\vdots\\1\\\vdots\\0\end{pmatrix}\begin{matrix}\ \\\ \\\leftarrow k\\\ \\\ \end{matrix});

- 標準内積に対して &math(\mathbb R^n); の正規直交基底となる。

** 複素数に関する復習 [#b5173ea8]

,複素数           ,&math(z=x+iy\in\mathbb C); ただし &math(x,y\in\mathbb R);
,実部             ,&math(\mathrm{Re}\ \! z=\Re z=x);
,虚部             ,&math(\mathrm{Im}\ \! z=\Im z=y);
,つまり           ,&math(z=\mathrm{Re}\ \! z+i\mathrm{Im}\ \! z);
,和               ,&math(z_1+z_2=(x_1+x_2)+i(y_1+y_2));
,積               ,&math(z_1z_2=(x_1x_2-y_1y_2)+i(x_1y_2+y_1x_2));
,複素共役         ,&math(\bar z=x-iy);
,絶対値           ,&math(\|z\|=\sqrt{x^2+y^2});
,絶対値と複素共役 ,&math(\|z\|^2=x^2+y^2=\bar zz=z\bar z);
,商               ,&math(\frac{z_1}{z_2}=\frac{z_1\bar z_2}{z_2\bar z_2}=\ &\frac{1}{\|z_2\|^2}(x_1x_2+y_1y_2)+\\&\frac{i}{\|z_2\|^2}(-x_1y_2+y_1x_2));

** 複素数ベクトル [#aa6e0163]

実ベクトルと同様に内積を定義しようとすると、

  &math({}^t\!\bm z\bm z=z_1^2+z_2^2+\dots+z_n^2); は必ずしも正の実数にならない!

そこで標準内積(自然内積)を

  &math((\bm x,\bm y)={}^t\overline{\bm x}\bm y=\sum_{k=1}^n\bar x_ky_k);

と定義する。

  &math(\bm z=\begin{pmatrix}z_1\\z_2\\\vdots\\z_n\end{pmatrix}=\begin{pmatrix}x_1+iy_1\\x_2+iy_2\\\vdots\\x_n+iy_n\end{pmatrix}); のとき、

  &math(\|\bm z\|^2=(\bm z,\bm z)=\sum_{k=1}^n\bar z_kz_k=\sum_{k=1}^n|z_k|^2=\sum_{k=1}^n x_k^2+y_k^2\geqq 0);

に注目!

- 標準内積に対して、上記の基本ベクトルはやはり &math(\mathbb C^n); の正規直交基底となる。
- 実ベクトルに対する複素内積は実内積と一致する

** 標準でない内積の例 [#c1960242]

例えば、各項がすべて正であるような数列 &math(\set{w_i}); を重みとして、内積を

  &math((\bm x,\bm y)=\sum_{k=1}^nw_i\bar x_ky_k);

と定義すると、これは内積の公理を満たす。

他にも様々な形で内積を定義可能。((一般に、正定値(固有値が全て正)のエルミート行列 &math(A); に対して &math((\bm x,\bm y)=\sum_{k=1}^nw_i\bar x_kAy_k); は内積となる。))

ノルムの値やベクトルの為す角、直交するかどうかなどは、
内積の具体的な定義に依存して決まるため、
異なる内積を持ち込めば結果も異なる。

* 正規直交基底に対する内積の成分表示 [#o879b519]

ある内積の下で &math(\comment{widetilde} E=\langle \bm e_1,\bm e_2,\dots,\bm e_n\rangle); が正規直交基底であるとする。

基底 &math(E); に対するベクトル &math(\bm x,\bm y); の表現を &math(\bm x_E={}^t\!(x_1\ x_2\ \dots\ x_n));, &math(\bm y_E={}^t\!(y_1\ y_2\ \dots\ y_n)); とすれば、
&math(\bm x=\sum_{i=1}^n x_i\bm e_i);, &math(\bm y=\sum_{i=1}^n y_i\bm e_i); であるから、

この内積に対して、

&math(
(\bm x,\bm y)&=\Big(\sum_{i=0}^n x_i\bm e_i,\bm y\Big)\\
&=\sum_{i=1}^n\overline x_i\Big(\bm e_i, \sum_{j=1}^n y_j\bm e_j\Big)\\
&=\sum_{i=1}^n\sum_{j=1}^n\overline x_iy_j(\bm e_i, \bm e_j)\\
&=\sum_{i=1}^n\sum_{j=1}^n\overline x_iy_j\delta_{ij}\\
&=\sum_{i=1}^n\overline x_iy_i\\
&={}^t\overline{\bm x_E}\bm y_E
);

を得る。

すなわち、%%%正規直交基底に対する内積の成分表示%%% は 「標準内積」 となる

逆に、正規直交ではない基底を用いると内積の数値表現が複雑になるため、
計量空間に基底を取るときには通常正規直交基底を選ぶ(便利だから)。

* 行列のエルミート共役 [#de0c0da8]

&math(m,n); 行列 &math(A=\big(\,a_{ij}\,\big)); に対して、

- 転置行列: &math(^t\!A=\big(\,a_{ji}\,\big));
- 複素共役: &math(\overline A=\big(\,\overline{a_{ji}}\,\big));
- エルミート共役: &math(A^\dagger=\overline{^t\!A}=^t\!\overline{A}=\big(\,\overline{a_{ji}}\,\big));

特に、列ベクトル &math(\bm x=\begin{pmatrix}x_1\\x_2\\\vdots\\x_n\end{pmatrix}); に対しては、

-転置: &math(^t\!\bm x=\begin{pmatrix}x_1&x_2&\dots&x_n\end{pmatrix});
-複素共役: &math(\overline{\bm x}=\begin{pmatrix}\overline x_1\\\overline x_2\\\vdots\\\overline x_n\end{pmatrix});
-エルミート共役: &math(\bm x^\dagger=\overline{^t\!\bm x}=^t\!\overline{\bm x}=\begin{pmatrix}\overline x_1&\overline x_2&\dots&\overline x_n\end{pmatrix});

エルミート共役は、次の性質を持つ。

- &math(\left(A^\dagger\right)^\dagger=A);
- &math((AB)^\dagger=B^\dagger A^\dagger); (転置行列と同じ → &math({}^t\!(AB)={}^t\!B{}^t\!A);)
- &math((\bm x,\bm y)=\bm x^\dagger \bm y);
- &math((\bm x,A\bm y)=\bm x^\dagger A\bm y=\bm x^\dagger A^\dagger\bm y=(A^\dagger\bm x,\bm y));

エルミート共役 &math(A^\dagger); を &math(A); の随伴行列とも呼ぶ。

* 対称行列、直交行列 と エルミート行列、ユニタリ行列 [#g3931b9c]

&math(A); が実行列のとき &math(A^\dagger=^t\!\!A); である。

|実行列・ベクトルについて      |複素行列・ベクトルについて              |
|対称行列 &math(^t\!S=S);      |エルミート行列 &math(H^\dagger=H); |
|直交行列 &math(^t\!R=R^{-1}); |ユニタリ行列 &math(U^\dagger=U^{-1}); |

性質:
- 対称行列 &math(S); について &math((\bm x,S\bm y)=(S\bm x,\bm y)); (実内積)
- エルミート行列 &math(H); について &math((\bm x,H\bm y)=(H\bm x,\bm y)); (複素内積)

性質:
- 直交行列 &math(R); により内積が保存される &math((R\bm x,R\bm y)=(\bm x,\bm y));
- ユニタリ行列 &math(U); により複素内積が保存される &math((U\bm x,U\bm y)=(\bm x,\bm y));

* 転置や複素共役の表記法 [#qe180398]

 &math(A^*=\overline A); : 複素共役~
 &math(A^T={}^t\!A); : 転置~
 &math(A^\dagger); : エルミート共役

のように書くことも多い。~
この方が統一感がある
* 正規行列 [#ldb799b7]

&math(A^\dagger A=AA^\dagger); を満たす行列を正規行列と呼ぶ。

エルミート行列、ユニタリ行列は正規行列であるが、他にもたくさんある。

1年生の時、直交行列により対角化できる行列と、できない行列があることを学んだ。

実は「ユニタリ行列により対角化できること」と「正規行列であること」とは同値である。
証明は後ほど。

~

[[前の単元 <<<>線形代数II/線形写像の行列表現と階数]]
               [[線形代数II]]
               [[>>> 次の単元>線形代数II/関数空間]]
* 質問・コメント [#wc06c3f7]

#article_kcaptcha
**内積の証明 [#i366d70f]
>[[とうか]] (&timetag(2017-07-28T17:23:14+09:00, 2017-07-29 (土) 02:23:14);)~
~
(f,g)=∫a→b {f(x)}*g(x)dxにより定義された複素数(f,g)が(f,f)≧0 (ただし等号はfがf:x→0となる関数に限る)の性質を満たすことの示し方についてお答え願います。~

//
- 実際に式を書いてみればすぐに分かる簡単な問題だと思います。試してみて下さい。 -- [[武内(管理人)]] &new{2017-07-29 (土) 12:16:43};

#comment_kcaptcha

**フロウベニスノルム [#zbec8ee8]
>[[hshs]] (&timetag(2017-02-21T08:19:38+09:00, 2017-02-21 (火) 17:19:38);)~
~
管理人様,~
たびたび質問申し訳ありません.~
‖A - B‖F = ‖A‖F - ‖B‖F~
(F:フロウベニスノルム)~
は成り立ちますか?~

//
- 管理人様,A,Bの条件等を記載し忘れました.階数がrである行列A(m*n)を階数k(<r)の行列Bで近似したい.どのようにBを構成すれば良いか.すなわち近似誤差行列E=A=Bとして,これのフローベニウスノルムを最小にするBを求めよ. -- [[hshs]] &new{2017-02-21 (火) 17:23:34};
- 問題設定とは関係なく、フロベニウスノルムの定義をしっかり確認すれば質問の答えはわかるはずです。頑張って下さい。 -- [[武内(管理人)]] &new{2017-02-23 (木) 09:34:52};

#comment_kcaptcha


Counter: 25644 (from 2010/06/03), today: 3, yesterday: 0