線形代数II/内積と計量空間 のバックアップの現在との差分(No.2)

更新


  • 追加された行はこの色です。
  • 削除された行はこの色です。
[[線形代数Ⅱ]]
[[前の単元 <<<>線形代数II/線形写像の行列表現と階数]]
               [[線形代数II]]
               [[>>> 次の単元>線形代数II/関数空間]]

*目次 [#p45c8f25]

#contents

~&katex();

SIZE(24){COLOR(RED){本授業で採用している内積の公理は[[かけ算の順番が一般的な物と異なる>線形代数II/内積と計量空間#e8db9a80]]ため注意せよ。}}

* 内積 [#k485e13a]

&math(K); 上の線形空間 &math(V); の任意の2つの元 &math(\bm x,\bm y\in V); の間に、
演算 &math((\bm x,\bm y)); が定義され、&math((\bm x,\bm y)\in K); となるものとする。
&math(K); 上の線形空間 &math(V); に「内積」を定義しよう。

この演算が次の公理を満たすとき、内積と呼ばれる。
内積は &math(V); の任意の2つの元 &math(\bm x,\bm y\in V); から
1つの &math(K); の元を求める演算 &math((\bm x,\bm y)\in K); 
で、次の公理を満たすものである。

+ &math((\bm x,\bm y_1+\bm y_2)=(\bm x,\bm y_1)+(\bm x,\bm y_2));
+ &math((\bm x,c\bm y)=c(\bm x,\bm y));
+ &math((\bm y,\bm x)=\overline{(\bm x,\bm y)});
+ &math((\bm x,\bm x)\geqq 0); &math((\bm x,\bm x)=0\Leftrightarrow \bm x=\bm 0);
+ &math((\bm x,\bm x)\geqq 0); かつ &math((\bm x,\bm x)=0\Leftrightarrow \bm x=\bm 0);

このとき、以下の性質も証明可能:
このとき、以下の定理を証明可能である。

&math(K=\mathbb R); の時は &math(x\in \mathbb R); に対して
&math(x=\overline x); だから &math((\bm y,\bm x)=(\bm x,\bm y));
すなわち、上記の公理を満たす任意の「内積」は、
これまで我々が慣れ親しんできた内積とよく似た性質を持つことが保障される。

1. と 3. より、&math((\bm x_1+\bm x_2,\bm y)=(\bm x_1,\bm y)+(\bm x_2,\bm y));
- &math(K=\mathbb R); の時は &math((\bm y,\bm x)=\overline{(\bm x,\bm y)}=(\bm x,\bm y));

2. と 3. より、&math((c\bm x,\bm y)=\overline c(\bm x,\bm y));
- &math((\bm x_1+\bm x_2,\bm y)=(\bm x_1,\bm y)+(\bm x_2,\bm y));~
   ∵1. と 3. より

4. より ノルム &math(\|\bm x\|=\sqrt{(\bm x,\bm x)}\geqq 0); を定義可能。
- &math((c\bm x,\bm y)=\overline c(\bm x,\bm y));~
   ∵2. と 3. より

内積が定義された線形空間を計量線形空間という。
(ノルム によりベクトルの大きさを測れるようになったということ)
- 任意の &math(\bm x\in V); に対して &math((\bm x,\bm 0)=(\bm 0,\bm x)=0);~
   ∵&math((\bm x,\bm 0)=(\bm x,0\bm 0)=0(\bm x,\bm 0)=0); および 3. 

&math((\bm x, \bm y)=0); のとき、&math(\bm x\perp\bm y); すなわち、
&math(\bm x); と &math(\bm y); は直交するという。
- ノルム &math(\|\bm x\|=\sqrt{(\bm x,\bm x)}\geqq 0); を定義可能~
   ∵4. より~
    → 絶対値と区別するため &math(|\bm x|);でなく&math(\|\bm x\|);と書く((例えば関数ベクトルのノルム &math(\|f(x)\|); と関数値の絶対値 &math(|f(x)|); とを区別する場面がありうるため))

- シュワルツの不等式が成り立つ~
   &math(|(\bm x,\bm y)|\leqq\|\bm x\|\|\bm y\|); あるいは 
&math(\frac{|(\bm x,\bm y)|}{\|\bm x\|\|\bm y\|}\leqq 1);~
   ∵4. より任意の &math(r,\theta\in\mathbb R); に対して~
    &math(\|\bm x+re^{i\theta}\bm y\|^2=\|\bm x\|^2+2\mathrm{Re}\big\{(\bm x,\bm y)e^{i\theta}\big\}r+\|\bm y\|^2r^2\geqq 0); ~
    判別式はゼロまたは負であり &math(\mathrm{Re}\big\{(\bm x,\bm y)e^{i\theta}\big\}\leqq \|\bm x\|\|\bm y\|);~
    ここで &math(\theta=-\arg\{(\bm x,\bm y)\}); と取れば与式を得る((シュワルツの不等式で等号が成り立つとき、ある複素数値 &math(re^{i\theta}=\frac{\|\bm x\|}{\|\bm y\|}\frac{-|(\bm x,\bm y)|}{(\bm x,\bm y)}); に対して &math(\|\bm x+re^{i\theta}\bm y\|=0); となる。すなわち &math(\bm x\,/\!/\,\bm y); である。この逆も証明可能。))

- 三角不等式が成り立つ &math(\|\bm x+\bm y\|\leqq\|\bm x\|+\|\bm y\|); ~
   ∵シュワルツの不等式を使って~
    &math(\big(\|\bm x\|+\|\bm y\|\big)^2-\|\bm x+\bm y\|^2
&=2\big(\|\bm x\|\|\bm y\|-\mathrm{Re}\big\{(\bm x,\bm y)\big\}\big)\\
&\geqq2\big(\|\bm x\|\|\bm y\|-|(\bm x,\bm y)|\big)\geqq 0); ((三角不等式で等号が成り立つとき左辺はゼロとなり、シュワルツの不等式でも等号が成り立つため &math(\bm x\,/\!/\,\bm y);。この逆も証明可能。))

- 実ベクトルでは2つのベクトルの間の角度 &math(\theta); を定義可能~
   &math((\bm x,\bm y)=\|\bm x\|\|\bm y\|\cos\theta);

- 複素ベクトルにおいてもベクトルの直交を定義可能~
   &math(\bm x\perp\bm y&\Leftrightarrow (\bm x,\bm y)=0 \\
&\Leftrightarrow (\bm y,\bm x)=0);~
   → &math(\bm x=\bm 0); は任意のベクトルと直交する

内積を定義することにより、ベクトルの大きさ(ノルム)および直交性が線形空間に導入される。

そのような、「内積が定義された線形空間」のことを計量線形空間という。

** 注意 [#e8db9a80]

実は上記内積の公理のうち2番目は、

 &math((\bm x,c\bm y)=c(\bm x,\bm y));

ではなく、

 &math((c\bm x,\bm y)'=c(\bm x,\bm y)');

とする流儀もあり、実は ''こちらの方が一般的である''。

この2つの定義の間には、

&math((\bm x,\bm y)=(\bm y,\bm x)');

あるいは

&math(\overline{(\bm x,\bm y)}=(\bm x,\bm y)');

の関係がある。

量子力学に出てくるディラックのブラ・ケット記法との整合性を重視して
この授業では(数学では比較的マイナーな)前者を採用している。

COLOR(RED){本授業の受講者が他の教科書やWebページを参照する場合、あるいは他の教科書で学ぶ学生が本Webページを読む場合にはこの差に十分に注意すること。}

* 正規直交系 [#i1230363]

&math(\bm e_1, \bm e_2, \dots, \bm e_k); が

- 正規性: &math((\bm e_i,\bm e_i)=1); つまり &math(\|\bm e_i\|=1);
- 直交性: &math((\bm e_i,\bm e_j)=0); つまり &math(\bm e_i\perp\bm e_j); (&math(i\ne j);)

を満たすとき、正規直交系を為すという。あるいはまとめて、

- &math((\bm e_i,\bm e_j)=\delta_{ij});

とも書ける。
とも書ける。ここで、

* 正規直交基底 [#s47e26a7]
&math(\delta_{ij}=\left\{\begin{array}{ll}
1 & (i=j)\\
0 & (i\ne j)
\end{array}\right .);

ある基底が正規直交系を為すとき、正規直交基底と呼ぶ。
はクロネッカーのデルタである。

* 内積の成分表示 [#o879b519]
** 正規直交系は一次独立である [#ic67f1e7]

&math(\widetilde E=\set{\bm e_1,\bm e_2,\dots,\bm \e_n}); を正規直交基底とし、
&math(\sum_{i=1}^nc_i\bm e_i=\bm 0); とすると、左から &math(\bm e_j); を掛けることで、

&math(\bm x=\sum_{i=0}^n x_i\bm e_i);、&math(\bm y=\sum_{i=0}^n y_i\bm e_i); とすると、
&math(
(左辺)
&=\Big(\bm e_j,\sum_{i=1}^nc_i\bm e_i\Big)\\
&=\Big(\bm e_j,\sum_{i=1}^nc_i\bm e_i\Big)\\
&=\sum_{i=1}^nc_i\left(\bm e_j,\bm e_i\right)\\
&=\sum_{i=1}^nc_i\delta_{ij}\\
&=c_j
);

一方

&math(
(\bm x,\bm y)&=(\sum_{i=0}^n x_i\bm e_i,\bm y)\\
&=\sum_{i=0}^n\overline x_i(\bm e_i, \sum_{j=0}^n y_j\bm e_j)\\
&=\sum_{i=0}^n\sum_{j=0}^n\overline x_iy_j(\bm e_i, \bm e_j)\\
&=\sum_{i=0}^n\sum_{j=0}^n\overline x_iy_j\delta_{ij}\\
&=\sum_{i=0}^n\overline x_iy_i\\
&=(\bm x_{\widetilde E},\bm y_{\widetilde E})
(右辺)=(\bm e_j,\bm 0)=0
);

したがって、任意の &math(j); に対して &math(c_j=0);

** 正規直交基底とその成分 [#s47e26a7]

ある基底 $E=\{\bm e_1,\bm e_2,\dots,\bm e_n\}$ が正規直交系を為すとき $(\bm e_i,\bm e_j)=\delta_{ij}$、正規直交基底と呼ぶ。

正規直交基底に対しては、任意の 

$$\bm x=\sum_{k=1}^\infty x_k\bm e_k$$

に対してその成分 $x_k$ は、

$$
\begin{aligned}
(\bm e_k, \bm x)
&=\sum_{k'=1}^\infty x_{k'} (\bm e_k,\bm e_k')\\
&=\sum_{k'=1}^\infty x_{k'} \delta_{kk'}\\
&=x_{k}\\
\end{aligned}
$$

のように、左から $\bm e_k$ を掛けることにより求められる。

※ $(\bm e_k, \bm x)=x_{k}$ であるが、$(\bm x,\bm e_k)=\overline{x_{k}}$ であるため注意せよ。
* 数ベクトルの内積 [#te5e5d66]

** 標準内積(自然内積) [#s98c4498]

$\bm x=\begin{pmatrix}x_1\\\vdots\\x_n\end{pmatrix},
\bm y=\begin{pmatrix}y_1\\\vdots\\y_n\end{pmatrix}\in K^n$ に対して

$$(\bm x,\bm y)=\sum_{k=1}^n\overline{x_k}y_k$$

は内積の公理を満たす。特に、

$$(\bm x,\bm x)=\sum_{k=1}^n\overline{x_k}x_k=\sum_{k=1}^n|x_k|^2\ge 0$$

片方の複素共役を取っているおかげでノルムが定義できることを理解せよ。
(実数ベクトルでは $\overline{x_k}=x_k$ なので、これまで通り
$(\bm x,\bm y)=\sum_{k=1}^nx_ky_k$ となる)

基本ベクトルは標準内積に対して $K^n$ の正規直交基底になる。

$$\begin{aligned}
&\bm e_1,\bm e_2,\dots,\bm e_n\in\mathbb{R}^n,\\
&\bm e_k=\begin{pmatrix}0\\\vdots\\1\\\vdots\\0\end{pmatrix}\begin{matrix}\ \\\ \\\leftarrow k\\\ \\\ \end{matrix}
\end{aligned}$$



** 標準でない内積の例 [#c1960242]

例えば、各項がすべて正であるような数列 &math(\set{w_i}); を「重み」として、内積を

$$(\bm x,\bm y)=\sum_{k=1}^nw_i\bar x_ky_k$$

と定義すると、これは内積の公理を満たす。

他にも様々な形で内積を定義可能。((一般に、正定値(固有値が全て正)のエルミート行列 &math(A); に対して &math((\bm x,\bm y)=\sum_{k=1}^nw_i\bar x_kAy_k); は内積となる。))

ノルムの値やベクトルの為す角、直交するかどうかなどは、
内積の具体的な定義に依存して決まるため、
異なる内積を持ち込めば結果も異なる。

* 正規直交基底に対する内積の成分表示 [#o879b519]

ある内積の下で $E=\langle \bm e_1,\bm e_2,\dots,\bm e_n\rangle$ が正規直交基底であるとする。

基底 $E$ に対するベクトル $\bm x,\bm y$ の表現を $\bm x_E={}^t\!(x_1\ x_2\ \dots\ x_n)$, $\bm y_E={}^t\!(y_1\ y_2\ \dots\ y_n)$ とすれば、
$\bm x=\sum_{i=1}^n x_i\bm e_i$, $\bm y=\sum_{i=1}^n y_i\bm e_i$ であるから、

$$\begin{aligned}
(\bm x,\bm y)&=\Big(\sum_{i=0}^n x_i\bm e_i,\bm y\Big)\\
&=\sum_{i=1}^n\overline x_i\Big(\bm e_i, \sum_{j=1}^n y_j\bm e_j\Big)\\
&=\sum_{i=1}^n\sum_{j=1}^n\overline x_iy_j(\bm e_i, \bm e_j)\\
&=\sum_{i=1}^n\sum_{j=1}^n\overline x_iy_j\delta_{ij}\\
&=\sum_{i=1}^n\overline x_iy_i\\
&={}^t\overline{\bm x_E}\bm y_E
\end{aligned}$$

を得る。

* エルミート共役 [#de0c0da8]
すなわち、%%%正規直交基底に対する内積の成分表示%%% は 「標準内積」 となる

&math(m,n); 行列 &math(A=\big(\,a_{ij}\,\big)); に対して、
逆に、正規直交ではない基底を用いると内積の数値表現が複雑になるため、
計量空間に基底を取るときには通常正規直交基底を選ぶ(便利だから)。

- 転置行列:&math(^t\!A=\big(\,a_{ji}\,\big));
- 複素共役:&math(\overline A=\big(\,\overline{a_{ji}}\,\big));
- エルミート共役:&math(A^\dagger=\overline{^t\!A}=^t\!\overline{A}=\big(\,\overline{a_{ji}}\,\big));
* 行列のエルミート共役 [#de0c0da8]

とくに、列ベクトル &math(\bm x=\begin{pmatrix}x_1\\x_2\\\vdots\\x_n\end{pmatrix}); に対しては、
標準内積を、

-転置:&math(^t\!\bm x=\begin{pmatrix}x_1&x_2&\dots&x_n\end{pmatrix});
-複素共役:&math(\overline{\bm x}=\begin{pmatrix}\overline x_1\\\overline x_2\\\vdots\\\overline x_n\end{pmatrix});
-エルミート共役:&math(\bm x^\dagger=\overline{^t\!\bm x}=^t\!\overline{\bm x}=\begin{pmatrix}\overline x_1&\overline x_2&\dots&\overline x_n\end{pmatrix});
$$
(\bm x,\bm y)=\sum_{k=1}^\infty \overline{x_k}y_k=\overline{{}^t\bm x}\bm y
$$

と表せることに注意しよう。ここで、$\overline{{}^t\bm x}$ は縦ベクトル $\bm x$ 
の「転置の複素共役」であるが、これを

$$
\overline{{}^t\!A}=A^\dagger
$$

と書き、行列 $A$ のエルミート共役と呼ぶことにする。

エルミート共役は、次の性質を持つ。

- &math(\left(A^\dagger\right)^\dagger=A);
- &math((\bm x,\bm y)=\bm x^\dagger \bm y);
- &math((\bm x,A\bm y)=(A^\dagger\bm x,\bm y)=\bm x^\dagger A\bm y);
- $\left(A^\dagger\right)^\dagger=A$
- $(AB)^\dagger=B^\dagger A^\dagger$  転置行列と同じ → ${}^t\!(AB)={}^t\!B{}^t\!A$
- $(\bm x,\bm y)=\bm x^\dagger \bm y$
- $(\bm x,A\bm y)=\bm x^\dagger A\bm y=(A^\dagger \bm x)^\dagger\bm y=(A^\dagger\bm x,\bm y)$

* 対称行列、直交行列 と エルミート行列、ユニタリ行列 [#g3931b9c]
エルミート共役 $A^\dagger$ を $A$ の随伴行列とも呼ぶ。

&math(A); が実行列のとき &math(A^\dagger=^t\!\!A); である。
** 転置や複素共役の表記法 [#qe180398]

|実行列・ベクトルについて      |複素行列・ベクトルについて              |
|対称行列 &math(^t\!S=S);      |エルミート行列 &math(H^\dagger=H^{-1}); |
|直交行列 &math(^t\!R=R^{-1}); |ユニタリ行列 &math(U^\dagger=U^{-1}); |
 &math(A^*=\overline A); : 複素共役~
 &math(A^T={}^t\!A); : 転置~
 &math(A^\dagger); : エルミート共役

のように書くことも多い。~
この方が統一感がある

** 対称行列、直交行列 と エルミート行列、ユニタリ行列 [#g3931b9c]

$A$ が実行列のとき $A^\dagger=^t\!\!A$ である。

|実行列・ベクトルについて|複素行列・ベクトルについて              |
|対称行列 $^t\!S=S$      |エルミート行列 $H^\dagger=H$ |
|直交行列 $^t\!R=R^{-1}$ |ユニタリ行列 $U^\dagger=U^{-1}$ |

性質:
- 対称行列 &math(S); について &math((\bm x,S\bm y)=(S\bm x,\bm y)); (実内積)
- エルミート行列 &math(H); について &math((\bm x,H\bm y)=(H\bm x,\bm y)); (複素内積)

性質:
- 直交行列 &math(R); により内積が保存される &math((R\bm x,R\bm y)=(\bm x,\bm y));
- ユニタリ行列 &math(U); により複素内積が保存される &math((U\bm x,U\bm y)=(\bm x,\bm y));

* 正規行列 [#ldb799b7]
** 正規行列 [#ldb799b7]

&math(A^\dagger A=AA^\dagger); を満たす行列を正規行列と呼ぶ。

実対称行列、実直交行列、エルミート行列、ユニタリ行列は正規行列である。
エルミート行列、ユニタリ行列は正規行列であるが、他にもたくさんある。

ユニタリ行列で対角化できることと、正規行列であることとは同値であるが、
ここでは証明はしない。
1年生の時、直交行列により対角化できる行列と、できない行列があることを学んだ。

実は「ユニタリ行列により対角化できること」と「正規行列であること」とは同値である。
証明は後ほど。

~

[[前の単元 <<<>線形代数II/線形写像の行列表現と階数]]
               [[線形代数II]]
               [[>>> 次の単元>線形代数II/関数空間]]
* 質問・コメント [#wc06c3f7]

#article_kcaptcha
**対称行列 [#vc195219]
>[[tori]] (&timetag(2019-12-19T10:00:36+09:00, 2019-12-19 (木) 19:00:36);)~
~
対称行列について(x,Sy)=(Sx,y) (実内積)とありますが、~
これは標準内積以外でも成り立つのですか?~

//
- この表式における $\bm x,\bm y$ は正規直交基底に対する成分ベクトルを想定しており、数ベクトル同士の内積は標準内積であることを想定しています。 -- [[武内(管理人)]] &new{2019-12-19 (木) 20:50:34};
- 実数ベクトル空間の任意の一般内積は、ある正定値の実対称行列 $A$ を用いて $(\bm x,\bm y)={}^t\!\bm xA\bm y$ のように表せるのですが、$S$ がこの $A$ と可換でない限り、任意の $\bm x,\bm y$ に対して $(\bm x,S\bm y)=(S\bm x,\bm y)$ が成り立つことはありません。 -- [[武内(管理人)]] &new{2019-12-19 (木) 21:09:55};

#comment_kcaptcha

**内積の証明 [#i366d70f]
>[[とうか]] (&timetag(2017-07-28T17:23:14+09:00, 2017-07-29 (土) 02:23:14);)~
~
(f,g)=∫a→b {f(x)}*g(x)dxにより定義された複素数(f,g)が(f,f)≧0 (ただし等号はfがf:x→0となる関数に限る)の性質を満たすことの示し方についてお答え願います。~

//
- 実際に式を書いてみればすぐに分かる簡単な問題だと思います。試してみて下さい。 -- [[武内(管理人)]] &new{2017-07-29 (土) 12:16:43};

#comment_kcaptcha

**フロウベニスノルム [#zbec8ee8]
>[[hshs]] (&timetag(2017-02-21T08:19:38+09:00, 2017-02-21 (火) 17:19:38);)~
~
管理人様,~
たびたび質問申し訳ありません.~
‖A - B‖F = ‖A‖F - ‖B‖F~
(F:フロウベニスノルム)~
は成り立ちますか?~

//
- 管理人様,A,Bの条件等を記載し忘れました.階数がrである行列A(m*n)を階数k(<r)の行列Bで近似したい.どのようにBを構成すれば良いか.すなわち近似誤差行列E=A=Bとして,これのフローベニウスノルムを最小にするBを求めよ. -- [[hshs]] &new{2017-02-21 (火) 17:23:34};
- 問題設定とは関係なく、フロベニウスノルムの定義をしっかり確認すれば質問の答えはわかるはずです。頑張って下さい。 -- [[武内(管理人)]] &new{2017-02-23 (木) 09:34:52};

#comment_kcaptcha


Counter: 26364 (from 2010/06/03), today: 2, yesterday: 0