生物工学演習E -第1回- ベクトルと関数の内積・直交
今回の目標
本講義の概要とその核となるベクトルおよび関数の内積計算，直交を理解する．
信号解析論とは
生体信号など様々な信号を取り扱う際，その信号の周波数解析やノイズのフィルタリング，データの圧縮などを行う機会が多々ある．本演習では演習問題を通して以下のキーワードを友人に説明できる程度に理解することを目指す．
キーワード：内積，直交，フーリエ級数展開，フーリエ変換，ラプラス変換，サンプリング定理，離散フーリエ変換，Z変換，確率過程，相関関数
信号と関数，ベクトル
本演習では様々な信号を扱う．
まず信号を大きく分けると時間が離散な信号と連続な信号に分けることができる．
そして連続な信号を関数\(f(\cdot)\)，離散な信号をベクトル\(\boldsymbol{v}\)として表現する．
このとき，関数はある連続な時間から対応する信号の値への写像となっており，ベクトルも離散な時間から対応する信号の値への写像として捉えることができる．
また，離散信号の時間ステップ\(\Delta t\)を0に近づけていくと，その極限は関数が表している情報とほぼ同じになる．
何が言いたいかというと"関数"と"ベクトル"というものは実は非常に近い性質をもつ似た存在であるということである．
このほかに本演習では信号が周期的なのか非周期的なのか，ノイズなど確率的な変動があるのかないのかによる取り扱い方の違いについても少し学ぶ．
内積と類似性
内積と聞くと以下のベクトルの内積が思い浮かぶのではないだろうか．
実ベクトルの内積
2つの実ベクトル\(\boldsymbol{a}\)と\(\boldsymbol{b}\)を考えるとそれらの内積は
\begin{align}
\langle \boldsymbol{a}, \boldsymbol{b} \rangle &= \boldsymbol{a}^T \boldsymbol{b}\\
&=\sum_{k=-\infty}^{\infty} a_kb_k\\
&=\|\boldsymbol{a}\|\|\boldsymbol{b}\|\cos(\theta)
\end{align}
のように様々な表現ができる．\(\|\boldsymbol{a}\|\)はベクトル\(\boldsymbol{a}\)の大きさを表す量でノルムとよばれ，同じベクトル同士の内積の平方根\(\sqrt{\langle \boldsymbol{a}, \boldsymbol{a} \rangle}\)で定義される．
内積の結果わかることとして類似性がある．
つまり，似たようなベクトルの内積の絶対値は大きくなり，異なるベクトルの間の内積は0に近づくのである．
本当だろうか？いくつか試してみてほしい．
例えば極端な例として
縦ベクトル\(\boldsymbol{a} = (0,1,1)^T\)と\(\boldsymbol{b} = (0.5,0.5,0)^T\)の内積は
\begin{align}
\langle \boldsymbol{a}, \boldsymbol{b} \rangle & = 0\times 0.5+1\times 0.5+1\times 0 = 0.5
\end{align}
となるが\(\boldsymbol{c} = (0,0.5,0.5)^T\)との内積は
\begin{align}
\langle \boldsymbol{a}, \boldsymbol{c} \rangle & = 0\times0+1\times 0.5+1\times 0.5 = 1
\end{align}
となり，似ているベクトル同士の内積が大きくなっている．
ただこのベクトル\(\boldsymbol{b}\)と\(\boldsymbol{c}\)で内積の大きさを比較できるのは両者のベクトルの大きさ（ノルム）が同じだからである．
ノルムが異なる場合には両ベクトルのノルム\(\|\boldsymbol{a}\|\|\boldsymbol{b}\|\)もしくは\(\|\boldsymbol{a}\|\|\boldsymbol{c}\|\)で割り規格化した方向余弦\(\cos \theta\)の大きさを比べる必要がある．
実関数の内積
実は関数も同様に内積を考えることができる．
定義域が\([d_1 d_2]\)である実関数\(f(\cdot)\)と\(g(\cdot)\)の内積は積分を使って次のように定義できる．
\begin{align}
\langle f, g \rangle & = \int_{d_1}^{d_2}f(t)g(t)dt
\end{align}
関数の内積もベクトルと同様に，対象とした2つの関数の類似度により大小が変化し，0のとき類似度が一番小さい(直交)．
ノルムもベクトルの場合と同様に内積の平方根\(\sqrt{\langle f, f \rangle}\)で定義できる(これはL2ノルムと呼ばれる)．
(注）ここでは内積を定義するにあたり，和や積分が有限の値となるベクトルや関数を前提としているが，そうではないものもたくさんある．
基底ベクトル，関数と直交
通常あるベクトルを以下のようにほかのベクトルの線形和で表すことができる．
例えば２次元ベクトルの場合は，２つの１次独立なベクトル\(\boldsymbol{b}_1, \boldsymbol{b}_2\)を使って任意のベクトル\(\boldsymbol{a}\)を線形和で表現できる．
\begin{align}
\boldsymbol{a} & = k_1 \boldsymbol{b}_1 + k_2 \boldsymbol{b}_2
\end{align}
このとき\(\boldsymbol{b}_1, \boldsymbol{b}_2\)を基底ベクトルと呼ぶ．
n次元ベクトルの基底ベクトルはn個必要となる．
同様に基底関数というものも考えることができて，基底関数の線形和としてほかの関数を表すことができる．
今後でてくるフーリエ級数展開などではこの基底関数同士が直交していることが重要である．
補足
数学的厳密性については足りない部分があると思われます．有識者の方は随時コメントでご指摘ください．