固有値と固有ベクトル

図 1. モナ・リザの画像を平行四辺形に変換したところ。画像の中にある上向きの矢印 (赤色) は変化していないのに対し、ななめ右上を向いた矢印 (青色) は方向が変化している。この赤い矢印がこの変換における固有ベクトルであり、青い矢印は固有ベクトルではない。ここで赤い矢印は伸張も収縮もしていないので、この固有値は 1 である。このベクトルと平行なすべてのベクトルは固有ベクトルである。ゼロベクトルも含めて、これらのベクトルはこの固有値に対する固有空間を形成する。

線型代数学において、線型変換の特徴を表す指標として固有値 (Eigenvalue) や固有ベクトル (Eigenvector) がある。与えられた線型変換の固有値および固有ベクトルを求める問題のことを固有値問題 (Eigenvalue problem) という。ヒルベルト空間論において線型作用素 あるいは線型演算子 と呼ばれるものは線型変換であり、やはりその固有値や固有ベクトルを考えることができる。固有値という言葉は無限次元ヒルベルト空間論や作用素代数におけるスペクトルの意味でもしばしば使われる。

歴史

現在では、固有値の概念は行列論とからめて導入されることが多いものの、歴史的には二次形式や微分方程式の研究から生じたものである。

18世紀初頭、ヨハン・ベルヌーイとダニエル・ベルヌーイ、ダランベール および オイラーらは、いくつかの質点がつけられた重さのない弦の運動を研究しているうちに固有値問題につきあたった。18世紀後半に、ラプラスとラグランジュはこの問題をさらに研究し、弦の運動の安定性には固有値が関係していることをつきとめた。彼らはまた固有値問題を太陽系の研究にも適用している。

オイラーはまた剛体の回転についても研究し、主軸の重要性に気づいた。ラグランジュがこの後発見したように、主軸は慣性行列の固有ベクトルである。19世紀初頭には、コーシーがこの研究を二次曲面の分類に適用する方法を示し、その後一般化して任意次元の二次超曲面の分類を行った。コーシーはまた "racine caractéristique"（特性根）という言葉も考案し、これが今日「固有値」と呼ばれているものである。彼の単語は「特性方程式 (characteristic equation)」という用語の中に生きている。

フーリエは、1822年の有名な著書 "Théorie analytique de la chaleur" の中で、変数分離による熱方程式の解法においてラプラスとラグランジュの結果を利用している。スツルムはフーリエのアイデアをさらに発展させ、これにコーシーが気づくことになった。コーシーは彼自身のアイデアを加え、対称行列の全ての固有値は実数であるという事実を発見した。この事実は、1855年にエルミートによって、今日エルミート行列と呼ばれる概念に対して拡張された。ほぼ同時期にブリオスキは直交行列の固有値全てが単位円上に分布することを証明し、クレープシュが歪対称行列に関して対応する結果を得ている。最終的に、ワイエルシュトラスが、ラプラスの創始した安定論 (stability theory) の重要な側面を、不安定性の引き起こす不完全行列を構成することによって明らかにした。

19世紀中ごろ、リュービルは、スツルムの固有値問題の類似研究を行った。彼らの研究は、今日スツルム-リュービル理論と呼ばれる一分野に発展している。 シュヴァルツは一般の定義域上でのラプラス方程式の固有値についての研究を19世紀の終わりにかけて初めて行った。一方、ポワンカレはその数年後ポワソン方程式について研究している。

20世紀初頭、ヒルベルトは、積分作用素を無限次元の行列と見なしてその固有値について研究した。ヒルベルトは、ヘルムホルツの関連する語法に従ったのだと思われるが、固有値や固有ベクトルを表すために ドイツ語の eigen を冠した最初の人であり、それは1904年のことである。ドイツ語 "eigen" は「独特の」「特有の」「特徴的な」「個性的な」といったような意味があり、固有値は特定の変換に特有の性質というものを決定付けるということが強調されている。英語の標準的な用語法で "proper value" ということもあるが、印象的な "eigenvalue" のほうが今日では標準的に用いられる。

固有値や固有ベクトルの計算に対する数値的なアルゴリズムの最初のものは、ヤコビが対称行列の固有値固有ベクトルを求める手法として （ヤコビの提出したヤコビ法（電子計算機が発明されたときにフォンノイマンが発見したと思われたが実際はヤコビが既に述べていた）、 ガウスによる行列の基本変形操作によるヘッセンベルグ形式への還元、などが知られていた）、 1929年にフォン・ミーゼスが公表した冪乗法 (power method) である。今日最もよく知られた手法のひとつに、1961年にFrancisとKublanovskayaが独立に考案したQR法がある。

定義

空間の線型変換（回転、鏡映、拡大・縮小、剪断、およびそれらの任意の合成）は、それがベクトルに対して引き起こす影響によって視覚化することができる。ベクトルは一点から他の点へ向かう矢印によって視覚化される。

• 線型変換の固有ベクトルとは、その変換後に単に大きさが定数倍されるだけの影響しか受けない（倍率が 1 ならまったく影響を受けない）ベクトルのことである。
• ゼロでない固有ベクトルに対応する固有値とは、その固有ベクトルが変換で定数倍されるその倍率のことである。
• 線型変換の固有値とは、その線型変換のゼロでない固有ベクトルに対応する固有値のことである。線型変換の固有値に対し、それを固有値として持つような固有ベクトルを、その固有値に属する固有ベクトルと呼ぶ。
• 線型変換の、与えられた固有値に対応する固有空間とは、その固有値に属する固有ベクトル全体の成す部分ベクトル空間のことである。
• 固有値の幾何的重複度とは、その固有値に対応する固有空間の次元のことである。
• 有限次元ベクトル空間上の線型変換のスペクトルとは、その変換の固有値全体の成す集合のことである。無限次元の場合はもう少し複雑になって、スペクトルの概念はそのベクトル空間の位相に依存する。

例えば、三次元内の回転変換の固有ベクトルは回転軸の中に位置する。この固有ベクトルに対する固有値は 1 で、対応する固有空間は軸に沿うベクトル全体の成す空間を全て含む。固有空間が一次元であるから、この固有値 1 の幾何的重複度は 1 であり、スペクトルは実数である固有値 1 唯一つのみからなる。

固有値・固有ベクトル

有限次元線形空間 V 上の線形変換 A に対して、次の方程式

$A{\vec {x}}=\lambda {\vec {x}}$

を満たす零でないベクトル ${\vec {x}}$ とスカラー λ が存在するとき、${\vec {x}}$を A の固有ベクトル（右固有ベクトル）、λ を A の固有値と呼ぶ。

たとえば、上で示したモナ・リザの画像の変形のような剪断変換の例として次のような形の行列

$A={\begin{bmatrix}1&0\\-{\frac {1}{2}}&1\end{bmatrix}}$

を考える。まず、この変換の固有ベクトルとは Ax = λx を満たすようなベクトルである。実際にこの式は、そのようなベクトルが存在すれば、そのようなベクトルがこの行列によって及ぼされる唯一の影響は、λ 倍の大きさの変化（向きの反転も含む）しかないことを意味する。ここで右辺に単位行列 I を掛けても意味は変わらないので、Ax = (λI)x あるいは同じことだが

$(\lambda I-A)\mathbf {x} =0$

なる式が得られる。この方程式が自明でない解をもつためには、A の固有多項式と呼ばれる行列式 det(λI − A) が 0 である必要がある。ここで、

$\det \!\left(\lambda {\begin{pmatrix}1&0\\0&1\end{pmatrix}}-{\begin{pmatrix}1&0\\-{\frac {1}{2}}&1\end{pmatrix}}\right)=(\lambda -1)^{2}$

であるから、この行列 A の固有多項式は (λ − 1)² で、この場合、固有方程式が持つただ一つの零点 λ = 1 がこの行列 A の固有値である。この固有値 1 に属する固有空間は変換 1I − A の零空間、すなわち線型方程式 (I − A)x = 0 の解空間であり、

${\begin{bmatrix}0&0\\-{\frac {1}{2}}&0\end{bmatrix}}{\begin{bmatrix}x_{1}\\x_{2}\end{bmatrix}}=0$

の解となるベクトル x の全体である。この方程式を解いて、この解空間のベクトルが全て

$\mathbf {x} ={\begin{bmatrix}0\\c\end{bmatrix}}$

の形に表されることが判る。ここで c は任意の定数である。つまり、この形にあらわされる（この場合、真上または真下を向いている）ベクトルは全てこの行列 A の固有ベクトルなのである。実際、 これらのベクトルに行列 A を作用させることと、これらのベクトルを対応する固有値倍（この場合等倍）することに等しい。

一般の場合、2行2列の行列は2つの異なる固有値をもち、それぞれについて少なくとも1つ、つまり2つの異なる固有ベクトルをもつ。ほとんどのベクトルが行列の作用によってその長さと方向の両方を変えるのに対して、固有ベクトルは長さのみが変化し、向きは（反転するかもしれないことを除けば）不変である。もちろん 1 以外の値が固有値になる場合も普通にあるので、その場合に固有ベクトルは行列によって伸縮するし、場合によっては原点に関して反転される。

その他の例

地球が自転すると、地球中心から地表の各地点へ向かう矢印も一緒に向きが変わる。しかしこの回転軸上にある矢印だけは向きが変わらない。たとえば、地球が 1時間ぶんだけ自転したときの変換を考えてみよう。このとき、地球中心から (地理的な) 北極あるいは南極を向いているベクトルはこの変換の固有ベクトルとなるが、赤道に向いているベクトルは固有ベクトルとはならない。また、地球が回転してもこのベクトルの大きさは変わらないので、この固有値は 1 である。

別の例として、ゴムシートをある固定された一点から全方向に向かって伸ばすような変換を考える。ゴムシート上のあらゆる点と点の間の距離が 2倍になるように引き伸ばすとすると、この変換の固有値は 2 になる。この場合、固定された点からシート上のあらゆる点に向かうベクトルはすべて固有ベクトルになり、固有空間はこれらのベクトルすべてからなるような集合となる。

図 2. 境界が固定されたひもの定常波もまた固有値の例である。より正確には、この変換の固有関数が加速度となる。定常波は時間とともに正弦的な振幅で伸縮するが、基本的な形は変わらない。この振幅の周波数は固有値により決定される。

ベクトル空間は、二次元や三次元の幾何的な空間だけとは限らない。さらに別の例として、ちょうど弦楽器における弦のような、両端が固定されたひもを考えよう (図2)。このひもが振動しているとき、ひも上の各原子の静止した位置からの距離は、ひもを構成する原子の個数分だけの次元をもつベクトルの構成部分として表すことができる。

このひもが連続的な物体でできていると仮定しよう。このとき、ひもの各点の加速度をあらわす式を考えると、その固有値、より正確には固有関数は定常波となる。

正定値と半正定値

• エルミート行列 A の固有値が全て正の場合に、その行列 A は正定値であるという（正定値行列）。
• エルミート行列 A の固有値が全て非負の場合に、その行列 A は半正定値であるという（半正定値行列）。

この定義は対角化を用いることにより、二次形式の正定値、半正定値の定義と同値の関係であることが確認できる。

固有値問題の解法

有限次元線形空間 V の有限個の基底をとり、それによって A を行列として表現すれば、固有値は行列式に関する次の方程式を（対角化手法などを使って）解くことによって求められる。

$\det(\lambda I-A)=0$

但しI は単位行列である。この方程式のことを固有方程式（または特性方程式）という。 V の次元を n とすると、固有方程式は λ についての n 次代数方程式であり、A はこの方程式の根として一般的には n 個の固有値を持つことがわかる。（参考：代数学の基本定理）

特に行列 A が実対称（或いはエルミート）の場合、固有方程式は永年方程式とも言われる。また行列 A が実対称かエルミートなら固有値は必ず実数となる。

n の値が大きければ固有値問題は数値的対角化手法（→ヤコビ法、ハウスホルダー法など）によって解かれることとなる。行列 A が実対称やエルミートでない場合は、これを解くことは一般に難しくなる。

V が関数空間である場合には、固有ベクトルのことを固有関数ともいう。

量子力学における固有値問題

量子力学においては固有値問題が次のような形で現れる。 まず、考える系のハミルトニアンを H とし、x を状態ベクトルとするとシュレーディンガー方程式（時間に依存しないとする）は、

$H\mathbf {x} =\epsilon \mathbf {x}$

に帰着される。これは固有値問題そのものであり、これを解くことで固有値 ε が求められる。この ε をエネルギー固有値、またはエネルギー準位と呼ぶ。この時、同時に得られる固有ベクトル x は、系の波動関数 ψ に相当する。エネルギー固有値が求まった場合、波動関数はエネルギー固有状態になっているという。また、異なる固有値に対応する固有ベクトルは互いに直交している。ハミルトニアンのかわりに任意の物理量の演算子を作用させてよく、もし固有値が得られたならば、それがこの状態での物理量の値となる。

実際の多電子系などの数値計算においてはエルミート演算子を有限サイズのエルミート行列で近似することになる。つまり、本来、状態ベクトルのなすヒルベルト空間が無限次元であれば、行列による表現は無限行、無限列であるが、これは現実に計算することは不可能なので、有限の大きさに切断して近似的に計算が実行される。波動関数は適当な基底関数の展開で表現され、求めるべき基底関数の展開係数が固有ベクトルに相当することになる。展開係数の数も本来無限個必要であるが、有限の数で切断（カットオフ）される。切断は、求めるべき物理量（全エネルギーなど）が精度として十分に収束するところで行う必要がある（解くために必要な数値計算量にも依存する）。

参考文献

• Abdi, H (2007). [1] (2007). Eigen-decomposition: eigenvalues and eigenvecteurs.In N.J. Salkind (Ed.): Encyclopedia of Measurement and Statistics. Thousand Oaks (CA): Sage.. 
• John Aldrich, Eigenvalue, eigenfunction, eigenvector, and related terms. In Jeff Miller (Editor), Earliest Known Uses of Some of the Words of Mathematics, last updated 2006-8-7, accessed 2006-8-22.
• Claude Cohen-Tannoudji, Quantum Mechanics, Wiley (1977). ISBN 0-471-16432-1. (Chapter II. The mathematical tools of quantum mechanics.)
• John B. Fraleigh and Raymond A. Beauregard, Linear Algebra (3^rd edition), Addison-Wesley Publishing Company (1995). ISBN 0-201-83999-7 (international edition).
• Gene H. Golub and Charles F. van Loan, Matrix Computations (3^rd edition), Johns Hopkins University Press, Baltimore, 1996. ISBN 978-0-8018-5414-9.
• T. Hawkins, Cauchy and the spectral theory of matrices, Historia Mathematica, vol. 2, pp. 1–29, 1975.
• Roger A. Horn and Charles R. Johnson, Matrix Analysis, Cambridge University Press, 1985. ISBN 0-521-30586-1 (hardback), ISBN 0-521-38632-2 (paperback).
• Morris Kline, Mathematical thought from ancient to modern times, Oxford University Press, 1972. ISBN 0-19-501496-0.
• Carl D. Meyer, Matrix Analysis and Applied Linear Algebra, Society for Industrial and Applied Mathematics (SIAM), Philadelphia, 2000. ISBN 978-0-89871-454-8.
• Valentin, D.,Abdi, H, Edelman, B., O'Toole A.. [2] (1997). Principal Component and Neural Network Analyses of Face Images: What Can Be Generalized in Gender Classification? Journal of Mathematical Psychology, 41, 398-412.. 

解析ソフト

• NAG
• IMSL