Ispr Determinant And Rank

Determinant and Rank 担当：Song

keywords • 対称行列のdeterminant(値) • 固有値と固有ベクトル • ランク

各表示(notation)の意味 • Qは一つの対称行列と言う仮定 • Λは対角線行列、つまり他の成分はゼロ、こ の本では対角線成分を(Qの)固有値としてい る、定義式は2.82 • Φは(Qの)固有ベクトル(Φi)を用いて作った行 列こと、定義式は2.81 • SはXXT の期待値,定義式は2.16 • ΣはGaussian分布のcovariance • MはGaussian分布のmean

対称行列Qの性質(1) • Determinantは対角線行列Λと同じである – これについては、実際ではΛはQの対角したもの である。そして各固有ベクトルの間の内積は0で、 自分とは1であることからわかる。

対称行列Qの性質(2) • Qのランクはゼロじゃない固有値の数。 – Qは式2.138

で分解できることから、ここでは各固有ベクトルは線形独立 である。しかしもしこの中固有値λiはゼロであるとしたら、 一つの固有ベクトルの役割をなくすと同じ。その結果はQ の空間を減らされたで、ランクは下げる。

行列Sのdeterminant • 式2.139は式2.15の変形をdeterminantを両 側で取った結果。 – そして式2.101の手法を使ってSを分解する。結 果は簡単で式2.140となる。 – λiをMとΣであらわすため,まず他のλjをゼロの 設定して計算する。 – 各λiの値を式2.140に代入し最終の式は2.143 になる。

Small sample size problem(1) • というのはsamples数はmで、各sample X はn次元、そしてm
Small sample size problem(2) • なぜSのランクはmより小さくならなければな らないのか？ • Xi=Ai そしてXi=[ai1 ai2…ain] Tとしておくと XiXiTを[ai1Ai ai2Ai ai3Ai … ainAi]Tと書いて、も し各Aiの間は線形独立とすれば、実際のS^ は最後にAi(i=1,...,m)までは残るので、ランク はmとなる。

U UTの固有値と固有ベクトルの計算 • 考え方UT U (m*m次元)の固有値と固有ベクトルを まず計算し、変形によってUUT (n*n次元)の固有値 と固有ベクトルを計算する。途中直交ベクトルを式 によって正規化する。

Near-singular matrix • というのは固有値の数値は小さいとき、|Σ|や Σの転置行列を計算するとき、各固有値を積 にする必要がある。 • 解決法：In |Σ|を計算する。

Σの転置 • Σは対称行列であるから、固有値と固有ベクトルで 表示されたら、その転置行列について固有ベクトル は元と変わらず、固有値は元の分数になる、式は 以下になる：