行列の分解——LU・QR・特異値分解

数値計算を支える三大分解。特異値分解はデータ解析（PCA）の心臓部。

この単元の目標

LU 分解による連立一次方程式の効率的な解法を説明できる
QR 分解と最小二乗法の関係を理解している
特異値分解 $A = U\Sigma V^T$ の構造と意味を説明できる

📑 目次

LU 分解
QR 分解
特異値分解（SVD）

LU 分解

行交換なしに消去できる場合は $A=LU$ （下三角 × 上三角）。一般の正則行列では行交換を表す置換行列 P を用いた $PA=LU$ を使い、右辺にも P を掛けます。分解した L と U を一度求めてしまえば、異なる右辺 $b$ に対する $Ax = b$ を前進代入・後退代入の 2 回の三角行列計算だけで解けます。係数行列が同じで右辺が多数ある問題（構造解析など）で威力を発揮します。

QR 分解

A=QR,\quad Q\in\mathbb R^{m\times n},\quad Q^TQ=I_n,\quad R\in\mathbb R^{n\times n}\text{ は上三角}

ここでは $m\ge n$ で列が一次独立な実行列の薄い QR 分解を扱います。Q は列が正規直交系ですが、m>n では正方行列ではありません。グラム・シュミットやハウスホルダー変換で求めます。最小二乗問題 $\min \|Ax-b\|$ は $Rx = Q^Tb$ と三角行列の後退代入に帰着し、固有値問題の QR 法では、正方行列を QR 分解して積を RQ に入れ替える相似変換を反復します。

特異値分解（SVD）

A = U \Sigma V^T, \qquad \sigma_1 \ge \sigma_2 \ge \cdots \ge 0

どのような長方形行列にも必ず存在する分解で、「 $A$ は直交変換 → 座標軸方向の伸縮（特異値 $\sigma_i$ ）→ 直交変換」を表します。最大特異値 $\sigma_1$ は $A$ がベクトルを最も引き延ばす割合です。

低ランク近似：大きい方から $k$ 個の特異値だけ残した $A_k$ が、ランク $k$ 以下の行列の中で誤差 $\|A - A_k\|_F$ 最小（エッカート・ヤングの定理）
主成分分析（PCA）：各列を平均 0 に中心化したデータ行列（行＝観測、列＝変数）を SVD すると分散最大の方向が右特異ベクトルとして得られる
画像圧縮・ノイズ除去・推薦システムなどへの応用

固有値分解は正方形行列（さらに対角化可能なもの）限定ですが、SVD は任意の行列に存在します。両者は

AA^T

A^TA

の固有値問題を通じてつながっています（特異値² ＝固有値）。

例題

$A = \begin{pmatrix} 3 & 0 \\ 0 & 2 \end{pmatrix}$ の特異値を求めよ。また、 $\det A$ と特異値の積の関係は？

解答・解説

対角成分が非負なので特異値はその成分そのもの ** $\sigma_1 = 3, \sigma_2 = 2$ **。一般に $|\det A| = \sigma_1 \sigma_2 \cdots \sigma_n$ （ここでは 6）。特異値の積は「単位立方体が写される平行体の体積」

📝 メモこの端末のみに保存

メモ欄はページ読み込み後に使えるようになります。