矩阵的分解
$\quad\\$
QR分解
$\quad\\$
设$\boldsymbol{A}=[\boldsymbol{a_1,a_2,\cdots,a_n}]$为$n$阶实(复)矩阵，则$\boldsymbol{A}$可分解为
$$\boldsymbol{A=QR}$$
其中$\boldsymbol{Q}$是正交(酉)矩阵，$\boldsymbol{R}$是一个上三角阵且主对角线上的元素均大于等于零，并且若$\boldsymbol{A}$是非异阵，则这样的分解必惟一
记$\boldsymbol{\text{proj}_{u}a}=\frac{\langle\boldsymbol{u,a}\rangle}{\langle\boldsymbol{u,u}\rangle}\boldsymbol{u}$，进行如下步骤即可得到$\boldsymbol{Q,R}$
$$\begin{array}{l}&\boldsymbol{u_1=a_1}\\&\boldsymbol{u_2=a_2-\text{proj}_{u_1}a_2}\\&\boldsymbol{u_3=a_3-\text{proj}_{u_1}a_3-\text{proj}_{u_2}a_3}\\&\cdots\\&\boldsymbol{u_n=a_n-\sum\limits_{i=1}^{n-1}\text{proj}_{u_i}a_n}\end{array}\quad\begin{array}{l}&\boldsymbol{e_1=\frac{u_1}{|u_1|}}\\&\boldsymbol{e_2=\frac{u_2}{|u_2|}}\\&\boldsymbol{e_3=\frac{u_3}{|u_3|}}\\&\cdots\\&\boldsymbol{e_n=\frac{u_n}{|u_n|}}\end{array}\\
\quad\\
\boldsymbol{Q=[e_1,e_2,\cdots,e_n]}\quad\boldsymbol{R}=\begin{bmatrix}&\langle\boldsymbol{e_1,a_1}\rangle&\langle\boldsymbol{e_1,a_2}\rangle&\langle\boldsymbol{e_1,a_3}\rangle&\cdots\\&0&\langle\boldsymbol{e_2,a_2}\rangle&\langle\boldsymbol{e_2,a_3}\rangle&\cdots\\&0&0&\langle\boldsymbol{e_3,a_3}\rangle&\cdots\\&\vdots&\vdots&\vdots&\ddots\end{bmatrix}$$
若$\boldsymbol{A}$为奇异阵，则将$\boldsymbol{e_i}$中的零向量化为与其他向量正交的单位向量即可
$\quad\\$
谱分解
$\quad\\$
设$V$是有限维内积空间，$\varphi$是$V$上的线性算子，当$V$是酉空间时$\varphi$为正规算子；当$V$是欧式空间时$\varphi$为自伴随算子。$\lambda_1,\lambda_2,\cdots,\lambda_k$是$\varphi$全体不同的特征值，$W_i$是属于$\lambda_i$的特征子空间，则$V$是$W_i(i=1,2,\cdots,k)$的正交直和。设$\boldsymbol{E_i}$是$V$到$W_i$上的正交投影，则$\varphi$有下列分解式：
$$\varphi=\lambda_1\boldsymbol{E_1}+\lambda_2\boldsymbol{E_2}+\cdots+\lambda_k\boldsymbol{E_k}$$
$\quad\\$
极分解
$\quad\\$
设$\boldsymbol{A}$为$n$阶实(复)矩阵，则$\boldsymbol{A}$可分解为
$$\boldsymbol{A=QS\quad(A=UH)}$$
其中$\boldsymbol{Q(U)}$是正交(酉)矩阵，$\boldsymbol{S(H)}$是$n$阶半正定实对称阵(Hermite阵)，并且若$\boldsymbol{A}$是非异阵，则这样的分解必惟一
当$\boldsymbol{A}$为非异阵时，进行如下步骤即可得到$\boldsymbol{Q,S(U,H)}$
$$\small 计算\boldsymbol{A^{\dagger}A}，易知其为半正定矩阵\\
\quad\\
\small 求得\boldsymbol{A^{\dagger}A}特征值\{\lambda_1,\lambda_2,\cdots,\lambda_n\}与特征向量\boldsymbol{\{x_1,x_2,\cdots,x_n\}}\\
\quad\\
\small 将特征向量正交化得到正交(酉)矩阵\boldsymbol{P=[x_1’,x_2’,\cdots,x_n’]}\\
\quad\\
\small 写出对角阵\boldsymbol{D}=\text{diag}\{\sqrt{\lambda_1},\sqrt{\lambda_2},\cdots,\sqrt{\lambda_n}\}\\
\quad\\
\small 则\boldsymbol{S(H)=PDP^{\dagger}}\qquad \boldsymbol{Q(U)=AS^{-1}}$$
$\quad\\$
奇异值分解
$\quad\\$
设$\boldsymbol{A}$为$m\times n$阶实(复)矩阵，$\boldsymbol{A}$的秩为$r$，则$\boldsymbol{A}$可分解为
$$\boldsymbol{A=P\left(\begin{array}&\boldsymbol{S}&\boldsymbol{O}\\
\boldsymbol{O}&\boldsymbol{O}\end{array}\right)Q^T}$$
其中$\boldsymbol{P}$为$m$阶正交(酉)矩阵，$n$阶正交(酉)矩阵$\boldsymbol{Q}$为$n$阶正交(酉)矩阵，$S$为$r$阶对角阵，对角线上元素$\sigma_1\ge\sigma_2\ge\cdots\ge\sigma_r$是$\boldsymbol{A}$的非零奇异值
$\quad\\$
楚列斯基分解
$\quad\\$