SVD分解、特征值分解_svd in r

1. SVD分解定义（奇异值分解）

对于秩为r的矩阵A$\in R^{m\times n}$存在正交矩阵$U_{m\times m},V_{n\times n}$和对角矩阵$D_{r\times r}=diag({\sigma }_1,{\sigma }_2,...,{\sigma }_r)$使得
A = U ( D 0 0 0 ) V T , σ 1 ≥ σ 2 ≥ σ 3 . . . ≥ σ r > 0 A=U

$$\begin{pmatrix} D&0\\0&0 \end{pmatrix}$$ V^T,\sigma_1\geq\sigma_2\geq\sigma_3...\geq \sigma_r>0 A=U(D0​00​)VT,σ1​≥σ2​≥σ3​...≥σr​>0
${\sigma }_i$是矩阵A的奇异值。

2. 求解U $\Sigma$ V矩阵

• U矩阵
  U矩阵是由$A{A}^T$矩阵的m个特征值对应的特征向量组成的，将$A{A}^T$的所有特征向量张成一个$m\times m$的矩阵U,一般我么将U中的每个特征向量叫做A的左奇异向量。
• V矩阵
  V矩阵是由$A^{T}A$的n个特征值和对应的n个特征向量组成的，将$A^{T}A$的所有特征向量张成一个$n\times n$的矩阵V，一般我们将V中的每个特征向量叫做右奇异向量。
• $\Sigma$矩阵
  矩阵的特征值和奇异值满足如下关系：
  $${\sigma }_i=\sqrt{{\lambda }_i}$$
  根据上述公式可以求出$\Sigma$矩阵

3. 特征分解

给定一个$n\times n$维矩阵A，确定标量$\lambda$的值，使得线性代数方程
$$Au=\lambda u,u\ne 0$$
具有$n\times 1$非零解$u$。这样的标量$\lambda$称为矩阵A的特征值，向量u称为与$\lambda$对应的特征向量。（如何求解查书）
求出特征值和特征想向量可以将矩阵进行分解，我们求出矩阵A的n个特征值${\lambda }_1,{\lambda }_2,...,{\lambda }_n$以及n个特征值对应的特征想向量$w_1,w_2,...,w_n$,矩阵A可以用如下特征分解表示：
$$A=W\Sigma W^{-1}$$
W是n个特征向量张成的$n\times n$维矩阵
$\Sigma$是n个特征值为主对角线的$n\times n$维矩阵
一般我们会把W的这n个特征向量标准化，即$||w_i|{|}_2=1$，此时W的n个特征向量为标准正交基，满足$W^{T}W=I$,即
$$A=W\Sigma W^T$$

特征值分解只能用于方阵，而SVD分解可以用于任意形状的矩阵，所以在三维点云拟合平面中就需要SVD分解。详见https://blog.csdn.net/weixin_42595206/article/details/116094723

https://zhuanlan.zhihu.com/p/29846048