机器学习--PCA（主成分分析）原理及应用

作者：从前慢现在也慢 | 2024-08-03 22:37:14

踩

众所周知PCA是有效的降维方法，当你的特征非常多维度非常大的时候，为了使机器学习的算法在计算或是训练的时候有更高的效率，通常会进行降维处理。

将一个具有m个数据n维的数据降为k维的数据，方法如下：

算出一个sigma矩阵，x（i）为n*1的矩阵，因此x(i)转置为1*n，因此sigma的形状为n*n。

svd为奇异值分解函数，得到一个U矩阵，也为n*n矩阵。

取U矩阵的前k列，与x相乘，得到降维后的数据。

那么如何选择k值呢？看下图：

要使差异性小于等于0.01，当然有时候也使用0.05或是0.1等等。

比较蠢的方法自然是把k从1一直往上加，一直来计算相似度。但是有更好的办法，之前算奇异值的时候得到了一个S矩阵，计算方式如下图：

得到：

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/925217