核主成分分析方法（KPCA原理篇）_kpca核主成分分析

（1）方法的基本思想是：对样本进行非线性变换，在变换空间进行主成分分析来实现在原空间的非线性主成分分析；

（2）算法步骤：

① 通过核函数计算矩阵$K=\{ K_{ij}\}_{n \times n}$，其元素为$K_{ij}=k(x_i,x_j)$。其中$x_i$和$x_j$为原空间的样本，$k(\cdot,\cdot)$是核函数。

② 计算K的特征值，并从大到小进行排列。找出由特征值对应的特征向量$\alpha^l$(表示第$l$个特征向量)，并对$\alpha^l$进行归一化($||\alpha^l||=1$)。

③ 原始样本在第$l$个非主成分下的坐标为：

                                                                  $Z^l(x)=\sum^n_{i=1}\alpha_i^lk(x_i,x)$

这里的$x_i$是指第i个样本，$\alpha^l$的维度与样本数相同。如果选择m个非线性主成分(即计算K的前m大个特征值及相应的特征向量)，则样本x在前m个非线性主成分上的坐标就构成了样本在新空间中的表示$[Z^1(x),Z^2(x),...,Z^m(x)]^T$