主成分分析（Principal components analysis，以下简称PCA）是最重要的降维方法之一。

1. PCA的思想

　　PCA顾名思义，就是找出数据里最主要的方面，用数据里最主要的方面来代替原始数据。

　　我们降维的标准为：样本点到这个超平面的距离足够近,或者说样本点在这个超平面上的投影能尽可能的分开。

　　数据从n维降到n'维肯定有损失，最简单的情况，n=2，n'=1，即将数据从二维降到一维，如上图，希望找到某一个维度的方向，代表这两个维度的数据。图中u₁，u₂相比，u₁优于u₂，这里有两种解释，第一是样本点到这个直线的距离足够近，第二是样本点在这个直线的投影能尽可能的分开。

　　基于上面的两种标准，我们得到PCA的两种等价推导。

2. PCA的推导:基于最小投影距离

　　第一种：样本点到这个超平面的距离足够近。

　　假设m个n维数据 都已经进行了中心化，即 经过投影变换得到新坐标系为  ，其中w为标准正交基，即

　　如果我们将数据从n维降到n'维，即丢弃新坐标系中的部分坐标，则新的坐标系为 ，样本点 x⁽ⁱ⁾ 在 n' 维坐标系中的投影为： 其中，是x⁽ⁱ⁾在低维坐标系里第 j 维的坐标。

　　如果我们用 z⁽ⁱ⁾ 来恢复原始数据 x⁽ⁱ⁾ ，则得到的恢复数据 ，其中，w为标准正交基组成的矩阵。

　　现在考虑整个样本集，我们希望所有的样本到这个超平面的距离足够近，即最小化式：

　　将这个式子整理：

2. PCA的推导:基于最大投影方差

　　假设m个n维数据都进行了中心化，即。经过投影变换后得到的新坐标系为，其中 w为标准正交基，即

　　如果我们将数据从n维降到n'维，即丢弃新坐标系中的部分坐标，则新的坐标系为，样本点x⁽ⁱ⁾在n'维坐标系中的投影为： 其中，是x⁽ⁱ⁾在低维坐标系里第j维的坐标。

　　对于任意一个样本x⁽ⁱ⁾，在新的坐标系中的投影为w^Tx⁽ⁱ⁾，在新坐标系中的投影方差为，要使所有的样本的投影方差和最大，也就是最大化的迹，即：

　　观察第二节的基于最小投影距离的优化目标，可以发现完全一样，只是一个加负号的最小化，一个是最大化。

　　利用拉格朗日函数可以得到

　　对w求导有，整理下即为：

　　和上面一样可以看出，w为XX^T的n'个特征向量组成的矩阵，而-λ为XX^T的若干特征组成的矩阵，特征值在主对角线上，其余位置为0。当我们将数据从n维降到n'维时，需要找到最大的n'个特征值对应的特征向量。这n'个特征向量组成的矩阵w即为我们需要的矩阵。对于原始数据集，我们只需要用，就可以把原始数据集降维到最小投影距离的n'维数据集。

来自：