2.4.2　主成分分析的几何解释

假设有n个样品，每个样品有两个变量，即在二维空间中讨论主成分的几何意义。设n个样品在二维空间中的分布大致为一个椭圆，如图2.2所示。

图2.2　主成分几何解释图

将图2.2中的坐标系进行正交旋转一个角度θ，使其椭圆长轴方向取坐标y₁，在椭圆短轴方向取坐标y₂，旋转公式为

（2.47）

写成矩阵形式为：

（2.48）

其中U为坐标旋转变换矩阵，是正交矩阵，即有U'=U-1，UU'=I，即满足。

经过旋转变换后，得到图2.3所示的新坐标系。

图2.3　经过旋转变换后得到的新坐标系

新坐标系中的y₁、y₂有如下性质：

（1）n个点的坐标y₁和y₂的相关几乎为零。

（2）二维平面上n个点的方差大部分都归结到y₁轴上，而y₂轴上的方差较小。

y₁和y₂称为原始变量x₁和x₂的综合变量。由于n个点在y₁轴上的方差最大，因而将二维空间的点用y₁轴上的一维综合变量来代替，所损失的信息量最小，由此称y₁轴为第一主成分。y₂轴与y₁轴正交，有较小的方差，称为第二主成分。