协方差矩阵理解
因为最近用到的线性判别式分析（LDA）里面用到了协方差矩阵，搞得我特别懵，所以研究了一番协方差矩阵。
重点：首先要明确协方差矩阵计算的是不同维度之间的协方差，而不是不同样本之间，因此，拿到一个样本矩阵，我们要先确定该样本矩阵是每行代表一个样本还是每列代表一个样本。
首先给出协方差矩阵的定义
结合 matlab 程序进行讲解
首先，如下X作为样本集（5*2），每行为一个样本，每列为样本的维度。用MATLAB计算其协方差矩阵如下。
手推协方差矩阵如下图，其中，均值为样本矩阵每列的均值。
观察以上协方差矩阵可知，其为对称矩阵。
推荐阅读：http://pinkyjie.com/2010/08/31/covariance/