5.主成分分析法-PCA
用方差来定义样本间的距离(方差:描述样本整体之间的疏密的一个指标,方差越大,代表样本之间越稀疏,方差越小,代表样本之间越紧密)。
1.主成分分析法的两个轴都是特征,线性回归y轴是目标结果值
2.主成分分析法的点是垂直于方差轴直线的,线性回归的点事垂直于x轴的
使用梯度上升法解决PCA问题:
经推导,f的梯度化简为:
用方差来定义样本间的距离(方差:描述样本整体之间的疏密的一个指标,方差越大,代表样本之间越稀疏,方差越小,代表样本之间越紧密)。
1.主成分分析法的两个轴都是特征,线性回归y轴是目标结果值
2.主成分分析法的点是垂直于方差轴直线的,线性回归的点事垂直于x轴的
经推导,f的梯度化简为: