(十三)机器学习_正规方程在矩阵不可逆情况下的解决方法

1、矩阵不可逆

(十三)机器学习_正规方程在矩阵不可逆情况下的解决方法
矩阵不可逆的情况是很少的,使用Octave时,使用pinv函数可以计算出矩阵不可逆时的解,而函数inv不可以。

2、原因及解决方法

(十三)机器学习_正规方程在矩阵不可逆情况下的解决方法
当特征中存在线性相关的特征时,那么组成的特征矩阵就是不可逆的。此时应删去其中的某个特征。
当特征个数远远多于训练样本集个数时(约束条件不够),可以删去一些不重要的特种工或者进行正规化处理(后面再学习到)。