模型融合之stacking

放上一张经典的stacking过程图
模型融合之stacking
stacking模型融合的大概过程(个人理解):

  1. 使用训练集对基础模型进行k折交叉验证,k=5。得到验证集的预测结果记为a1。同时,对测试集进行预测,得到测试集的预测结果记为b1。
  2. 因为k=5,所以上面的过程会执行五次。分别会得到a1,a2,a3,a4,a5和b1,b2,b3,b4,b5。
  3. 将a1-a5的预测值进行stack,得到New Feature,记为A1。对于b1-b5则取平均值,得到B1
  4. 上面是一个基础模型的过程,在stacking中,同一层包含了多个模型。对于多个模型,重复上述的过程,可以得到A2,A3…和B2,B3等。
    下图具体描述了stacking模型融合的过程。
    模型融合之stacking
    转载来源:模型融合-stacking详细讲解