过拟合与欠拟合

过拟合与欠拟合

过拟合

典型loss图:
过拟合与欠拟合
过拟合指的是训练集loss低但测试集loss高
可能的原因是训练数据不足
重复的数据可一直参与训练,但容易过拟合
数据量少也容易参数过拟合

欠拟合

典型loss图:
过拟合与欠拟合
欠拟合是训练误差很大,测试误差也很大
欠拟合的可能原因:
模型本身不够复杂或者说不正确
loss函数设置的不正确