【方向整理】损失函数改进方法

首先感谢原文作者: https://blog.****.net/u014380165/article/details/76946358

1. 总结

看过五种基本的损失函数改进之后，对损失函数的改进方向有了一个基本的认识。
这五个方向的改进大概分为两类，1，2，3，5一类，4一类

1.2.3.5 角度化改进与中心点改进
这一类改进方法的核心是尽可能使同一类分类结果集中，不同类分类结果分散。
1，2，5一脉相承，核心思路是关注向量之间的角度，通过限制角度范围提高训练难度，增强测试时候的准确度。
2则是为各个分类添加一个类核心，将元素与核心的距离加入到损失函数的考虑中来。
4给予不同分类结果不同的权重
简单的分类问题，其损失函数所占比重较低。比较困难的分类问题，损失函数所占比重较高。

现在觉得，在进一步深入探究损失函数的作用之前，必须着手尝试搭建一个简单的神经网络，直观地加深各个参数的变化对最终训练结果的影响。