深度学习:随机失活dropout
原理解释:
-
组合解释:
每次dropout都相当于训练了一个子网络
最后的结果都相当于很多子网络的组合 -
动机解释:
消除了神经单元之间的依赖,增强泛化能力 -
数据解释
对于dropout后的结果总能找到一个样本与其对应
相当于数据增强
原理解释:
组合解释:
每次dropout都相当于训练了一个子网络
最后的结果都相当于很多子网络的组合
动机解释:
消除了神经单元之间的依赖,增强泛化能力
数据解释
对于dropout后的结果总能找到一个样本与其对应
相当于数据增强