设计和实现一个神经网络
注:本文是学习吴恩达机器学习的学习笔记。
1. 选择神经网络架构
输入层的节点数决定输入特征向量的维度,输出层的节点数取决于分类的数目,默认情况下有一层隐藏层,但是隐藏层是越多越好而且隐藏层的节点数目应该一致。
2. 然后按照下面步骤实现神经网络的cost函数和偏导数
3. 再利用梯度checking,确认back propagation算出的偏导数是正确的,当确认正确后再disable 梯度checking
最后应用梯度下降或者高阶优化算法找到最有参数theta。