神经网络的参数展开

注:本文是学习吴恩达老师的学习笔记

神经网络的参数展开

1. 在MATLAB中如果使用fminunc找出最优参数的话需要传递参数initialTheta,但是initialTheta是向量的形式。

同时costFunction返回的梯度也是vector的形式。

2. 而神经网络每层的参数都是以矩阵的形式列出来,而且每层参数对成本函数的偏导数都是矩阵形式,所以需要把神经网络的每层参数和偏导数举证unroll成一个向量的形式。

神经网络的参数展开

3, 可以通过上面的 方式将参数和偏导数举证展开和重新列构造出举证形式。


神经网络的参数展开