ML笔记——假设函数、代价函数

想法

对于如下的数据
ML笔记——假设函数、代价函数
选择合适的 $θ_{0}, θ_{1}$ 使得假设的线性函数 $h_{θ} (x)$ 接近与训练数据 $(x, y)$ 的 $y$ 值

数学表示

假设的线性函数: $h_{θ} (x_{i}) = θ_{0} + θ_{1} x_{i}$
表示是否接近于 $y_{i}$ 值，用两者的差值表示： $h_{θ} (x_{i}) - y_{i}$
为了运算的方便，将上式转换为代价函数： $J (θ_{0}, θ_{1}) = \frac{1}{2 m} \sum_{i = 1}^{m} (h_{θ} (x_{i}) - y_{i})^{2}$
选择合适的 $θ_{0}, θ_{1}$ 的过程就是求解 $min_{θ_{0}, θ_{1}} J (θ_{0}, θ_{1})$ 的过程

胡思乱想时刻

关于线性函数 $h_{θ} (x_{i}) = θ_{0} + θ_{1} x_{i}$ 结合图像可以较快的得出
其中对于是否接近于训练值，原来可以采用做差的方式
至于代价函数的引入，不仅解决了做差带来的正负号的问题，而且利用二次的特性，保证了存在最小值点。

ML笔记——假设函数、代价函数

想法

数学表示

胡思乱想时刻

相关推荐