梯度下降算法能够帮助我们快速得到代价函数的最小值
算法思路:
- 以某一参数为起始点
- 寻找下一个参数使得代价函数的值减小,直到得到局部最小值
梯度下降算法:
- 重复下式直至收敛,其中α为学习速率,表示找到局部最小值的速率
- 并且各参数θ0,...,θn必须同时更新,即所有的θj值全部都计算得到新值之后才将参数值代入到代价函数中
数学原理:沿梯度方向,函数变化率/方向导数最大
原文地址:https://www.cnblogs.com/JJJanepp/p/8454599.html
时间: 2024-11-09 07:32:45