赞 梦的雅朵 4星
共回答了486个问题采纳率：99.1% 评论
顾名思义，梯度下降法的计算过程就是沿梯度下降的方向求解极小值（也可以沿梯度上升方向求解极大值）。 其迭代公式为 ,其中 代表梯度负方向， 表示梯度方向上的搜索步长。
梯度方向我们可以通过对函数求导得到，步长的确定比较麻烦，太大了的话可能会发散，太小收敛速度又太慢知。
一般确定步长的方法是由线性搜索算法来确定，即把下一个点的坐标ak+1看做是的函数，然后求满足f(ak+1)的最小值的 即可。
因为一般情况下，梯度向量为0的话说明是到了一个极值点，此时梯度的幅值也为0.而采用梯度下降算法进行最优化求解时，算法迭代的终止条件是梯度向量的幅值接近0即可，可以设置个非常小的常数阈值道。
14小时前
30
可能相似的问题
-
查看 436回答 1
-
查看 430回答 1
-
查看 90回答 1
-
查看 534回答 1
-
查看 398回答 2
-
查看 99回答 3
-
查看 184回答 1
-
查看 25回答 1
-
查看 458回答 1
-
查看 77回答 2
猜你喜欢的问题
-
2天前1个回答
-
2天前1个回答
-
2天前1个回答
-
2天前2个回答
-
2天前1个回答
-
2天前2个回答
热门问题推荐
-
3个月前1个回答
-
2个月前1个回答
-
2个月前3个回答
-
3个月前1个回答
-
3个月前4个回答
-
2个月前1个回答
-
3个月前2个回答
-
3个月前2个回答
-
4个月前1个回答