2019-03-08
阅读量:
798
关于牛顿法和梯度下降法的效率对比有什么优势？
问、关于牛顿法和梯度下降法的效率对比有什么优势？
答：从本质上去看，牛顿法是二阶收敛，梯度下降是一阶收敛，所以牛顿法就更快。如果更通俗地说的话，比如你想找一条最短的路径走到一个盆地的最底部，梯度下降法每次只从你当前所处位置选一个坡度最大的方向走一步，牛顿法在选择方向时，不仅会考虑坡度是否够大，还会考虑你走了一步之后，坡度是否会变得更大。所以，可以说牛顿法比梯度下降法看得更远一点，能更快地走到最底部。（牛顿法目光更加长远，所以少走弯路；相对而言，梯度下降法只考虑了局部的最优，没有全局思想。）
0.0000
0
1
关注作者
收藏
评论(0)
发表评论
暂无数据
推荐帖子
xmd11
2020-06-12
4条评论
xmd11
2020-06-12
0条评论
慢慢爬的Rui
2020-06-11
3条评论