热线电话:13121318867

登录
2020-03-23 阅读量: 671
最小二乘法与梯度下降的区别

广义上的最小二乘法:基于均方误差最小化来进行模型求解

狭义上的最小二乘法:线性假设下的一种有闭式解的参数求解方法,最终结果为全局最优

梯度下降:是假设条件更为广泛无约束的,一种通过迭代更新来逐步进行的参数优化方法。针对凸问题可以得到全局最优解。而对于非凸问题可能会陷入到局部最优解

线性最小二乘求解可以使用最小二乘算法和梯度下降方法

非线性最小二乘求解可以使用梯度下降方法和牛顿法等方法

2.6079
4
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子