机器学习,什么是梯度下降

梯度下降是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(Gradient Descent)是最常采用的方法之一,另一种常用的方法是最小二乘法。在求解损失函数的最小值时,可以通过梯度下降法来一步步的迭代求解,得到最小化的损失函数和模型参数值。反过来,如果我们需要求解损失函数的最大值,这时就需要用梯度上升法来迭代了。在机器学习中,基于基本的梯度下降法发展了两种梯度下降方法,分别为随机梯度下降法和批量梯度下降法。
免责声明:信息仅供参考,不构成投资及交易建议。投资者据此操作,风险自担。
如果觉得视频对你有用,请随意赞赏收藏
1317246517 1人赞赏收藏
相关推荐
登录后评论
最新评论 (1)

  • avatar
    2019-01-26 11:42:39 你说啥 [宽客网友]:
    你说啥
    0
    文章
    0
    关注
    0
    粉丝

    最优化问题在机器学习中有非常重要的地位,很多机器学习算法最后都归结为求解最优化问题。在各种最 优化算法中,梯度下降法是最简单、最常见的一种,在深度学习的训练中被广为使用。

Copyright © 2017 宽客在线 京ICP备15046776号