二阶近似算法探究

作者：来学伟

来源：电脑编程技巧与维护, 2019, (07): 24-65.

DOI：10.16184/j.cnki.comprg.2019.07.009

• Hessian矩阵
• 牛顿算法
• BFGS算法

简单介绍了几种二阶近似算法,其中牛顿算法是最基础的算法,在此基础上对其进行改进,最终L-BFGS算法已被证明是在训练深度神经网络中是一种有效且实用的算法,是目前深度学习从业者经常采用的训练神经网络算法之一。

• 出版日期2019
• 单位三门峡职业技术学院