multi-batch-LBFGS:这是多批次L-BFGS算法的实现,已在CIFAR-10数据集上进行了测试

上传者: 42131405 | 上传时间: 2022-05-09 17:51:35 | 文件大小: 31KB | 文件类型: ZIP
多批次LBFGS 该代码是用于神经网络训练的革命性优化器的实现。 它的全名是“带CUDA的多批次L-BFGS优化器”。 如今,著名的机器学习框架(例如Tensorflow)通常提供“基于梯度”的优化器(GradientDescent,AdaGrad),该优化器通过计算梯度并将其应用于网络来发挥作用。 该代码为Tensorflow实现了一个经过优化的优化器,它采用了“多批L-BFGS”算法(一种基于准牛顿算法的变体),我覆盖了Tensorflow的优化器的默认实现,并定义了一种用于梯度计算的拟新方法,该方法结合了二阶信息,其执行方式比默认优化器更好。 此外,我通过介绍CUDA技术来优化此优化器。 我在GPU上分配计算步骤。 它将优化器的性能提高至少20%。

文件下载

评论信息

免责申明

【只为小站】的资源来自网友分享,仅供学习研究,请务必在下载后24小时内给予删除,不得用于其他任何用途,否则后果自负。基于互联网的特殊性,【只为小站】 无法对用户传输的作品、信息、内容的权属或合法性、合规性、真实性、科学性、完整权、有效性等进行实质审查;无论 【只为小站】 经营者是否已进行审查,用户均应自行承担因其传输的作品、信息、内容而可能或已经产生的侵权或权属纠纷等法律责任。
本站所有资源不代表本站的观点或立场,基于网友分享,根据中国法律《信息网络传播权保护条例》第二十二条之规定,若资源存在侵权或相关问题请联系本站客服人员,zhiweidada#qq.com,请把#换成@,本站将给予最大的支持与配合,做到及时反馈和处理。关于更多版权及免责申明参见 版权及免责申明