主要介绍了PyTorch中model.zero_grad()和optimizer.zero_grad()用法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
2021-08-02 11:34:04 80KB PyTorch model.zero_grad optimizer.zero_grad
1
这个包是为了在 Windows 的便携模式下更好地使用 PC。 所有完全预配置和自动化的最佳简单使用! * Network Ultimate 缓存和从 HTTP 网页中删除广告 * 系统:AnVir 任务管理器预配置以获得最佳进程性能 * 其他:(用于手动运行)Killer - 终极简单进程杀手预配置以获得最佳性能和进程安全性安装:不,它是可移植的 - 提取文件并运行。
2021-07-24 11:03:45 18.54MB 开源软件
1
SAM优化器 锐度感知最小化可有效提高泛化能力 〜在Pytorch中〜 SAM同时将损耗值和损耗锐度最小化。特别地,它寻找位于具有均匀低损耗的邻域中的参数。 SAM改进了模型的通用性,并。此外,它提供了强大的鲁棒性,可与专门针对带有噪声标签的学习的SoTA程序所提供的噪声相提并论。 这是的非官方存储库,。在实现方面,SAM类是一个轻量级包装器,用于计算正则化的“清晰度感知”渐变,该渐变由基础优化器(例如带有动量的SGD)使用。该存储库还包括一个的简单 ;作为概念验证,它在此数据集上以强劲的势头击败了SGD的表现。 在使用和不使用SAM的情况下,培训结束时的ResNet损失情况。锐度感知更新导致最小值明显变宽,从而导致更好的泛化属性。 用法 在您的培训管道中使用SAM应该很简单。只需记住,训练的速度将慢一倍,因为SAM需要两次向前-向后的传递才能使“清晰感”梯度变准。如果您使用渐变剪切,请
2021-07-17 20:35:09 619KB sam optimizer pytorch sharpness-aware
1
此工具箱提供均衡优化器 (EO) 方法 “主要”脚本说明了EO如何使用基准数据集解决特征选择问题的示例。 ****************************************************** ****************************************************** **********************************
2021-07-13 15:35:52 121KB matlab
1
matlab有些代码不运行均衡优化器 这是用MATLAB编写的均衡优化器的源代码。 平衡优化器(EO)是一种新颖的优化算法,受控制体积质量平衡的启发,可以估算动态状态和平衡状态。 在EO中,搜索代理会随机更新某些称为平衡候选物的有才干粒子的浓度(位置),以最终达到平衡状态(最佳结果)。 下图示意性地显示了平衡候选物在更新粒子浓度方面的协作。 EO的性能已通过58种数学函数(包括单峰,多峰,混合和组合函数)以及3个工程基准问题进行了验证,并将其性能与三类优化方法进行了比较; GA和PSO是研究最深入的元启发式算法,GWO,GSA和SSA是最近开发的算法,而CMA-ES,SHADE和LSHADE-SPACMA是高性能优化器。 全面的统计分析表明,EO的性能明显优于SHADE和LSHADE-SPACMA,而EO的性能明显优于PSO,GA,GWO,GSA,SSA和CMA-ES。 EO的结构简单易实现。 该算法在计算上是有效的,并且像PSO和GA一样,其复杂度为多项式:O(tnd + tcn)其中t,n,d和c分别表示迭代,粒子数,维数和功能评估成本。 您可以在此处下载主要论文: 如果您无权访问
2021-07-08 21:24:47 163KB 系统开源
1
EO 的灵感来自于控制体积质量平衡来估计动态和平衡状态。 在 EO 中,搜索代理相对于一些称为平衡候选的天才粒子随机更新它们的浓度(位置),以最终达到平衡状态作为最佳结果。 EO 的性能通过 58 个数学函数(包括单峰、多峰、混合和复合函数)以及 3 个工程基准问题进行验证,并将其性能与三类优化方法进行比较; GA 和 PSO 作为研究最多的元启发式算法,GWO、GSA 和 SSA 作为最近开发的算法,CMA-ES、SHADE 和 LSHADE-SPACMA 作为高性能优化器。 综合统计分析表明,EO 能够显着优于 PSO、GA、GWO、GSA、SSA 和 CMA-ES,而其性能在统计上与 SHADE 和 LSHADE-SPACMA 相似。 主要论文:A. Faramarzi、M. Heidarinejad、B. Stephens、S. Mirjalili,均衡优化器:一种新颖的优化
2021-06-26 21:56:52 6KB matlab
1
setc-组-项目-优化器
2021-06-17 13:25:16 2.17MB Java
1
gulp-marko-precomplie ( 深度 alpha ) Gulp 的 Marko-Optimizer 包装器 仅用于插件测试目的。 入口点: gulpfile.js 要求: gulp、优化器、through2、express、path、marko 由于优化器gulpfile 的异步性质必须在进入localhost:8080之前运行两次,它也会抛出错误:找不到模块错误
2021-06-15 15:20:30 153KB JavaScript
1
[eMo]Web 浏览器优化器功能:# - 处理浏览器的内存使用添加浏览器:>> Firefox >> Chrome >> Opera >> IE [Internet Explorer] >> Palemoon >> Maxthon >> Safari >> Green Browser 其他: >> Comodo Dragon >> K-Meleon >> Flock >> SeaMonkey >> Netscape >> Avant Browser >> Orca Browser >> Lunascape >> Sleipnir #Need .Net FrameWork v.2 Created by Denmas.Arhyf 2013 Comodo99+ 谢谢^ _ ^
2021-05-29 16:02:43 898KB 开源软件
1
一个用于高维单目标优化的算法,详见:Ran Cheng and Yaochu Jin. A Competitive Swarm Optimizer for Large Scale Optimization. IEEE Transactions on Cybernetics, 2014
2021-05-25 22:16:46 1009KB large scale optimization
1