约束优化的分布式梯度算法在电力系统负荷分担中的应用

将自适应梯度算法（Adagrad）作为反向传播算法应用于普通的三层神经网络（输入层、隐含层、输出层）的反向传播过程，之后建立数据预测模型进行数据预测，压缩包中train.py为训练过程源码，test.py为测试过程源码，train.csv文件为训练数据集，test.csv文件为测试数据集，.npy文件为模型训练后保存的参数。

Practical Mathematical Optimization Basic Optimization Theory and Gradient-Base 实用数学优化：基本优化理论与基于梯度的算法 本书为数学、工程、计算机科学和其他应用科学的高年级本科生和研究生提供了广泛的数学优化课程工具。介绍了优化的基本原理，重点介绍了基于梯度的数值优化策略和算法，可用于求解光滑和有噪声的不连续优化问题。还注意到函数求值的困难和存在多个最小值，这往往不必要地抑制了基于梯度的方法的使用。这第二版介绍了仅梯度优化策略的进一步改进，以处理目标函数中的不连续。新的章节讨论了代理模型的构造，以及新的仅限梯度解决方案策略和使用Python的数值优化。一个特殊的Python模块以电子方式提供(通过springerlink)，它使文本中的新算法易于访问并直接适用。数值例子和练习包括鼓励高级到研究生水平的学生计划，执行，并反映数值调查。通过对概念材料的深入理解，学生、科学家和工程师将能够发展系统和科学的数字调研技能。 https://link.springer.com/book/10.1007/978-3-3

策略梯度(Policy Gradient, PG)方法的核心思想在于是能获得更好的回报的动作的采样概率不断提高，使获得更少回报的动作的采样概率不断降低，从而达到一个最优的策略。

策略梯度算法PPO+代码解读

基于共轭梯度法的详细案例，共轭梯度法是最优化方法的其中一种优化方案。通过变分法求解线性方程组。方向是在求出梯度方向的前提下，添加正则项，使得前后两次方向互为共轭所得出的方向向量。

找到最小或最大广义特征值和向量的算法 该算法尝试使用增强的共轭梯度方法最大化或最小化

几种经典的策略梯度算法性能对比.docx

无约束优化的超记忆梯度算法.docx

共轭梯度算法C++版本，适用于求解大型线性方程组，系数矩阵必须是对称正定。