条件随机场crf 马尔可夫随机场mrf 的编程实现，包含代码和数据集，求解算法BFGS等

优化方法：最速下降、阻尼牛顿、共轭梯度、BFGS法 matlab程序，以求解Rosen Brock函数极小值为例 程序有详细注释。

使用唯相位的方法实现阵列天线的波束赋形状，是使用基于DFP和BFGS 变尺度优化算法来实现求值，是该算法的应用实例

BFGS算法是目前最流行的，也是最有效的拟牛顿算法。是算法学习过程中必学的内容。通过Matlab实现了BFGS算法，其中对程序有讲解，望有助于大家的学习。

拟牛顿法和最速下降法一样只要求每一步迭代时知道目标函数的梯度。通过测量梯度的变化，构造一个目标函数的模型使之足以产生超线性收敛性。这类方法大大优于最速下降法，尤其对于困难的问题。另外，因为拟牛顿法不需要二阶导数的信息，所以有时比牛顿法更为有效。如今，优化软件中包含了大量的拟牛顿算法用来解决无约束，约束，和大规模的优化问题。本程序是拟牛顿法-bfgs算法的matlab代码。

这个函数可以从UFLDL网站上下载，其好处是在用10000个样本优化30多万个参数时内存不溢出，比网站上所用的minFunc函数好。我下载后整理了一下，翻译了注释，行数从800多行压倒660行

L-BFGS的MATLAB代码.对存储器的要求小，运算速度飞快

bfgs算法-matlab源程序,需要的下载

变尺度法中，BFGS法比DFP数值法稳定性好。用matlab编写的BFGS优化算法程序，通过测试可以运行。

L-BFGS-B 是一种优化算法，全称为 Limited-memory Broyden-Fletcher-Goldfarb-Shanno with Bounds，主要用于解决带有边界约束的非线性优化问题。在FORTRAN语言实现的L-BFGS-B代码中，它采用了有限内存版本的BFGS（Broyden-Fletcher-Goldfarb-Shanno）算法，这种算法在处理大规模问题时比原始BFGS更高效，因为它只需要存储有限数量的向量来近似Hessian矩阵。 BFGS算法是基于拟牛顿法的一种优化方法，通过迭代更新一个正定的Hessian矩阵近似来逼近目标函数的二次近似。在每一步迭代中，BFGS会根据梯度的变化来更新这个近似Hessian，以指导搜索方向的选择。L-BFGS-B则在此基础上加入了边界约束处理，使得优化过程可以在指定的参数空间范围内进行，这对许多实际问题如物理、化学、工程中的优化计算非常有用。 在FORTRAN实现中，L-BFGS-B代码通常包括以下几个核心部分： 1. 初始化：设置初始参数、步长、精度阈值、内存大小等参数。 2. 梯度计算：计算目标函数关于所有变量的梯度，这是BFGS算法的关键输入。 3. Hessian近似更新：利用有限内存存储最近的几次梯度变化，按照BFGS公式更新Hessian矩阵的近似。 4. 方向搜索：根据更新的Hessian近似和梯度，找到下降最快的方向，并执行线搜索找到最优步长。 5. 边界处理：确保每一步更新后的参数值都在约束范围内。 6. 终止条件：如果满足预设的优化条件（如达到一定的函数值精度、梯度范数阈值或迭代次数），则停止算法。 在Lbfgsb.2.1这个文件中，包含了L-BFGS-B算法的具体实现。这个版本可能是算法的一个特定迭代版本，可能包含了一些性能优化和改进。使用这个库，开发者可以方便地将L-BFGS-B优化器集成到他们的FORTRAN程序中，解决有约束的非线性优化问题。 在实际应用中，L-BFGS-B常被用在机器学习模型的参数优化，如支持向量机（SVM）、神经网络的权重调整等。此外，在工程设计、最优化问题求解等领域也有广泛的应用。理解和掌握L-BFGS-B算法及其FORTRAN实现对于从事数值计算和优化的科研人员来说是非常重要的。