最优化和KKT条件 用以等式和不等式约束时的一次或二次优化问题的求取

支持向量机（三）：图解KKT条件和拉格朗日乘子法.pdf 支持向量机（三）：图解KKT条件和拉格朗日乘子法.pdf 支持向量机（三）：图解KKT条件和拉格朗日乘子法.pdf 支持向量机（三）：图解KKT条件和拉格朗日乘子法.pdf

从国外大学网站（卡耐基梅隆、伊利诺伊州立大学、哥伦比亚大学、丹麦技术大学）下载的课程PPT，关于凸优化、拉格朗日函数、KKT等。

什么是机器学习 （Machine Learning）       机器学习是研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。 机器学习的大致分类： 1）分类（模式识别）：要求系统依据已知的分类知识对输入的未知模式（该模式的描述）作分析，以确定输入模式的类属，例如手写识别（识别是不是这个数）。 2）问题求解：要求对于给定的目标状态,寻找一个将当前状态转换为目标状态的动作序列。 SVM一般是用来分类的（一般先分为两类，再向多类推广一生二，二生三，三生万物哈）

不等式约束优化问题及KKT条件理解 我们只考虑不等式约束下的优化问题，如: minf(x) minf(x) minf(x) s.t.g(x)≤0 s.t.g(x)\leq0 s.t.g(x)≤0 这里xxx是多维的向量，约束不等式g(x)≤0g(x)\leq0g(x)≤0表示的是多维空间上的一个区域，因此我们定义可行性域K=x∈Rn∣g(x)≤0K={x\in R^n|g(x)\leq0}K=x∈Rn∣g(x)≤0 。假设x∗x^*x∗为满足约束条件的最佳解，那么我们可以分成两种情况讨论，而这两种情况的最佳解具有不同的必要条件。 (1)(1)(1) g(x)≤0g(x)\leq0g(x)≤0

很好的资源 学优化的筒子们 可以瞧瞧

下行链路非正交多址接入技术（NOMA）可以有效提高频谱效率和数据速率，已经广泛应用到第5代通信技术的研究中。为了确保用户的服务质量，针对提高边缘小区用户公平性问题，提出一种新的功率分配策略。根据比例公平方法，在保证每个用户最低数据速率约束下，最大化复用用户中公平性最差的用户的比例公平因子。然后，将此非凸的目标函数转换成凸函数，用KKT最优约束条件求出问题的最优解。仿真证明，新的基于NOMA的功率分配方案，系统性能优于传统的正交多址接入（OMA）技术。

最优化与KKT条件，最好的凸优化入门书籍，简短精炼，易于理解，对于学习深度学习打下基础具有很大的帮助！

最新北航《最优化方法》课程(刘红英)个人学习笔记，亲笔摘录重点，字有点丑，但是都是重点，包括无约束优化、约束优化、线性规划、基本可行解、线搜索方法、信赖域方法、Armijo条件、梯度下降法、牛顿法、KKT条件、积极集法、乘子罚函数、精确罚函数和基本SOP法等。若想获取其他相关大作业、期中、期末考试试卷等内容，请点击个人主页查询。

百万级超市商品条码库