对目前主流的机器学习算法进行公式推导、问题分析以及代码实现（主要基于numpy），持续更新（下面链接如果加载不出来，对应内容可在notebooks文件夹下找到）： 01_线性模型_线性回归 01_线性模型_线性回归_正则化(Lasso,Ridge,ElasticNet) 02_线性模型_逻辑回归 03_二分类转多分类的一般实现 04_线性模型_感知机 05_线性模型_最大熵模型 06_优化_拟牛顿法实现(DFP,BFGS) 07_01_svm_硬间隔支持向量机与SMO 07_02_svm_软间隔支持向量机 07_03_svm_核函数与非线性支持向量机 08_代价敏感学习_添加sample_weight支持 09_01_决策树_ID3与C4.5 09_02_决策树_CART 10_01_集成学习_简介 10_02_集成学习_boosting_adaboost_classifier 10_03_集成学习_boosting_adaboost_regressor 10_04_集成学习_boosting_提升树 10_05_集成学习_boosting_gbm_

这种形式的边界条件称为第二类边界条件，又称 为纽曼（Neumann)边界条件； 向微商某种线性组合的值，即 这种形式的边界条件称为第三类边界条件，又称为 洛平（Robin)边界条件. 3. 在边界 上给出了未知函数 u 及其沿 S 的外法

神经网络的前向传播和反向传播推导 x1x_{1}x1​和x2x_{2}x2​表示输入 wijw_{ij}wij​表示权重 bijb_{ij}bij​表示偏置 σi\sigma_{i}σi​表示激活函数，这里使用sigmoid激活函数 outoutout表示输出 yyy表示真实值 η\etaη表示学习率 前向传播 h1=w11x1+w13x2+b11h_{1}=w_{11}x_{1}+w_{13}x_{2}+b_{11}h1​=w11​x1​+w13​x2​+b11​，α1=σ(h1)=11+e−h1\alpha_{1}=\sigma(h1)=\frac{1}{1+e^{-h1}}α1​=σ(

这篇文档是我迄今为止见到的写的最好的关于卷积神经网络内部机制的博文。

在fpga工程中加入时序约束的目的：   1、给quartusii提出时序要求；   2、quartusii在布局布线时会尽量优先去满足给出的时序要求；   3、STA静态时序分析工具根据你提出的约束去判断时序是否满足的标准。   举个形象的比喻：就好比我要让代工厂（类比quartusii）给我加工一批零件，要求长宽高为10x10x10cm，误差不超过1mm（类比时序约束条件）。代工厂按要求（即约束条件）开始进行生产加工，工厂为了不返工，肯定会尽量生产出达到我要求的零件。当加工完成后，质检员（类比STA静态时序分析工具）按我给出的要求进行检验看是否满足要求。要是工厂想尽了各种办法也不能达到我给出的要求，那么就是我给出的要求太高了（即时序约束中的过约束），要是我给出的要求太低（比如说加工成方形就行，而没有指出长宽高），那么工厂很容易就生产出来了，但这并不是我想要的，这是由于我给出的约束太松即相当于时序里的欠约束。   quartusii里的静态时序分析（STA）：是套用特定的时序模型，针对特定电路分析其是否违反设计者给定的时序限制。说白了就是检查fpga内部所有寄存器的建立时间保持时间是否满足spec给定的要求。

GCN开山之作精读，主观翻译和详细公式推导，半监督图节点学习问题 最近在阅读GCN网络的文献《SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS》，有一些收获，想分享给大家，希望对大家有帮助。我会主观翻译前半部分内容，并把我当时陷入思考的句子进行解释，解释部分用中文中括号标注【】，之后我会向大家详细推导一下各个数学公式和理解。本人学术能力不高，如有错误，还望批评指正。建议具备一些图和深度学习理论基础者拜读。在word中编辑的，因此都是图片，见谅。

本文为softmax 的交叉熵 求导公式，来源于斯坦福cs224n 其中一题

滚动轴承特征频率计算推导过程

回归算法公式推导过程1