用PyTorch从头实现经典机器模型(Dropout, Adam, RMSProp, basic neural nets…)-python源码

从头开始实现一些经典的机器学习模型，并针对流行的ML库进行基准测试 从零开始机器学习！ 更新：代码实现已移至 python 模块。 Notebook 只会显示结果和模型比较 为了刷新我的知识，我将尝试仅使用 python 和有限的 numpy/pandas 函数从头开始实现一些基本的机器学习算法。 我的模型实现将与来自流行的 ML 库 (sklearn) 的现有模型进行比较 权重衰减的线性回归 (L2 正则化) 权重衰减的逻辑回归 具有置换特征重要性的随机森林 随机森林回归器 随机森林分类器 K 最近邻：监督和无监督神经用于分类的网络随机梯度下降多个隐藏层为每个隐藏层定制的各种激活函数 + 梯度（Sigmoid、Softmax、ReLU ...） L2 正则化 Dropout 动态学习率优化器（动量、RMSProp 和 Adam） TODO：batchnorm 以下笔记本使用 Pytorch 库，因此它们不是从头开始实现的。 但是，我尽量不使用任何高级 Pytorch 函数 Pytorch 神经网络：自定义数据加载器 1 通道图像上的数据增强：torchvision vs fa