用FFNN、AlexNet、LeNet网络实现mnist手写数字识别

使用CNN完成MNIST手写体识别(pytorch).py

介绍 这是一个使用keras和mnist数据集的简单图像识别模型。 使用img_saver.py，您可以通过将png文件命名为其预测标签来生成图像。 因此，此模块在我的Express Express节点中使用。 该应用程序可以允许您键入一些随机整数，并在HTML上显示相应的图像。 Python版本 3.6 图书馆 主要依靠keras，numpy，matplotlib 权重和架构 全部保存在model.h5（顺序架构）和model.json（权重）中

matlab集成c代码 现当今机器学习/深度学习技术在某些具体垂直领域已被大量广泛应用到现实世界中，已经不再像前几年那么“火热”，与之对应的各类深度学习框架也是“百花齐放,百家争鸣”，框架终究只是个工具，不过简化了从“零”开始复杂繁琐的工作，让很多普通人都可以快速入门。本博客不单纯完成一个任务，也不涉及过多理论推导，而是真正体会到算法工作一步步原理，逐步实现，岂不乐乎？ 以经典的识别为例，逐步一步步实现通用的深度学习网络模型架构，不调用任何第三方库和框架，使用matlab进行快速搭建、训练和测试。程序中所涉及的理论知识及使用的变量名严格按照、 这两篇博客的符号和公式进行。MNIST手写数字包含60000张训练图片，10000张测试图片，图片大小为28×28，灰度图像，给出的是四个二进制存储的文件,分别为训练和测试的数据集和标签文件。假设读者已经明白所给链接博客的理论知识（不清楚可以参考更多文后的文献和程序代码中给的链接），我们接下来进行下面的具体实现。 网络架构设计 考虑到网络简单和易用性，根据MNIST数据集特点，设计了四层网络层，分别为conv+relu+meanPool、conv

official_classification.py ： 使用了较多的sklearn中提供的聚类函数 self_classification.py ： 使用了较多的手写聚类函数（手写高斯聚类由于计算高维矩阵n次方报错，就没有使用） 两者可以相互比较看手写函数效果如何。 model.py ： 其中包含了kmeans，lvq，mixture-of-gaussian聚类函数，以及计算精度和NMI的手写函数，处理标签映射的匈牙利算法。 由于学习向量量化是依据ground truth的得到的一组原型向量，是有监督的学习，因此计算其精度没有意义，在函数里就没有计算精度和NMI，只打印出了原型向量 函数运行时会有warning，不用在意，手写的函数没有优化，速度较慢 代码对三个数据集，分别使用了kmeans，lvq，mixture-of-gaussian三个方法，在得到预测标签后，采用匈牙利算法对标签进行处理，计算其精确度acc和标准互信息nmi 这三种方法聚类的精度只有百分之五十几，在数据集yale中效果较差 运行方法： 安装相应需求的库，直接运行official_classifica

说在前头 本文是使用BP神经网络中的softmax回归模型实现MNIST手写数字识别，实际上能实现MNIST手写数字识别的神经网络还有CNN（卷积神经网络），下一篇可能会写。 Tensorflow是个什么东西 Tensorflow是一个采用 数据流图，用于数值计算的开源软件库。节点在图中表示数学操作，图中的线则表示在节点间相互联系的多维数据数组，即张量（Tensor）。 数据流图用“结点”和“线”的有向图来描述数学计算。“节点” 一般用来表示施加的数学操作，但也可以表示数据输入的起点/输出的终点，或者是读取/写入持久变量的终点。“线”表示“节点”之间的输入/输出关系。这些数据“线”可以输运“

文件夹说明： 1. ./divert -- 全部进行像素反转后的 60000 张训练集图片； 2. ./divert_test -- 全部进行像素反转后的 60000 张测试集图片； 3. ./rotate -- 全部进行图像旋转后的 60000 张训练集图片； 4. ./rotate_test -- 全部进行图像旋转后的 60000 张测试集图片； 5. ./divert_and_rotate -- 像素反转后的 30000 张训练集图片 + 图像旋转后的 30000 张训练集图片； 6. ./divert_and_rotate_test -- 像素反转后的 30000 张测试集图片 + 图像旋转后的 30000 张测试集图片； 7. ./raw -- 手动创建的测试集图片，1-9 没有进行旋转，r1-r9 进行了不同角度的旋转 8. label_train.txt -- 训练集 label 9. label_test.txt -- 测试集label

mnist数据集的读取和训练过程，采用了两种办法，一种是cnn，一种是线性神经网络。将训练好的权重保存下来，用于移植到ZYNQ来实现手写数字识别。

这是一个用来加载mnist数据集的python函数，其中每个函数都有相关注释，使用时只要引用这个类，然后写这条语句(x_train,y_train),(x_valid,y_valid) = load_mnist(normalize=True,**)括号里面是一些参数，关于参数在函数里面也有详细的注释，这个py文件适用于刚刚学习深度学习想要用mnist数据集联系分类的萌新小伙伴。

LeNet5-Mnist相关实现