用于自然语言处理的神经网络模型入门。 在过去几年中，神经网络重新成为强大的机器学习模型，得到在诸如图像识别和语音状态的最先进的结果处理。最近，神经网络模型也开始应用于文本，自然语言信号，再次取得了非常有希望的结果。本教程调查神经从自然语言处理研究的角度出发，试图网机型带来自然语言的研究人员加快速度与神经技术。本教程涵盖自然语言任务的输入编码、前馈网络、卷积网络、循环网络和递归网络，以及的计算图用于自动梯度计算抽象。

PPT

线性分类器、前馈神经网络、卷积神经网络

本文将传统的机器学习模型（即支持向量机，k最近邻，决策树和随机森林）与前馈神经网络和长短期记忆进行了比较。 我们观察到两个神经网络比传统模型具有更高的精度。 本文还试图弄清辍学是否可以提高神经网络的准确性。 我们观察到，对于前馈神经网络，在某些情况下应用辍学可能会导致更好的性能，而在其他情况下则会导致更差的性能。 辍学对LSTM模型的影响很小。 因此，使用辍学不能保证更高的准确性。

这项工作利用称为 PSOGSA 的粒子群优化 (PSO) 和引力搜索算法 (GSA) 的混合来训练前馈神经网络 (FNN)。 该算法应用于著名的 Iris 数据集。 主要论文：S. Mirjalili，SZ Mohd Hashim和H. Moradian Sardroudi，“使用混合粒子群优化和引力搜索算法训练前馈神经网络”，《应用数学与计算》，第1卷。 218，第 11125-11137 页，2012 年。

用Excel做bp神经网络.chm

该模型表明 LQR 设计方法也可以有效地用于以非平稳状态矩阵为特征的植物。 为不同的工作点设计了一组控制器，并采用 FFNN 来存储这些知识。 如果状态矩阵 A 发生变化，则增益矩阵 K 会即时调整。 在感应电机的情况下，状态矩阵 A 的一些条目是例如定子磁通空间矢量角速度和转子的滑差角速度的函数。 更多细节可以在用于感应电机驱动的基于神经网络的可编程状态反馈控制器 ( http://dx.doi.org/10.1109/IJCNN.2006.246811 ) 中找到。 还建议在使用此模型之前熟悉 LQR 基础知识。 参见例如http://www.mathworks.com/help/control/ref/lqr.html 。

pytorch实现前馈神经网络实验（torch实现）参考链接：https://blog.csdn.net/qq_37534947/article/details/109402126

参考文章：https://blog.csdn.net/qq_37534947/article/details/109394648

构建一个至少含有1-2 层隐藏层的神经网络模型，解决手写的0-9 十个手写 数字的识别问题。神经网络模型构建过程中需要注意的几点： （1）数据集采用MNIST 阿拉伯数字手写体数据集。 （2）模型输入层的节点个数的设计。输入层的节点数目应该与输入的手写 体图片的大小相等。MNIST 手写体数据集中手写阿拉伯数字的图像为28×28 的 方形图。 （3）每一个隐藏层的网络节点数的设计。应该遵循特征提取与降维相统一 的原则。 （4）输出层的节点数。因为识别任务是0-9 的十个手写数字，所以输出层 应该是一个多任务的二分类问题