自我注意和卷积 该代码随附于 ， 和的论文发表于ICLR 2020）。 抽象的 将注意力机制整合到视觉中的最新趋势已导致研究人员重新考虑卷积层作为主要构建块的优势。 除了帮助CNN处理远程依赖关系之外，Ramachandran等人（英文）。 （2019）表明，注意力可以完全取代卷积，并在视觉任务上达到最先进的性能。 这就提出了一个问题：学到的注意力层的运作方式与卷积层的运作方式类似吗？ 这项工作提供了证据表明注意力层可以进行卷积，实际上，他们经常在实践中学会这样做。 具体来说，我们证明具有足够数量的头的多头自我注意层至少与任何卷积层一样强大。 然后，我们的数值实验表明该现象也在实践中发生，从而证实了我们的分析。 我们的代码是公开可用的。 与注意力互动 查看我们的。 复制 要在具有GPU的Ubuntu计算机上运行我们的代码，请在全新的Anaconda环境中安装Python软件包： cond

对于想要入门深度学习的同学来说，有很大的启发

数独 使用CNN模型以两种方式解决数独难题：直接（一次所有单元）和迭代（逐单元）。

【图像识别】基于卷积神经网络CNN实现车牌识别matlab源码.md

电能质量是电力系统重要的专业，华北电力大学齐林海教授在深圳全国第六届电能质量会议作的报告“深度学习与流式计算在电能质量分析评估中的机遇与挑战”，主要涉及4方面的内容，主要提炼了科学问题及其关键技术。

CNN卷积神经网络MATLAB代码，mnist_uint8.mat是数据文件，其他的函数都有相应的解释。

迁移学习CNN图像分类模型 - 花朵图片分类-附件资源

针对传统数据驱动的故障诊断方法难以从QAR数据中提取有效特征的问题，提出一种融合卷积神经网络（convolutional neural network，CNN）与长短时记忆网络（long short-term memory，LSTM）的双通道融合模型CNN-LSTM。CNN与LSTM分别作为两个通道，通过注意力机制（attention）融合，从而使模型能同时表达数据在空间维度和时间维度上的特征，并以时间序列预测的方式验证融合模型特征提取的有效性。实验结果表明，双通道融合模型与单一的CNN、LSTM相比，能够更有效地提取数据特征，模型单步预测与多步预测误差平均降低35.3%，为基于QAR数据的故障诊断提供一种新的研究思路。

6000张28x28 手写数字图片，lenet的网络实现，个人简单的改进的一个网络，包括训练的模型。

高斯白噪声matlab代码 新的培训和测试代码（）-18/12/2019 培训和测试代码（和） 合并批量归一化（PyTorch） import torch import torch . nn as nn def merge_bn ( model ): ''' merge all 'Conv+BN' (or 'TConv+BN') into 'Conv' (or 'TConv') based on https://github.com/pytorch/pytorch/pull/901 by Kai Zhang (cskaizhang@gmail.com) https://github.com/cszn/DnCNN 01/01/2019 ''' prev_m = None for k , m in list ( model . named_children ()): if ( isinstance ( m , nn . BatchNorm2d ) or isinstance ( m , nn . BatchNorm1d )) and ( isinstance ( prev_m , nn .