注意LSTM 使用TensorFlow对LSTM实施注意力模型

田春伟，徐永，李作勇，左望萌，费伦和刘宏的Atent-guided CNN for图像降噪（ADNet）由神经网络（IF：5.535）于2020年发布（ ），并由Pytorch实现。 这篇论文被推到了Nueral Networks的主页上。 此外，微信公众号还在和 。 本文是第一篇通过深度网络属性解决复杂背景图像降噪的论文。 抽象 深度卷积神经网络（CNN）在低级计算机视觉中引起了相当大的兴趣。 研究通常致力于通过非常深的CNN来提高性能。 但是，随着深度的增加，浅层对深层的影响会减弱。 受这一事实的启发，我们提出了一种注意力导向的去噪卷积神经网络（ADNet），主要包括稀疏块（SB），特征增强块（FEB），注意块（AB）和重构块（RB）图像降噪。 具体而言，SB通过使用膨胀的和普通的卷积来去除噪声，从而在性能和效率之间进行权衡。 FEB通过很长的路途整合了全球和局部特征信息，以增强去噪

GAM ⠀ ⠀ 使用结构化注意的图分类的PyTorch实现（KDD 2018）。 抽象的 图分类是许多不同领域中实际应用中的问题。 为了解决这个问题，通常会计算某些图统计信息（即图特征），以帮助区分不同类别的图。 在计算此类特征时，大多数现有方法都会处理整个图形。 例如，在基于图的方法中，处理整个图以获得不同图或子图的总数。 但是，在许多实际应用中，图可能会嘈杂，仅在图的某些区域内会出现区分模式。 在这项工作中，我们研究了基于注意力的图分类问题。 注意的使用使我们可以专注于图表中较小但内容丰富的部分，从而避免在其余图表中产生干扰。 我们提出了一种新颖的RNN模型，称为图注意力模型（GAM），该模型通过自适应选择一系列“信息”节点来仅处理图的一部分。 在多个现实世界数据集上的实验结果表明，即使我们的方法仅局限于部分图形，该方法在图分类中也可以与各种众所周知的方法竞争。 该存储库提供了G

yolov5+diou-nms，骨干网络添加eca注意力，代码以及各种改进模型的实验数据，包含一个一万五千张的数据集，适合硕士论文以及毕业论文

基于注意力机制的新闻话题分类的源码

通过加入空间注意力机制进行单幅图像的去雨，去雾操作

用于目标检测的注意力导向上下文特征金字塔网络 该存储库在的基础上重新实现 。 请按照上的说明安装和使用此存储库。 此仓库发布了不带AM模块的，但与纸上pytorch的实现相比，我们可以获得更高的性能。 同样，由于有检测器的强大功能，此回购协议在训练和推理中速度更快。 CEM的实现非常简单，少于200行代码，但是它可以将FPN（resnet50）中的AP性能提高近3％ 。 交流FPN AC-FPN可以轻松插入现有的基于FPN的模型中并提高性能。 物体检测的可视化。 两种型号均基于基于COCO minival的ResNet-50。 使用（w）和不使用（w / o）我们的基于ResNet-50的模块在Mask CO-minival上进行Mask R-CNN的结果。 更多细节。 标杆管理 由于建议的体系结构，我们在大多数基于FPN的方法（尤其是大型对象）上均具有更好的性能。

在线学习每年都在Swift增长。 但是，有一些因素与传统的课堂学习方法不同。 在在线学习中，教师（主持人）无法一次监视每个学生（参与者），这在课堂学习中是可能的。 因此，难以识别学习者的注意力。 本文提出了一种深度学习方法，用于在边缘计算中使用卷积神经网络检测学习者的注意力水平。 另外，跟踪浏览器的活动以进一步识别学习者的注意力水平。 神经网络将学生的注意力分类为四个不同类别之一，即高度专心，专心，不太专心和至少专心。 此关注级别是在边缘设备上计算的，并且仅最终输出发送到服务器。 结果，消耗了少量的带宽并且尊重了用户的隐私。 使用“电子环境中的情感状态数据集”（DAiSEE）对CNN模型进行了训练。 在实验过程中，有效的系统精度达到了84.1％。

matlab代码影响对EEG单一试验和连接组进行分类 这是我于2019年8月5日至30日进行的项目的仓库。 __目标：使用机器学习工具（例如MNE库）对EEG任务相关的单项试验和功能连接进行分类。 理论：检查我的 原始数据：头皮脑电图数据-Biosemi-512 Hz-64电极-50位健康的人（.bdf） 任务：视觉空间注意任务（每个受试者每个主要状况约250次试验） 预处理数据（从EEGLAB到PYTHON） 对于ERP：在连续信号（Raw，.bdf）上闪烁并过滤假象，然后在ERPLAB / EEGLAB上进行分段（.set + .ftd） 对于wPLI：在连续信号上，应用SCD（Raw，.bdf），闪烁并过滤假象，选择14个电极，进行Beta和Gamma过滤，并进行Hilbert变换，并应用wPLI（.erp），然后进行10 ICA（connectomes）（。mat） ） 数据维度以纪元形式构建，以符合Python流程（最初为EEGLAB / MATLAB） 目标（1）随时代而定分为2个类：出席与否 言语上的问题：每个时期，作为电压信号（ERP）或特征权重（ICA），将成为两态分

财务情绪分析 进行实验以训练我自己的Word2vec嵌入，以便使用注意力模型进行转移学习。 （自然语言处理和深度学习）涉及对斯坦福问题解答数据集和迁移学习的实验。 这些实验背后的想法是将转移学习用于具有深度神经网络和注意力模型的无监督文本数据。 我训练有素的word2vec嵌入的代码将在以后添加库：Keras，python，pandas，nltk Tensorflow和一些sci-kit在这里和那里学习