针对社交网络数据的文本情感分析，目前常用的研究方法主要是基于传统机器学习算法，根据手工标注好的情感词典，对文本信息使用朴素贝叶斯、支持向量机、最大熵方法等机器学习算法进行情感分析。为了避免对手工方式建立的情感词典的依赖，减少机器学习过程中的人工干预，提出基于卷积神经网络和注意力模型相结合的方法进行文本情感分析。实验表明，根据准确率、召回率和F1测度等衡量指标，提出的方法较传统的机器学习方法和单纯的卷积神经网络方法有明显的提高。

本案例取自PyTorch官网的NLP FROM SCRATCH: TRANSLATION WITH A SEQUENCE TO SEQUENCE NETWORK AND ATTENTION，完整的讲解见文章：https://blog.csdn.net/weixin_45707277/article/details/122409447

注意LSTM 使用TensorFlow对LSTM实施注意力模型

田春伟，徐永，李作勇，左望萌，费伦和刘宏的Atent-guided CNN for图像降噪（ADNet）由神经网络（IF：5.535）于2020年发布（ ），并由Pytorch实现。 这篇论文被推到了Nueral Networks的主页上。 此外，微信公众号还在和 。 本文是第一篇通过深度网络属性解决复杂背景图像降噪的论文。 抽象 深度卷积神经网络（CNN）在低级计算机视觉中引起了相当大的兴趣。 研究通常致力于通过非常深的CNN来提高性能。 但是，随着深度的增加，浅层对深层的影响会减弱。 受这一事实的启发，我们提出了一种注意力导向的去噪卷积神经网络（ADNet），主要包括稀疏块（SB），特征增强块（FEB），注意块（AB）和重构块（RB）图像降噪。 具体而言，SB通过使用膨胀的和普通的卷积来去除噪声，从而在性能和效率之间进行权衡。 FEB通过很长的路途整合了全球和局部特征信息，以增强去噪

GAM ⠀ ⠀ 使用结构化注意的图分类的PyTorch实现（KDD 2018）。 抽象的 图分类是许多不同领域中实际应用中的问题。 为了解决这个问题，通常会计算某些图统计信息（即图特征），以帮助区分不同类别的图。 在计算此类特征时，大多数现有方法都会处理整个图形。 例如，在基于图的方法中，处理整个图以获得不同图或子图的总数。 但是，在许多实际应用中，图可能会嘈杂，仅在图的某些区域内会出现区分模式。 在这项工作中，我们研究了基于注意力的图分类问题。 注意的使用使我们可以专注于图表中较小但内容丰富的部分，从而避免在其余图表中产生干扰。 我们提出了一种新颖的RNN模型，称为图注意力模型（GAM），该模型通过自适应选择一系列“信息”节点来仅处理图的一部分。 在多个现实世界数据集上的实验结果表明，即使我们的方法仅局限于部分图形，该方法在图分类中也可以与各种众所周知的方法竞争。 该存储库提供了G

yolov5+diou-nms，骨干网络添加eca注意力，代码以及各种改进模型的实验数据，包含一个一万五千张的数据集，适合硕士论文以及毕业论文

基于注意力机制的新闻话题分类的源码

通过加入空间注意力机制进行单幅图像的去雨，去雾操作

用于目标检测的注意力导向上下文特征金字塔网络 该存储库在的基础上重新实现 。 请按照上的说明安装和使用此存储库。 此仓库发布了不带AM模块的，但与纸上pytorch的实现相比，我们可以获得更高的性能。 同样，由于有检测器的强大功能，此回购协议在训练和推理中速度更快。 CEM的实现非常简单，少于200行代码，但是它可以将FPN（resnet50）中的AP性能提高近3％ 。 交流FPN AC-FPN可以轻松插入现有的基于FPN的模型中并提高性能。 物体检测的可视化。 两种型号均基于基于COCO minival的ResNet-50。 使用（w）和不使用（w / o）我们的基于ResNet-50的模块在Mask CO-minival上进行Mask R-CNN的结果。 更多细节。 标杆管理 由于建议的体系结构，我们在大多数基于FPN的方法（尤其是大型对象）上均具有更好的性能。

在线学习每年都在Swift增长。 但是，有一些因素与传统的课堂学习方法不同。 在在线学习中，教师（主持人）无法一次监视每个学生（参与者），这在课堂学习中是可能的。 因此，难以识别学习者的注意力。 本文提出了一种深度学习方法，用于在边缘计算中使用卷积神经网络检测学习者的注意力水平。 另外，跟踪浏览器的活动以进一步识别学习者的注意力水平。 神经网络将学生的注意力分类为四个不同类别之一，即高度专心，专心，不太专心和至少专心。 此关注级别是在边缘设备上计算的，并且仅最终输出发送到服务器。 结果，消耗了少量的带宽并且尊重了用户的隐私。 使用“电子环境中的情感状态数据集”（DAiSEE）对CNN模型进行了训练。 在实验过程中，有效的系统精度达到了84.1％。