注意力机制（英語：attention）是人工神经网络中一种模仿认知注意力的技术。这种机制可以增强神经网络输入数据中某些部分的权重，同时减弱其他部分的权重，以此将网络的关注点聚焦于数据中最重要的一小部分。数据中哪些部分比其他部分更重要取决于上下文。可以通过梯度下降法对注意力机制进行训练。 类似于注意力机制的架构最早于1990年代提出，当时提出的名称包括乘法模块（multiplicative module）、sigma pi单元、超网络（hypernetwork）等。注意力机制的灵活性来自于它的“软权重”特性，即这种权重是可以在运行时改变的，而非像通常的权重一样必须在运行时保持固定。注意力机制的用途包括神经图灵机中的记忆功能、可微分神经计算机中的推理任务[2]、Transformer模型中的语言处理、Perceiver（感知器）模型中的多模态数据处理（声音、图像、视频和文本）。人类的注意力机制（Attention Mechanism）是从直觉中得到，它是人类利用有限的注意力资源从大量信息中快速筛选出高价值信息的手段。深度学习中的注意力机制借鉴了人类的注意力思维方式，被广泛的应用在自然语言

语义分割【道路裂缝数据集】，适用于语义分割道路裂缝分割，纯手工标注。原图共120张图片，标注后的json文件共120个。博主也用此数据集训练过，精度能够在80以上，精度算是挺不错的，资源免费开放下载，希望能帮到大家。

论文仅供参考学习使用。 通过融合浅层网络高分辨率的细节特征来改进 PSPNet-50 网络模型，减小随着网络的加深导致空间信息的丢失对分割边缘细节的影响。然后通过交互分割算法获取一至两幅图像的分割先验，将少量分割先验融合到新的模型中，通过网络的再学习来解决前景/背景的分割歧义以及多图像的分割一致性。最后通过构建全连接条件随机场模型，将深度卷积神经网络的识别能力和全连接条件随机场优化的定位精度耦合在一起，更好地处理边界定位问题。

Pytorch框架全流程开发医学影像课程，2023年1月新课 本课程以实践为目的，把深度学习概念及基础学习贯穿在几个实践项目中，带领你们进入PyTorch深度学习的世界，使用PyTorch将其一一实现。

先安装环境 ----> 使用data_classify.py文件进行训练集与测试集分割 ----> 在进行训练即可 数据准备：当前数据存放 data_name 文件夹内 文件夹名就是类别名，n个类别就是n个文件夹 目录主要结构组成： model_AlexNet.py ----> 自己建的AlexNet模型（可选其他模型） model_Vgg16.py ----> pytorch自带更改的模型（可选其他模型） train.py ----> 用于训练模型 test.py ----> 用于测试模型 辅助文件： data_classify.py ----> 将 data_name内的类别分为训练集与测试集。 ​ 注意查看代码内容，包含argparse模块 清除单通道图像 -----> 数据清洗，处理异常图像 旧版数据加载 -----> 用于学习图像 数据加载

面部防喷雾剂 使用CASIA-SURF CeFA数据集， 和脸反欺骗任务解决方案。 模型 M，参数 计算复杂度，MFLOP 红绿蓝 深度 红外 损失函数 最佳LR 最低ACER（CASIA-SURF值） 快照 羽毛网 0.35 79.99 :check_mark: :cross_mark: :cross_mark: 交叉熵 3e-6 0.0242 羽毛网 0.35 79.99 :check_mark: :check_mark: :cross_mark: 交叉熵 3e-6 0.0174 羽毛网 0.35 79.99 :check_mark: :check_mark: :check_mark: 交叉熵 1e-7 0.0397 下载 羽毛网 0.35 79.99 :check_mark: :cross_mark: :cross_mark: 失焦 3e-6 0.0066 下载 MobileLiteNet 0.57 270.91 :check_mark: :cross_mark: :cross_m

异常检测作为智能视频监控的研究难点和关键技术，其关键问题就是如何获得更好的特征表示，而深度学习相较于传统方法的优势在于可以自动地从海量数据中学习出有用的特征数据，为异常检测问题提供了一个很好的解决方法。

数据中中包含了大量对图像分割没有意义的数据，因此这里对原始数据集进行有效数据的提取。并且将有效数据集再次进行训练集 + 测试集的划分 注：log 训练文件较大，为了方便上传，这里删去不重要的train结果

这本书讨论这些更直观的问题一种解决方案。这种解决方案是为了让计算机从经验中学习，并通过层次化概念体系来理解世界，其中每个概念通过与较简单概念之间的联系来定义

本科毕业设计——基于深度学习的口罩佩戴检测及人脸识别系统源代码 Run pip install -r requirements.txtin terminal; Run main.py in your IDE or python interpreter;