利用ViT模型实现图像分类，本项目具有强大的泛化能力，可以实现任何图像分类任务，只需要修改数据集和类别数目参数。这里采用的是开源的“猫狗大战”数据集，实现猫狗分类。 本项目适用于Transformer初学者，通过该实践项目可以对于ViT模型的原理和结构有清晰地认识，并且可以学会在具体项目中如何运用ViT模型。本项目代码逻辑结构清晰，通俗易懂，适用于任何基础的学习者，是入门深度学习和了解Transformer注意力机制在计算机视觉中运用的绝佳项目。

可直接运行。基于pytorch vision transformer的乳腺癌图像分类 完整代码+数据 可直接运行 毕业设计

“Towards Robust Vision Transformer” 论文的学习笔记 ViT模型存在的问题 RVT模型与RVT*模型设计规则 CAM与Grad-CAM

Vision Transformer系列参考论文,大多数都是热门论文,包含CVPR,NIPS顶会以及顶刊论文,欢迎大家学习

A One-Dimensional Vision Transformer with Multi-scale Convolution Fusion for Bearing Fault Diagnosis

VIT(vision transformer)实现图像分类，是将transformer首次应用于CV(计算机视觉)领域，该资源包含所有源代码，拿走技能运行跑通，包含数据集和训练好的权重，分类精度高达99%以上。

Pytorch实现Vision Transformer模型在CIFAR10数据集上的测试。压缩包，包含了完整的训练、测试输出数据。

vision transformer self-supervised

大事记 自然语言处理 神经网络的序列到序列学习[NIPS 2014] [] [] 端到端存储网络[NIPS 2015] [] [] 注意就是您所需要的[NIPS 2017] [] [] 乙idirectionalËncoderř对产权在T ransformers：BERT [] [] [] 改革者：高效变压器[ICLR2020] [] [] Linformer：具有线性复杂度的自我注意[AAAI2020] [] [] 简历 分类 图像价值16x16字：用于图像识别的变压器[VIT] [ICLR 2021] [] [] DeiT：数据高效的图像变压器[arxiv2021] [] [] 侦测 DETR：使用变压器进行端到端对象检测[ECCV2020] [] [] 可变形DETR：用于端到端对象检测的可变形变压器[ICLR2021] [] [] 分割 SETR：使用变压器从序列到序

视觉变压器-火炬 视觉变压器的Pytorch实现。 提供了预先训练的pytorch权重，这些权重是从原始jax /亚麻权重转换而来的。 这是和的项目。 介绍 Pytorch实施的论文 。 我们提供从预训练的jax /亚麻模型转换而来的预训练的pytorch权重。 我们还提供微调和评估脚本。 获得了与类似的结果。 安装 创建环境： conda create --name vit --file requirements.txt conda activate vit 可用型号 我们提供，这些是从原始jax / flax wieghts转换而来的。 您可以下载它们并将文件放在“ weights / pytorch”下以使用它们。 否则，您可以下载，并将这些帧放在“ weights / jax”下以使用它们。 我们将在线为您转换权重。 数据集 当前支持三个数据集：ImageNet2012，CI