C#开发Android应用实战 使用Mono for Android和.NET C#（美）麦克卢尔 清华大学出版社出版

MetaFormer是颜水成大佬的一篇Transformer的论文，该篇论文的贡献主要有两点：第一、将Transformer抽象为一个通用架构的MetaFormer，并通过经验证明MetaFormer架构在Transformer/ mlp类模型取得了极大的成功。 第二、通过仅采用简单的非参数算子pooling作为MetaFormer的极弱token混合器，构建了一个名为PoolFormer。 文章链接：https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/128494941

pytorch 实战，使用生成对抗网络生成动漫图像。 使用的技术：分割数据集（torch.utils.data.random_split）,early_stopping 当满足一定的条件时提前结束训练。训练，测试代码完善，非常容易上手。

NST蒸馏是对模型里面的的Block最后一层Feature做蒸馏，所以需要最后一层block的值。所以我们对模型要做修改来适应NST算法，并且为了使Teacher和Student的网络层之间的参数一致，我们这次选用CoatNet作为Teacher模型，选择ResNet18作为Student。 https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/127975441?spm=1001.2014.3001.5501

知识蒸馏IRG算法实战：使用ResNet50蒸馏ResNet18 的源代码。详细看文章：https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/127912648?spm=1001.2014.3001.5501

RKD实现对模型的蒸馏。与上一篇（https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/127787791?spm=1001.2014.3001.5501）蒸馏的方法有所不同，RKD是对展平层的特征做蒸馏，蒸馏的loss分为二阶的距离损失Distance-wise Loss和三阶的角度损失Angle-wise Loss。 链接：https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/127874090

所谓“VGG式”指的是： 1. 没有任何分支结构。即通常所说的plain或feed-forward架构。 2. 仅使用3x3卷积。 3. 仅使用ReLU作为激活函数。 详见： https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/126516646

Swin Transformer v2解决了大型视觉模型训练和应用中的三个主要问题，包括训练不稳定性、预训练和微调之间的分辨率差距以及对标记数据的渴望。 链接：https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/127168900

MaxViT，是今年谷歌提出分层Transformer的模型，MaxViT 在各种设置下都达到了最先进的性能：ImageNet-1K分类任务，MaxViT 达到了 86.5% top-1 准确率 https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/127180668

使用 tensorflow 实现迁移学习，对应该文章，其中包含了完整的源代码。可供学习。