对yolov5s进行稀疏化训练并剪枝，模型参数下降80%，mAP精度几乎不受影响

运行顺序：第一步 原始训练，得到一个最优mAP等评价指标，记录在小本本上。 第二步：通过调整BN稀疏值（main 参数中的sr），运行train_sparity.py稀疏训练得到一个稍微小一点点的模型（和原始的精度比较，看看哪个稀疏值最好~） 第三步：将上一步的训练好的last.pt 放到prune.py 中进行剪枝，控制剪枝率；剪枝好的模型，在根目录下：pruned_model.pt 是fp32的，你除以2会得到最后的模型大小 第四步：Finetune，用刚刚的pruned模型重新训练，得到最优模型，就是最小且最快，且最好的啦~（和原始和稀疏训练的比较一下哦） 博文链接：https://blog.csdn.net/qq_46098574/article/details/125174256

TensorFlow Model Optimization Toolkit是一套用于优化ML模型的工具，用于部署和执行。在许多用途中，该工具包支持的技术有如下使用: - 降低云和边缘设备(如移动、物联网)的延迟和t推理成本。 - 将模型部署到对处理、内存、功耗、网络使用和模型存储空间有限制的边缘设备。 - 支持对现有的硬件或加速器运行和优化。 参考博文：https://blog.csdn.net/weixin_38346042/article/details/125232613?spm=1001.2014.3001.5501

为解决在嵌入式设备上实时、高精度检测司机安全驾驶监督的问题，本文基于目标检测中经典的深度学习神经网络YOLOv3-tiny，运用通道剪枝技术成功在目标检测任务中实现了模型压缩，在精度不变的情况下减少了改进后神经网络的计算总量和参数总数.并基于NVIDIA的推理框架TensorRT进行了模型层级融合和半精度加速，部署加速后的模型.实验结果表明，加速模型的推理速度约为原模型的2倍，参数体积缩小一半，精度无损失，实现了高精度下实时检测的目的.

在cifar数据集上做图像分类的训练，并以此演示怎样进行模型剪枝，pytorch版本必须大于1.4.0

2020CVPROral: HRank: Filter Pruning using High-Rank Feature Map

用 YOLOv3 模型在一个开源的人手检测数据集 oxford hand 上做人手检测，并在此基础上做模型剪枝。对于该数据集，对 YOLOv3 进行 channel pruning 之后，模型的参数量、模型大小减少 80% ，FLOPs 降低 70%，前向推断的速度可以达到原来的 200%，同时可以保持 mAP 基本不变。

2017-2020CVPR、ECCV Oral剪枝方向论文8篇，包括Hrank、AutoCompress、ThiNet、DMCP、MetaPruning等等，非常适合需要了解模型剪枝，模型压缩的新手

通过nni进行自动化模型剪枝，适用于VGG、ResNet等

模型剪枝领域，2015-2020论文合集，根据github上awesome-pruning 下载整理的，包括基本所有的论文和综述，已分类整理重命名（如CVPR2020-论文名）十分全，强烈建议下载阅读~