使用PyTorch进行培训和修剪 由hou-yz提供,基于kuangliu/pytorch-cifar 提高推理速度并减少中间特征的大小,以支持分布式推理(本地设备计算模型的一半,并上传特征以在更强大的设备或云上进行进一步的计算)。 修剪阶段1:修剪整个模型以提高推理速度并稍微减小中间特征的大小。 修剪阶段2 :(基于步骤1的模型)针对每个分割点(将中间特征转移到另一个设备以进行进一步计算),特别是修剪分割点之前的层以进一步减小中间特征的大小。 仅支持pytorch> 0.3.1的python3; 在cifar-10上训练的模型,仅在vgg-16上进行了测试。 还添加了自动记录和自动绘制图表。 用法 训练: python main. py -- train # train from scratch python main. py -- resume
2021-09-30 00:33:26 56KB pytorch pruning 2-step distributed-inferencing
1