对比学习方法
支持更多内容的对比学习方法的第三方pytorch实现(请参阅“可用内容”部分)。
有什么可用的?
使用SimCLR进行对比学习预训练
通过停止梯度进行在线线性评估
Pytorch闪电登录和默认收益(多GPU训练,混合精度等)
在GPU装置上收集负片以模拟更大的批次大小(尽管梯度不会在GPU上流动)
使用加快数据加载速度(以使用更多GPU内存为代价)
SimCLR多分辨率农作物
SimCLR +
预训练后线性评估(通常得出1-1.5%的准确度点)
工作于:
结果
模型
方法
数据集
时代
批
温度
多作
大理
监督下
在线线性评估
预训练后线性评估
Resnet18
SimCLR
Imagenet-100
100
256
0.2
70.74
71.02
Resnet18
SimCLR
Imagenet-100
100
256
0.2
:check_mark_button:
1