基本BYOL
一个简单而完整的实现在PyTorch + 。
好东西:
良好的性能(CIFAR100的线性评估精度约为67%)
最少的代码,易于使用和扩展
PyTorch Lightning提供的多GPU / TPU和AMP支持
ImageNet支持(需要测试)
在训练过程中执行线性评估,而无需任何其他前向通过
用Wandb记录
表现
线性评估精度
这是训练1000个纪元后的准确性:
数据集
帐户@ 1
Acc @ 5
CIFAR10
91.1%
99.8%
CIFAR100
67.0%
90.5%
训练和验证曲线
CIFAR10
CIFAR100
环境
conda create --name essential-byol python=3.8
conda activate essential-byol
conda install pytorch=1.7.
2021-12-07 20:07:25
147KB
Python
1