在Pytorch中进行对比学习变得简单
似乎我们可以进行图像的自我监督学习。
这是一种使用Pytorch包装器的简单方法,可以在任何视觉神经网络上进行对比式自我监督学习。 目前,它包含足够的设置供一个人在SimCLR或CURL中使用的任何一种方案上进行训练。
您可以包装接受可视输入的任何神经网络,无论是Resnet,策略网络还是GAN的鉴别器。 其余的都照顾好了。
问题
事实证明,CURL的结果。 建议您使用SimCLR设置,直到另行通知。
安装
$ pip install contrastive-learner
用法
SimCLR(具有标准化温度标度的交叉熵损失的投影头)
import torch
from contrastive_learner import ContrastiveLearner
from torchvision import models
resnet = m
1