上传者: 42121412
|
上传时间: 2021-12-17 13:38:21
|
文件大小: 85.15MB
|
文件类型: -
SimCLR-in-TensorFlow-2
(至少)在TensorFlow 2中实现SimCLR(Chen等人)。使用tf.keras和TensorFlow的核心API的许多功能。 提供报告。
致谢
我没有从头开始编写所有代码。 这份特殊的研究论文读起来超级棒,而且常常很自然地被理解,这就是为什么我想亲自尝试一下并提出一个最小的实现的原因。 我将以下作品用于不同目的-
数据扩充政策来自此处: : 。
损失函数来自这里: : 。
从此处引用的TSNE可视化效果: : 。
除了本文之外,以下是我为了理解SimCLR而研究的文章:
(此人在解释损失函数“ NT-XEnt损失”方面做得非常出色)
多亏了ML-GDE程序提供了我可以运行实验的GCP积分,并根据需要将中间结果存储在GCS存储桶中。 所有的笔记本都可以在Colab上运行。
数据集
ImageNet的子集: