SimCLR-视觉表示形式对比学习的简单框架 消息! 我们发布了SimCLR的TF2实现(以及TF2中的转换后的检查点),它们位于。 消息! 新增了用于Colabs,请参见。 SimCLR的插图(来自 )。 SimCLRv2的预训练模型 我们在这里开源了总共65个经过预训练的模型,与论文的表1中的模型相对应: 深度 宽度 SK 参数(M) 金融时报(1%) FT(10%) FT(100%) 线性评估 监督下 50 1倍 错误的 24 57.9 68.4 76.3 71.7 76.6 50 1倍 真的 35 64.5 72.1 78.7 74.6 78.5 50 2倍 错误的 94 66.3 73.9 79.1 75.6 77.8 50 2倍 真的 140 70.6 77.0 81.3 77.7 79.3 101 1
1
graph上的多视图表示对比学习
2022-12-21 16:28:37 832KB Graph
1
机器学习方法已经广泛应用于药物发现领域,使得更强大和高效的模型成为可能。在深度模型出现之前,建模分子在很大程度上是由专家知识驱动的;为了表现分子结构的复杂性,这些手工设计的规则被证明是不够的。深度学习模型是强大的,因为它们可以学习问题的重要统计特征——但只有正确的归纳偏差。我们在两个分子问题的背景下解决这个重要的问题:表征和生成。深度学习的典型成功在于它能够将输入域映射到有意义的表示空间。这对于分子问题尤其尖锐,分子之间的“正确”关系微妙而复杂。本论文的第一部分将重点讨论分子表征,特别是性质和反应预测。在这里,我们探索了一种用于分子表示的Transformer式架构,提供了将这些模型应用于图形结构对象的新工具。抛开传统的图神经网络范式,我们展示了分子表示原型网络的有效性,它允许我们对分子的学习性质原型进行推理。最后,我们在改进反应预测的背景下研究分子表示。本论文的第二部分将集中在分子生成,这是至关重要的药物发现作为一种手段,提出有前途的药物候选人。我们开发了一种新的多性质分子生成方法,通过首先学习分子片段的分布词汇。然后,利用这个词汇,我们调查了化学空间的有效探索方法。
2022-06-29 09:13:31 3.84MB GNN
1
深度股票表示学习-从烛台图到投资决策 滑梯 参考 厉害的家伙: :
2022-05-10 14:09:40 2MB Python
1
Graph Representation Learning
2022-02-21 09:19:01 2.67MB graph machine learning
1
网络表示学习 重新实现了四种网络表示学习算法 ,根据腾讯微博数据集评估,AUC:0.7548 ,对腾讯微博数据集进行评估,AUC:0.7608 ,在腾讯微博数据集上评估,AUC:0.7553 ,对Cora数据集进行评估,预测准确性:0.805 用法 转到源目录,使用以下命令运行: python3 deepwalk_for_tencent.py [or line_for_tencent.py, node2vec_for_tencent.py, grarep_for_cora.py] 要求 麻木 科学的 网络x Gensim 火炬 scikit学习
2021-11-13 15:54:03 2.95MB network-representation-learning Python
1
什么是新的 2021年1月:自述文件已更新,其中包含有关如何使用我们最新版本的详细说明! 2020年12月:我们正在迁移到更新版本,以获取更通用,更灵活和可扩展的代码。 有关更多信息,请参见下面的介绍! 可以通过签出标签v0.1.0 : git checkout v0.1.0来访问旧版本。 介绍 这是所谓的S3PRL一个开源工具包,其代表对于s elf-小号upervised小号peech P重新训练和R epresentation大号收入。 在该工具包中,可通过易于加载的设置获得各种上游自监督语音模型,并通过易于使用的脚本获得下游评估任务。 以下是此工具包如何为您提供帮助的直观说明: 查看我们支持的上游列表: 查看我们支持的下游列表: 随时在您的研究中使用或修改我们的工具包,任何错误报告或改进建议将不胜感激。 如有任何疑问,请。 如果您发现此工具包对您的研究有所帮助,请考虑引
2021-10-25 20:16:36 8.74MB npc representation-learning tera cpc
1
表示学习
2021-10-18 17:02:24 1.17MB 算法
1
对比对象蒙版提案的无监督语义分割 此回购包含我们论文的Pytorch实现: , , 和 。 :trophy: SOTA用于无监督的语义分割。 有关更多信息,请查看基准的网站。 内容 介绍 在没有监督的情况下,能够学习图像的密集语义表示是计算机视觉中的重要问题。 然而,尽管它具有重要意义,但这个问题仍未得到很好的探索,只有少数例外考虑了在具有狭窄视觉域的小规模数据集上的无监督语义分割。 我们首次尝试解决传统上用于监督案例的数据集(例如PASCAL VOC)上的问题。 为了实现这一点,我们引入了一种新颖的两步框架,该框架在对比优化目标中采用预定的先验知识来学习像素嵌入。 此外,我们讨论了具有包含有关对象或其部分信息的先验的重要性,并讨论了以无监督方式获得此类先验的几种可能性。 特别是,我们在将像素组合在一起之前采用中级视觉效果,并对比所获得的对象蒙版Kong眼。 因此,我们将方法命名为MaskCon
1