元转移学习,少量学习 该存储库包含针对论文的TensorFlow和PyTorch实现,作者孙倩*,*,( )和( (* =相等贡献)。 如果您对此存储库或相关文章有任何疑问,请随时或。 检查快照分类排行榜。 概括 介绍 入门 数据集 表现 引文 致谢 介绍 已经提出将元学习作为解决具有挑战性的一次性学习设置的框架。 关键思想是利用大量类似的少量任务,以学习如何使基础学习者适应新的任务,对于该新任务,只有少量标记的样本可用。 由于深度神经网络(DNN)仅仅使用少数几个样本就趋于过拟合,因此元学习通常使用浅层神经网络(SNN),因此限制了其有效性。 在本文中,我们提出了一种称为元转移学习(MTL)的新颖的少拍学习方法,该方法可以学习将深度神经网络适应于少拍学习任务。 具体来说,meta是指训练多个任务,并且通过学习每个任务的DNN权重的缩放和移位功能来实现传递。 我们在两个具有挑
1
meta_learning table
2022-06-23 14:05:10 52KB metalearning
1
论文摘要:元学习仅需少量学习就可以获取先前的先前任务和经验,从而可以从少量数据中学习新任务。但是,短镜头学习中的一个关键挑战是任务模糊性:即使可以从大量先前任务中元学习强大的先验知识,但用于新任务的小数据集也可能太含糊而无法获取单个模型(例如,针对该任务的分类器)。在本文中,我们提出了一种概率元学习算法,该算法可以从模型分布中为新任务采样模型。我们的方法扩展了模型不可知的元学习,它通过梯度下降适应新任务,并结合了通过变分下界训练的参数分布。在元测试时,我们的算法通过将噪声注入梯度下降的简单过程进行自适应,在元训练时,对模型进行训练,以使这种随机自适应过程从近似模型后验中生成样本。我们的实验结果表明,我们的方法可以在模糊的几次镜头学习问题中对合理的分类器和回归器进行采样。
2022-06-13 21:51:35 2.89MB 元学习 概率MAML
1
元学习研究 || | | | | | | | | | | | | | [ ] | | | 真棒元学习| 使用Python进行动手元学习|| 评论论文 元学习与通用AI之间的关联的简要调查 联合学习的新兴趋势:从模型融合到联合X学习 多目标元学习 不断变化的机器人动力学和环境中的自适应电动机控制的元强化学习 CATCH:用于可转移架构搜索的基于上下文的元强化学习 MGHRL:分层强化学习的元目标生成 元图:通过元学习进行的少量射击链接预测|英特尔:registered:开发人员专区元图 进化神经体系结构搜索综述 神经网络中的元学习:一项调查 ES-MAML:简单的无粗麻布的元学习 通过子任务依赖项的自主推断进行元强化学习 通过元参数分区学习推荐 零镜头和少镜头面部反欺骗的学习元模型 从观测数据进行元强化学习 端到端低资源语音识别的元学习 具有无偏梯度聚合和可控元更新的联合学习 元学习与可区分的闭合
2022-01-14 21:11:35 7KB
1
BOML-用于元学习的Python双层优化库 BOML是一个模块化的优化库,它将几种ML算法统一为一个通用的双层优化框架。它提供了用于实现流行的双层优化算法的接口,因此您可以快速构建自己的元学习神经网络并测试其性能。 ReadMe.md包含简短介绍,以在少数镜头分类字段中实现基于元初始化和基于元功能的方法。除已提出的算法外,还可以使用较低级别策略和较高级别策略的各种组合。 元学习 当通过学习具有良好泛化能力的初始化来面对传入的新任务时,元学习效果很好。它甚至在提供少量培训数据的情况下也具有良好的性能,从而催生了针对不同应用的各种解决方案,例如少发性学习问题。 我们提出了一个通用的双层优化范例,以统一不同类型的元学习方法,其数学形式可以总结如下: 通用优化例程 在这里,我们在图中说明了一般的优化过程和分层构建的策略,可以在以下示例中快速实现它们。 文献资料 有关基本功能和构建过程的更多详
1
元学习CODEBRIM 我们的CVPR19论文“使用COncrete缺陷桥桥梁图像数据集进行多目标混凝土缺陷分类的元学习卷积神经体系结构”的开源代码: 或 如果您使用内容(例如数据集),请引用该论文: Martin Mundt,Sagnik Majumder,Sreenivas Murali,Panagiotis Panetsos,Visvanathan Ramesh。 具有混凝土缺陷桥图像数据集的多目标混凝土缺陷分类的元学习卷积神经体系结构。 IEEE计算机视觉与模式识别会议(CVPR),2019年 数据集 该数据集位于: : 请注意,该数据集仅被许可用于非商业和教育用途,如上面链接中数据集随附的许可证文件所指定的那样。 这是数据集的示例(本论文的图1): 论文代码 开源代码包括:PyTorch和TensorFlow数据加载器,MetaQNN的PyTorch代码和ENAS
2021-11-22 16:16:57 7MB 系统开源
1
论文摘要:学习学习是使模型能够更有效,更有效地从数据中学习的强大范例。一种流行的元学习方法是训练一个循环模型,以将训练数据集作为输入并输出一个学习模型的参数,或者输出对新测试输入的预测。另外,一种新的元学习方法旨在获取可以通过标准梯度下降有效地微调到新任务的深度表示。在本文中,我们从通用性的角度考虑元学习问题,将学习算法近似的概念形式化,并将上述递归模型的表达能力与将梯度下降嵌入元学习器的最新方法进行比较。特别是,我们试图回答以下问题:深度表示与标准梯度下降相结合是否具有足够的能力来近似任何学习算法?我们发现,这确实是我们的实验,而且是进一步的实验,基于梯度的元学习始终能够导致与递归模型所代表的策略相比,具有更广泛的泛化学习策略。
1
元学习(meta learning) 最新进展综述论文,共28页
2021-10-18 22:10:44 1.06MB 机器学习 元学习 综述
1
作为一种比传统机器学习方法更有效的训练框架,元学习获得了广泛的欢迎。然而,在多模态任务等复杂任务分布中,其泛化能力尚未得到深入研究。近年来,基于多模态的元学习出现了一些研究。本综述从方法论和应用方面提供了基于多模态的元学习景观的全面概述。我们首先对元学习和多模态的定义进行了形式化的界定,并提出了这一新兴领域的研究挑战,如何丰富少样本或零样本情况下的输入,以及如何将模型泛化到新的任务中。然后我们提出了一个新的分类系统,系统地讨论了结合多模态任务的典型元学习算法。我们对相关论文的贡献进行了调研,并对其进行了分类总结。最后,提出了该领域的研究方向。
2021-10-13 21:08:08 3.6MB 元学习
1
本文综述了元学习在图像分类、自然语言处理和机器人技术等领域的应用。与深度学习不同,元学习使用较少的样本数据集,并考虑进一步改进模型泛化以获得更高的预测精度。
2021-09-24 10:27:35 921KB 元学习
1