论文摘要：学习学习是使模型能够更有效，更有效地从数据中学习的强大范例。一种流行的元学习方法是训练一个循环模型，以将训练数据集作为输入并输出一个学习模型的参数，或者输出对新测试输入的预测。另外，一种新的元学习方法旨在获取可以通过标准梯度下降有效地微调到新任务的深度表示。在本文中，我们从通用性的角度考虑元学习问题，将学习算法近似的概念形式化，并将上述递归模型的表达能力与将梯度下降嵌入元学习器的最新方法进行比较。特别是，我们试图回答以下问题：深度表示与标准梯度下降相结合是否具有足够的能力来近似任何学习算法？我们发现，这确实是我们的实验，而且是进一步的实验，基于梯度的元学习始终能够导致与递归模型所代表的策略相比，具有更广泛的泛化学习策略。

ChineseLatexTemplate：中文的Latex模板，适合课程论文，笔记，报告什么的

Gated DualPathRNN译文.docx

1. Abstract 问题的提出在于计数类问题在很多模型上表现性能不佳，作者分析出现这类问题是源于软注意力机制 （Soft-Attention），进而提出了一个计数模块 2. Problems with Soft Attention 在 VQA 领域中，造成计数类问题表现不佳的原因主要有：(1) Soft-Attention 的广泛运用，(2) 区别于标准的计数问题，对于 VQA 来说，没有明确的标签标定需要计数对象的位置，(3) VQA 系统的复杂性，表现在不仅要处理计数类问题，同时还要兼顾其他复杂的问题，(4) 真实场景中，对某个对象区域可能存在多次重叠采样。 截至目前，即使是 Hard

Deep Residual Learning for Image Recognition 深度残差网络论文笔记 蓝：生疏词汇 红：疑惑 黄：重点 绿：次重点 使用Edge浏览器可编辑

2020-2021对偶学习论文笔记

文章目录1 摘要2 亮点2.1 解码器结构2.1.1 反池化层2.1.2 反卷积层2.1.3 反池化和反卷积结合2.2 网络整体结构3 部分效果3.1 FCN和DeconvNet的对比3.2 各个网络效果对比4 结论5 参考文献 1 摘要 针对单纯的FCN网络存在忽略小物体、分解大物体的问题，当时通常地做法是使用CRF做后处理进行对分割结果进行调整。而本文提出了DeconvNet，该网络可以拆解成反卷积层和反池化层，可以很好地解决上面FCN出现的问题并完成语义分割任务。作者最后发现DeconvNet和FCN能够非常兼容地进行合并，因此作者最后将FCN和DeconvNet结合能产生更好地效果。

该PPT为阅读Neural Relation Extraction with Selective Attention over Instances论文后所做的笔记，总结了论文中的主要技术，并大致梳理了论文思路

在很少或没有监督的情况下学习有用的表示是人工智能的一个关键挑战。我们深入回顾了表示学习的最新进展，重点关注基于自编码器的模型。为了组织这些结果，我们使用了被认为对下游任务有用的元先验，比如特征的解缠和分层组织。特别地，我们揭示了三种主要机制来执行这些特性，即(i)正则化(近似或聚集)后验分布，(ii)分解编码和解码分布，或(iii)引入结构化的先验分布。虽然有一些有希望的结果，隐性或显性监督仍然是一个关键的促成因素，所有当前的方法使用强烈的归纳偏差和建模假设。最后，我们通过率失真理论分析了基于自编码器的表示学习，并明确了关于下游任务的现有知识量和表示对该任务的有用程度之间的权衡。

读的一些关于multi-label 和 partial label learning，以及partial multi-label等的笔记