OmniNet：用于多模式多任务学习的统一架构 OmniNet是用于多模式多任务学习的Transformer体系结构的统一和扩展版本。 单个OmniNet体系结构可以对几乎任何现实领域（文本，图像，视频）的多个输入进行编码，并能够跨多种任务进行异步多任务学习。 OmniNet体系结构包含多个称为神经外围设备的子网，用于将特定于域的输入编码为时空表示形式，并连接到称为中央神经处理器（CNP）的通用中央神经网络。 CNP实现了基于变压器的通用时空编码器和多任务解码器。 该存储库包含用于的官方Pytorch实施（Pramanik等）。 本文演示了OmniNet的一个实例，该实例经过联合训练以执行

处理不平衡数据分类时，传统支持向量机技术（SVM）对少数类样本识别率较低。鉴于SVM+技术能利用样本间隐藏信息的启发，提出了多任务学习的不平衡SVM+算法（MTL-IC-SVM+）。MTL-IC-SVM+基于SVM+将不平衡数据的分类表示为一个多任务的学习问题，并从纠正分类面的偏移出发，分别赋予多数类和少数类样本不同的错分惩罚因子，且设置少数类样本到分类面的距离大于多数类样本到分类面的距离。UCI数据集上的实验结果表明，MTL-IC-SVM+在不平衡数据分类问题上具有较高的分类精度。

有关代码的信息和说明 要运行代码，需要Python 3.6和PyTorch 0.2 培训代码位于文件mtl_learning.py而测试代码位于文件mtl_testing.py mtl_learning.py的代码mtl_learning.py是自我记录的 为了进行训练，数据集应该在pickles/目录中以pickle文件的形式出现。 嵌入文件应位于data/目录中。 如果重新加载模型并继续训练，则应将模型放置在reloads/目录中。 当所有必要的文件和数据都存在时，只需运行python mtl_learning.py进行培训，然后运行python mtl_testing.py进行测试。 培训的输出将显示在名为test_output.txt的文件中，而测试的outputs.txt将显示在test_output.txt 学分 该项目的灵感来自Pasunuru等人（2017）的工作

在此背景之下,本文首先介绍了相关任务的概念,并按照功能的不同对相关任务的类型进行划分后再对它们的特点进行逐一描述。然后,本文按照数据处理模式和任务关系建模过程的不同将当前的主流算法划分为两大类:结构化多任务学习算法和深度多任务学习算法。

Multitask-Learning 多任务学习相关资料，主要包括代表性学者主页、论文、综述、幻灯片、论文集和开源代码。欢迎分享~ This repository collects Multitask-Learning related materials, mainly including the homepage of representative scholars, papers, surveys, slides, proceedings, and open-source projects. Welcome to share these materials! Something New!!! Homepage ML^2 @ UCF Elisa Ricci Gjorgji Strezoski Machine Learning with Interdependent and Non-ide

多任务学习作为多目标优化 该代码存储库包含的源代码： Multi-Task Learning as Multi-Objective Optimization Ozan Sener, Vladlen Koltun Neural Information Processing Systems (NeurIPS) 2018 实验框架基于PyTorch。 但是，所提出的算法（MGDA_UB）在很大程度上是Numpy的，没有其他要求。 因此，将其扩展到其他深度学习框架应该是微不足道的。 PyTorch版本在min_norm_solvers.py实现，仅使用Numpy的通用版本在min_norm_solvers.py文件中min_norm_solvers_numpy.py 。 此回购所包含的内容不只是本文的实现。 它同时采用了Frank-Wolfe和投影梯度下降法。 它还具有智能的初始化和梯度归一化

论文题目：Adversarial Multi-task Learning for Text Classification 作者：Pengfei Liu, Xipeng Qiu and Xuanjing Huang 出处：ACL 2017 论文主要相关：多任务学习、文本分类、情感分析 概要：常规的多任务学习通常单纯的共享某些参数，导致共用特征空间和私有特征空间中存在大量冗余的特征。作者提出了一种对抗性多任务学习框架，缓解了共享特征空间和特定任务特征空间（私有潜在特征空间）之间的相互干扰的问题，并采用对抗学习确保共用特征空间中仅存在共用特征和任务无关的特征，辅以正交约束来去除私有和共用特征空间中冗余的特征。在16个任务的情感分析测试中，该框架比单任务学习平均效果提升了4.1%，比其他多任务学习框架（FS-MTL、 SP-MTL等）效果更好。并且实验结果表明模型的共享特征学习到的知识，容易被迁移到新任务的情感分析中。

本文来自于juejin.im，文章带我们了解到了深度学习中多任务学习的基本原理。带你对这个有个新的认识。当你在思考新事物的时候，他们通常会利用他们以前的经验和获得的知识来加速现在的学习过程。当我们学习一门新语言的时候，尤其是相关的语言时，我们通常会使用我们一级学过的语言知识来加快这一门新语言的学习过程。这个过程也可以用另一种方式来理解——学习一种新的语言可以帮助你更好的理解和说出自己的想法。我们的大脑会同时学习多种不同的任务，无论我们是想将英文翻译成中文，还是想将中文翻译成德语，我们都是使用相同的大脑架构，也就是我们自己的脑袋。同理在我们的机器学习模型中，如果我们采用的是同一个网络来同时完成这

今天给大家带来，深度学习，行人重识别re-id，多任务学习.pptx，面对于相关知识讲解的十分清楚明白，相关方向的同学不要错过，一起来学习吧！

用卷积滤波器matlab代码细胞追踪 使用具有多任务学习功能的深度神经网络进行细胞跟踪 版权所有（C）陶和，华茂和张艺。 版权所有。 该代码基于王乃炎，感谢他分享了他的代码。 CNN源代码来自matlab工具箱。 抽象的 细胞跟踪在生物医学和计算机视觉领域起着至关重要的作用。 由于细胞通常在显微镜图像中具有频繁的变形活动和较小的尺寸，因此在实践中跟踪非刚性和非重要细胞非常困难。 传统的视觉跟踪方法在跟踪刚性和重要视觉对象方面具有良好的性能，但是，它们不适合用于单元跟踪问题。 在本文中，提出了一种使用卷积神经网络（CNN）以及多任务学习（MTL）技术的新型细胞跟踪方法。 CNN可学习可靠的信元功能，而MTL可提高跟踪的泛化性能。 提出的细胞跟踪方法包括粒子过滤器运动模型，多任务学习观察模型和优化的模型更新策略。 在训练过程中，使用MTL技术将细胞跟踪分为在线跟踪任务和伴随的分类任务。 观察模型是通过构建CNN来学习鲁棒的细胞特征而进行训练的。 通过在显微镜图像序列的第一帧中分配细胞位置来启动跟踪过程。 然后，将粒子过滤器模型应用于在后续帧中生成一组候选边界框。 训练后的观察模型提供对应于