多任务学习作为多目标优化
该代码存储库包含的源代码:
Multi-Task Learning as Multi-Objective Optimization
Ozan Sener, Vladlen Koltun
Neural Information Processing Systems (NeurIPS) 2018
实验框架基于PyTorch。 但是,所提出的算法(MGDA_UB)在很大程度上是Numpy的,没有其他要求。 因此,将其扩展到其他深度学习框架应该是微不足道的。 PyTorch版本在min_norm_solvers.py实现,仅使用Numpy的通用版本在min_norm_solvers.py文件中min_norm_solvers_numpy.py 。
此回购所包含的内容不只是本文的实现。 它同时采用了Frank-Wolfe和投影梯度下降法。 它还具有智能的初始化和梯度归一化
2022-01-19 20:06:55
32KB
系统开源
1