上传者: 43909715
|
上传时间: 2021-11-24 16:12:15
|
文件大小: 743KB
|
文件类型: RAR
深度大能耗模型难有前途?字节&UCSB李磊等发布 《绿色深度学习》61页pdf阐述碳中和时代下深度学习发展之路
深度学习这十年发展催生了人工智能浪潮的第三次复兴。但深度学习需要强大的计算力,尤其是随着BERT等预训练大模型的开启,能耗成为深度学习的一个重要问题。现在尤其是在碳中和碳达峰时期,算法的能耗性是个总要的考量。来自字节跳动研究人员发布了《绿色深度学习》综述论文,概述了(1)紧凑的网络,(2)高效的训练策略,(3)高效的推理方法,(4)高效的数据使用。值得关注