什么是AKG
AKG(自动内核生成器)是针对深度学习网络中的运营商的优化程序。 它具有自动将操作与特定模式融合的功能。 AKG与MindSpore-GraphKernel配合使用,可提高在不同硬件后端运行的网络的性能。
AKG包含三个基本的优化模块:标准化,自动调度和后端优化。
正常化。 为了解决多面体(只能处理静态线性程序)表达能力的局限性,首先需要对计算IR进行归一化。 标准化模块的主要优化包括自动内联,循环融合,公共子表达式消除等。
自动排程。 自动调度模块基于多面技术,主要具有自动矢量化,自动平铺,线程/块映射,依赖关系分析和内存提升。
后端优化。 后端优化模块主要包括TensorCore加速,双缓冲区优化,存储平坦化优化和注入同步优化。
硬件后端支持
目前支持GPU V100/A100 。 列表中有更多后端。
建立
用MindSpore构建
有关详细信息,请参见 。
独
2021-07-22 11:35:41
8.35MB
Python
1