本文来自于www.qcloud.com，主要针对深度学习的计算构架进行讨论，在嵌入式VS云端不同场景下，ai处理器又是怎么工作的。作为通用处理器，CPU(CentralProcessingUnit)是计算机中不可或缺的计算核心，结合指令集，完成日常工作中多种多样的计算和处理任务。然而近年来，CPU在计算平台领域一统天下的步伐走的并不顺利，可归因于两个方面，即自身约束和需求转移。一方面，当半导体的工艺制程走到7nm后，已逼近物理极限，摩尔定律逐渐失效，导致CPU不再能像以前一样享受工艺提升带来的红利：通过更高的工艺，在相同面积下，增加更多的计算资源来提升性能，并保持功耗不变。为了追求更高的性能，

本文来自于www.qcloud.com，主要以当前学术界在AI处理器构架方面的讨论为主，其次对一些流式处理及数据复用，片上存储及其优化等方面接受本篇文章。在一文所述的AI加速平台的第一阶段中，无论在FPGA还是ASIC设计，无论针对CNN还是LSTM与MLP，无论应用在嵌入式终端还是云端（TPU1），其构架的核心都是解决带宽问题。不解决带宽问题，空有计算能力，利用率却提不上来。就像一个8核CPU，若其中一个内核就将内存带宽100%占用，导致其他7个核读不到计算所需的数据，将始终处于闲置状态。对此，学术界涌现了大量文献从不同角度对带宽问题进行讨论，可归纳为以下几种：A、流式处理与数据复用B、片上