Tengine 用户使用手册
Tengine是一款轻量级模块化高性能的神经网络推理引擎,专门针对Arm嵌入式设备优化,支持Arm Cortex CPU、Arm Mali GPU、Arm DLA以及第三方DSP。开发者可以使用Tengine在主流框架模型和嵌入式操作系统间切换,还能异构调度平台里的各类硬件,充分利用硬件算力。
此外,Tengine还提供了常见AI应用算法,包括图像检测,人脸识别,语音识别等。Tengine同时还支持各类常见卷积神经网络,包括SqueezeNet,MobileNet,AlexNet,ResNet等,支持层融合、8位量化等优化策略,并且通过调用针对不同CPU微构架优化的HCL库,将Arm CPU的性能充分挖掘出来。
1