TensorFlow Model Optimization Toolkit是一套用于优化ML模型的工具,用于部署和执行。在许多用途中,该工具包支持的技术有如下使用:
- 降低云和边缘设备(如移动、物联网)的延迟和t推理成本。
- 将模型部署到对处理、内存、功耗、网络使用和模型存储空间有限制的边缘设备。
- 支持对现有的硬件或加速器运行和优化。
参考博文:https://blog.csdn.net/weixin_38346042/article/details/125232613?spm=1001.2014.3001.5501