深度学习工具箱模型量化库可对您的深度学习模型进行量化和压缩。 它提供了仪器服务,使您能够在校准步骤中收集有关权重,激活和中间计算的层级数据。 使用仪器数据,库/附加组件可对模型进行量化,并提供度量标准以验证量化网络的准确性。
库/附加组件使迭代工作流能够优化量化方法,以满足所需的精度。 它提供了启发式选择正确的量化策略。 您可以验证量化网络,然后将精度与单个精度基准进行比较。
库/附加组件提供了一个“量化”应用程序,可让您分析和可视化仪器数据,以了解对选定图层的权重和偏差进行量化的准确性方面的权衡。 该库/附加组件支持针对支持的层的FPGA和NVIDIA GPU的INT8量化。
请在此处参考文档: https : //www.mathworks.com/help/deeplearning/ref/deepnetworkquantizer-app.html
该硬件支持包适用于R20
2021-09-16 14:50:38
6KB
matlab
1