课程分享——TensorRT 加速深度学习模型详解,附代码、文档、工具,完整版视频教程下载。
本课程讲解了英伟达TensoRT在加速深度学习模型中的应用,在本课程中,不仅授之以“渔”,而且授之以鱼,在讲解使用方法的基础上,最终完成一个统一的推理引擎和一个统一模型转换工具,可以把tf, caffe和onnx模型通过配置文件转换为TensorRT模型,并使用推理引擎进行加速。同时在Int8量化中给大家讲解了如和进行Int8量化,并赠送了我自己开发的一个手工读取和修改量化表的工具。在课程中给大家讲解了性能优化和如何避免各种坑。使得开发后的工具可以直接在工程部署中应用。
课程目录:
第1章:课程简介和TensorRT简介
第2章:推理引擎的开发
第3章:小试牛刀-python转换TRT并测试推理引擎
第4章:统一转换工具的开发
第5章:推理引擎的优化
第6章:关于Int8量化
第7章:关于windows版本的移植说明
1