分享课程——TensorRT 加速深度学习模型详解，完整版视频课程下载，含代码+文档+工具。

分享课程——深度学习-TensorRT模型部署实战，2022年4月新课，完整版视频教程下载，附代码、课件。 本课程划分为四部分： 第一部分精简CUDA-驱动API：学习CUDA驱动API的使用，错误处理方法，上下文管理方法，了解驱动API所处位置，CUDA的开发习惯。 第二部分精简CUDA-运行时API：学习CUDA运行时API的使用，力求精简，力求够用，学会编写核函数加速模型预处理（仿射变换），学习yolov5的后处理加速方法，共享内存的使用。 第三部分tensorRT基础：学习tensorRT的模型编译、推理流程，onnx解析器的使用，学习onnx的结构和编辑修改方法，学习int8量化，插件开发流程，简化的插件开发方法，学习动态shape的应用。 第四部分tensorRT高级：以项目驱动，学习大量具体的项目案例（分类器、目标检测、姿态检测、场景分割、道路分割、深度估计、车道线检测、huggingface、insightface、mmdetection、onnxruntime、openvino），学习针对深度学习需要的封装技术、多线程技术、框架设计技术。

实际应用中，需要把生成的engine和推理程序给c#,java或者各种调用，可以把它写为一个对外的接口，供给别人使用。

TensorRT集成支持pytorch onnx插件（DCN，HSwish ...等）。更简单的推理和插件API重新实现CenterNet：ctdet_coco_dla_2x CenterTrack：coco_tracking coco TensorRT集成支持pytorch onnx插件（DCN，HSwish ...等）。推理和插件API重新实现CenterNet：ctdet_coco_dla_2x CenterTrack：coco_tracking coco_tracking.onnx下载nuScenes_3Dtracking.onnx下载DBFace使用TensorRT-Integrate install protobuf == 3.11.4（或> = 3.8.x，但这很麻烦） .sh make run -j32推理代码自动引擎= TRTInfer :: loadEngine（“ models / efficiency-b0.fp32.trtmodel”）; 漂浮

李曦鹏-TensorRT加速深度学习模型在线部署云栖大讲堂-编程语言专场

PaddleDetection模型部署推理环境包----TensorRT-7.0.0.11.Win10.x64.cuda-10.2.cudnn7以及Git-2.37.2.zip

深度学习环境配置

这是使用TensorRT和CUDA的CenterNet的C ++实现。 感谢的正式实施 ！ 依存关系： Ubuntu 16.04 PyTorch 1.2.0（用于与Tenson RT5在Jetson Tx2中的兼容性） CUDA 10.0 [必需] TensorRT-7.0.0.11（用于CUDA10.0）[必需] CUDNN（对于CUDA10.0，可能不使用）[必需] libtorch（cpu版本的Torch c ++ lib，gpu版本可能与环境冲突）[可选] gtest（Google C ++测试框架）[可选] 注意 TensorRT库必须与已安装的CUDA和CUDNN一致 TensorRT 5不支持动态形状 TensorRT 7.0.x不直接支持动态形状的Int8校准 TensorRT 7.1.x支持动态形状的Int8校准 TensorRT的插件： MyUpsam

Unet语义分割训练和TensorRT部署

mmdetection yolox-s TensorRT模型2060/2060s显卡可用