Yolact/Yolov5的C++实现，包括ONNX(CPU/CUDA), TensorRT版本。

已经经过路径的修改了。给大家参考

preprocess.cu和preprocess.h文件 TensorRT部署YoloV5使用

深度学习-TensorRT模型部署实战，2022年4月新课，完整版视频教程下载，附代码、课件。 本课程划分为四部分： 第一部分精简CUDA-驱动API：学习CUDA驱动API的使用，错误处理方法，上下文管理方法，了解驱动API所处位置，CUDA的开发习惯。 第二部分精简CUDA-运行时API：学习CUDA运行时API的使用，力求精简，力求够用，学会编写核函数加速模型预处理（仿射变换），学习yolov5的后处理加速方法，共享内存的使用。 第三部分tensorRT基础：学习tensorRT的模型编译、推理流程，onnx解析器的使用，学习onnx的结构和编辑修改方法，学习int8量化，插件开发流程，简化的插件开发方法，学习动态shape的应用。 第四部分tensorRT高级：以项目驱动，学习大量具体的项目案例（分类器、目标检测、姿态检测、场景分割、道路分割、深度估计、车道线检测、huggingface、insightface、mmdetection、onnxruntime、openvino），学习针对深度学习需要的封装技术、多线程技术、框架设计技术。

tensorrt加速yolov5

yolov5、rcnn、alexnet、densenet，只要你的网络调用相机延迟严重，都可以使用tensorrt抓换模型，进行加速推理，在FPS很高的情况下也能实时处理获取的帧。

tensorrt c++ 推理示例项目，支持分类网络，比如alexnet，mobileone,skipnet等轻量级网络。 环境：win10 vs2017环境，cuda11.0，亲测成功。 tensorrt库版本： TensorRT-8.2.1.8.Windows10.x86_64.cuda-11.4.cudnn8.2 转换流程：pytorch转onnx，onnx转tensorrt引擎 python生成tensorrt引擎步骤，可以查看我的博客： https://blog.csdn.net/jacke121/article/details/125382721

TensorRT-7.2.2.3.Windows10.x86_64.cuda-11.1.cudnn8.0

TensorRT-8.0.1.6.Windows10.x86_64.cuda-10.2.cudnn8.2.zip使用需要的环境： win10 x64 tensorrt==8.0.1.6 cuda==10.2 cudnn==8.2

TensorRT-8.0.1.6.Windows10.x86_64.cuda-11.3.cudnn8.2.zip使用需要的环境： win10 x64 tensorrt==8.0.1.6 cuda==11.3 cudnn==8.2