YOLOv8使用TensorRT加速！首先是YOLOv8模型训练和导出：使用YOLOv8的训练代码和数据集进行模型训练。导出YOLOv8模型的权重文件和配置文件，以便后续在C++中加载和使用。安装TensorRT和相关依赖：下载并安装NVIDIA TensorRT，TensorRT是一个深度学习推理加速库。安装CUDA和CUDNN，确保与TensorRT版本兼容。安装OpenCV，用于图像处理和预处理。将YOLOv8模型转换为TensorRT格式：使用TensorRT提供的工具和API将YOLOv8模型从常规框架（如PyTorch或）转换为TensorRT格式。这涉及模型的序列化和优化，以便在TensorRT中进行高效的推理。 本栏目使用C++编写应用程序代码来加载TensorRT格式的YOLOv8模型并进行推理。使用TensorRT的C++ API，创建推理引擎并配置相关参数。进行图像预处理，如调整尺寸、归一化等操作。将预处后的图像输入到TensorRT引擎中进行目标检测推理。 解析和处理推理结果，包括目标框的提取、类别预测和置信度计算等。构建和编译： 使用适当的构建工具进行配置。

cuda11.0-11.8通用版，安装看B站https://www.bilibili.com/video/BV1Um4y1w7g

由于C++语言的运行优势，多数算法模型在实际应用时需要部署到C++环境下运行，以提高算法速度和稳定性 本文主要讲述WIn10下在VS工程中通过Opencv部署yolov5模型，步骤包括： 1.python环境下通过export.py导出.onnx模型 2.C++环境下通过tensorrt进行模型导入和调用，过程中实现int8量化加速 适合刚开始部署模型的小白或者研究者，内附教程

yolov7-pose TensorRT推理配 window平台以及ubuntu平台都可 详细的配置过程请参考主页的博客

TensorRT 7.0.0.11 for Ubuntu 18.04 and CUDA 10.2 tar package

tensorRT部署resnet网络 包括onnx文件生成， 及推理引擎生成， 利用推理引擎推理 环境配置 使用TensorRT来加速部署图片分类项目，此文档中包含全部 软件及依赖库 在Win10系统上完成，需要用到的软件与依赖包有：cuda 10.2 , cudnn 7.6.5 , VS2017 , OpenCV 3.4.0 , Anaconda3 , CMake 3.19.4 , TensorRT 8.0 ，代码附详细解释

封装好的yolov5-6.0+tensorRT+dll,c++调用

c# 调用yolov7 tensorrt c++ dll，推理。 RTX2060推理yolov7， FP32 耗时 28ms ，FP16 耗时 8ms，

tensorrt 未为cudnn64_8.dll 加载符号文件报错，下载该资源。

模拟了2个conv的8bit量化工作