PaddleDetection模型部署推理环境包----TensorRT-7.0.0.11.Win10.x64.cuda-10.2.cudnn7以及Git-2.37.2.zip
2022-08-30 12:05:29
450.99MB
1
这是使用TensorRT和CUDA的CenterNet的C ++实现。 感谢的正式实施 ！
依存关系：
Ubuntu 16.04
PyTorch 1.2.0（用于与Tenson RT5在Jetson Tx2中的兼容性）
CUDA 10.0 [必需]
TensorRT-7.0.0.11（用于CUDA10.0）[必需]
CUDNN（对于CUDA10.0，可能不使用）[必需]
libtorch（cpu版本的Torch c ++ lib，gpu版本可能与环境冲突）[可选]
gtest（Google C ++测试框架）[可选]
注意
TensorRT库必须与已安装的CUDA和CUDNN一致
TensorRT 5不支持动态形状
TensorRT 7.0.x不直接支持动态形状的Int8校准
TensorRT 7.1.x支持动态形状的Int8校准
TensorRT的插件：
MyUpsam
2022-08-15 21:01:24
6.87MB
1
mmdetection yolox-s TensorRT模型2060/2060s显卡可用
2022-08-12 19:06:59
90.34MB
1
Yolact/Yolov5的C++实现，包括ONNX(CPU/CUDA), TensorRT版本。
2022-08-12 19:06:57
80KB
1
preprocess.cu和preprocess.h文件
TensorRT部署YoloV5使用
2022-08-07 21:05:47
1KB
1
深度学习-TensorRT模型部署实战，2022年4月新课，完整版视频教程下载，附代码、课件。
本课程划分为四部分：
第一部分精简CUDA-驱动API：学习CUDA驱动API的使用，错误处理方法，上下文管理方法，了解驱动API所处位置，CUDA的开发习惯。
第二部分精简CUDA-运行时API：学习CUDA运行时API的使用，力求精简，力求够用，学会编写核函数加速模型预处理（仿射变换），学习yolov5的后处理加速方法，共享内存的使用。
第三部分tensorRT基础：学习tensorRT的模型编译、推理流程，onnx解析器的使用，学习onnx的结构和编辑修改方法，学习int8量化，插件开发流程，简化的插件开发方法，学习动态shape的应用。
第四部分tensorRT高级：以项目驱动，学习大量具体的项目案例（分类器、目标检测、姿态检测、场景分割、道路分割、深度估计、车道线检测、huggingface、insightface、mmdetection、onnxruntime、openvino），学习针对深度学习需要的封装技术、多线程技术、框架设计技术。
2022-07-20 11:05:40
926B
1