TensorRTx
TensorRTx旨在通过tensorrt网络定义API实现流行的深度学习网络。 众所周知,tensorrt内置了解析器,包括caffeparser,uffparser,onnxparser等。但是,当使用这些解析器时,我们经常会遇到一些“不受支持的操作或层”问题,尤其是某些正在使用的最新模型新类型的图层。
那么,为什么不跳过所有解析器呢? 我们只使用TensorRT网络定义API来构建整个网络,这并不复杂。
我写这个项目是为了熟悉tensorrt API,并与社区分享和学习。
所有模型首先在pytorch / mxnet / tensorflown中实现,然后导出权重文件xxx.wts,然后使用tensorrt加载权重,定义网络并进行推断。 在我的可以找到一些pytorch实现,其余的则来自多源开源实现。
消息
26 Apr 2021 。 添加Inceptio
1