34 lines (23 loc) · 975 Bytes

TensorRT最佳实践

示例

TensorRT API
- 最简示例
- 访问TensorRTx了解更多
解析ONNX
- 固定尺度
- 动态维度: 待更新

整体流程

1.构建引擎

2.推理

三方库

Torch直接转为TRT，但支持算子少，不通用。

参考