TensorRT是NVIDIA开发的一款高性能深度学习推理引擎，旨在优化神经网络模型并加速其在NVIDIAGPU上的推理性能。它支持多种深度学习框架，并提供一系列优化技术，以实现更高的吞吐量和更低的延迟...

浏览 97 次 标签： 使用TensorRT进行加速推理（示例＋代码）