TensorRT安装教程

一、使用tar安装TensorRT

使用nvcc -V 查看cuda版本，下载对应的TensorRT包
在这里插入图片描述

压缩包解压

tar xvf TensorRT-8.4.3.1.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar

安装与自己的python环境对应的包

cd TensorRT-8.4.3.1/python
pip install tensorrt-8.4.3.1-cp37-none-linux_x86_64.whl

将下面的语句写入~/.bashrc，并source ~/.bashrc

export LD_LIBRARY_PATH=/<path/to/tensorrt>/TensorRT-8.4.3.1/lib:$LD_LIBRARY_PATH

二、确保安装了cudnn

上面的TensorRT对应的cudnn版本是8.4。
在这里插入图片描述

xz -d cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive.tar.xz
tar -xvf cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive.tar

将下面的语句写入~/.bashrc，并source ~/.bashrc

export LD_LIBRARY_PATH=/<path/to/cudnn>/cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive/lib:$LD_LIBRARY_PATH