一、 先安装驱动，如果驱动安装不成功，会影响桌面，再重装系统还来得及，尝试了很多方法，还是用系统安装最靠谱：

首先进入Ubuntu搜索栏目，找到软件更新器的一个图标，点开之后是这样的。

选择第一个，点击应用更改，剩下的操作只需要等待应用更改完成，关闭该窗口，重启Ubuntu即可。若重启之后nvidia-smi是正常的，那么恭喜你就已经大功告成了。

二、安装cuda

参考：Ubuntu 安装CUDA_ubuntu安装cuda-CSDN博客

1.先根据安装的驱动选择合适的版本:watch nvidia-smi

可以发现，我这里的NVIDIA显卡驱动版本是 <code>535.183.01，这里可以看到本机最高支持CUDA 12.2，也就是说我这张卡12.2之下的CUDA版本该显卡都可以支持，12.2之上的则不支持。

2. 根据显卡驱动版本，安装对应的CUDA版本

确定了我们的显卡版本号，其实也能看到自己所支持的CUDA版本上限了。这里附上一个NVIDIA Driver Version与CUDA Version的关系图，用来确定CUDA的版本。

(1) 确定 CUDA 版本

我们拿到了我们显卡的驱动版本，去NVIDIA官网CUDA 12.5 Update 1 Release Notes（往下翻）查看该驱动版本所能支持的CUDA版本：

如下表：

通过上表可以发现，由于自己的NVIDIA显卡驱动版本是 470.141.03，所以自己电脑显卡支持的版本CUDA 11.4及之下。由于现在pytorch最高支持到12.1,所以安装12.1的版本。

如果之前安装了cuda要先卸载在安装，可通过nvcc --version查看是否安装；

卸载方式：在/usr/local/cuda/bin 文件夹下运行：sudo ./cuda-uninstaller,用回车选中要卸载的选项，然后done,提示Successfully uninstalled完成卸载，然后 sudo rm -r cuda*相关的文件夹

查看是否卸载干净命令： sudo dpkg -l |grep cuda

驱动、cuda、cudnn全部卸载命令（谨慎操作）

<code>sudo apt-get --purge remove cuda ：卸载软件及其配置

sudo apt-get autoremove cuda ：卸载软件及其依赖的安装包

sudo apt-get autoclean ubuntu ：删除残余

(2) 安装 CUDA

下载地址：CUDA Toolkit Archive | NVIDIA Developer

然后根据系统的版本选择，一定要选runfile(local)

按照它给出来的指令依次执行：

<code>wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda_12.1.0_530.30.02_linux.run

sudo sh cuda_12.1.0_530.30.02_linux.run

然后会弹出选择界面，请用手指点击你键盘的↑ ↓按键。

我们选择Continue ，然后输入accept：

按回车取消 Driver 的安装，也就是<code>[ ]里面没有X（因为一般已经装好驱动了），然后回车选择 Install：

选择 <code>Install后,终端就会跳出选择界面，回到正常终端模式，并且没有任何提示。

这是正常现象，等待安装完成即可。安装完成后，会出现如下类似界面：

接着我们需要添加CUDA的环境变量，以便于可以任何地方都能启动它（不知道Linux的环境变量知识点可自行搜索），输入以下命令：

<code>sudo gedit ~/.bashrc

在其中添加并保存：

export PATH=/usr/local/cuda-12.1/bin:$PATH

export LD_LIBRARY_PATH=$LD_LIBRAY_PATH:/usr/local/cuda-12.1/lib64

export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-12.1

接着：

source ~/.bashrc

至此我们安装cuda成功，可以通过以下命令查看cuda信息：

查看CUDA版本信息：nvcc --version

没有问题的话，一般会输出以下信息,就成功了。

  三、安装cudnn:

1、下载对应的cudnn版本

nvidia官网下载https://developer.nvidia.com/rdp/cudnn-archive

12.x        # 代表支持cuda12的任意版本

11.x        # 代表支持cuda11.0到11.8的任意版本

只需要根据安装的cuda版本选择任意相应的版本即可。 

2、以cudnn v8.9.7 for CUDA 12.x为例进行安装

tar -xvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz

cd cudnn-linux-x86_64-8.9.7.29_cuda12-archive

sudo cp include/* /usr/local/cuda/include/

sudo cp lib/* /usr/local/cuda/lib64/

sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

3 、测试安装是否成功

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

显示如上信息则安装成功