写于 2024/01/26更新于2024/08/31

目录

一、了解CUDA与cuDNN

二、安装CUDA

1. 查看显卡型号与驱动版本（Driver Version）

2. 下载CUDA

3.安装CUDA

4. 验证CUDA是否安装完成

三、安装cuDNN

1.下载cuDNN

2.安装cuDNN

 20240824记：这几年，大模型的兴起，打开了新时代的大门，想要在这个时代快速地成长和生存，利用好AI进行辅助学习显然已经成为一种大趋势，我们应该抓住一切能加速自己成长的机会，国内的文心一言，豆包等，国外的大模型Chatgpt、Claude等，无一不可以辅助自己编程的学习，这里给大家推荐一个我自己在用的集成Chagpt和Claude的网站（国内可用，站点稳定，博主用了两个月了）：传送门。

抓住AI时代每一个机会，加速自己成长，提高自己价值！

本篇文章将详细从如何安装CUDA与cuDNN开始，到基本配置结束，帮助大家理清配置流程。

一、了解CUDA与cuDNN

CUDA（Compute Unified Device Architecture）是NVIDIA开发的并行计算平台和编程模型，用于利用NVIDIA GPU的并行计算能力，它允许开发者使用类似于C语言的编程语言编写并行程序，利用GPU的大规模并行计算能力加速各种类型的应用程序，包括科学计算、深度学习、图形渲染等，并提供了一套丰富的API和工具，使开发者能够方便地利用GPU加速计算，包括核心的CUDA Runtime API、CUDA Driver API以及各种辅助工具和库。 

cuDNN（CUDA Deep Neural Network library）是NVIDIA专门针对深度学习应用开发的GPU加速库。它提供了一系列高效的深度学习算法的实现，包括卷积神经网络（CNN）、循环神经网络（RNN）等常用网络结构的基本操作，如卷积、池化、归一化、激活函数等。cuDNN针对NVIDIA GPU进行了高度优化，利用GPU的并行计算能力加速深度学习模型的训练和推理过程。通过使用cuDNN，开发者可以轻松地将深度学习模型部署到支持CUDA的NVIDIA GPU上，并获得显著的性能提升。

总的来说，CUDA提供了通用的并行计算平台和编程模型，而cuDNN则是针对深度学习应用进行了优化的GPU加速库，二者结合起来可以实现高效的深度学习模型训练和推理。

二、安装CUDA

1. 查看显卡型号与驱动版本（Driver Version）

①打开终端（win+R输入cmd），输入

nvidia-smi

--显卡型号：NVIDIA GeForce RTX 4060

--驱动版本：532.10

大家要了解的是：

1）驱动版本决定了CUDA版本，驱动版本越高，则可安装的CUDA版本越高

2）CUDA向下兼容，我这里是输出的CUDA版本为12.1，并不是意味着我的电脑只能安装12.1版本的CUDA，而是可以安装12.1及以下任何版本的CUDA

如果你想了解更多的驱动与CUDA之间的对应关系，可以查看官网：

CUDA 12.3 Update 2 Release Notes (nvidia.com)

TensorFlow与CUDA

在 Windows 环境中从源代码构建  |  TensorFlow

Pytorch与CUDA

Previous PyTorch Versions | PyTorch

2. 下载CUDA

①Org Download WEB：

CUDA Toolkit Archive | NVIDIA Developer

②选择你将要安装的版本，我这里选择了11.6.0

在下述界面完成后，点击Download（2.4GB），等待下载完成

这里推荐IDM下载工具，下载速度很快

3.安装CUDA

①双击安装程序

②直接点击【OK】即可，不必修改路径（如果你的C盘没有空间了，记得修改路径）

该窗口为暂时解压缩路径，一旦安装程序完成，该临时文件夹会被清理，但是，提取过程会占用文件夹的存储空间，需要足够的空间来存放解压后的文件。

点击【OK】后等待即可

③点击【同意并继续】

④选择【自定义】，点击【下一步】

⑤组件选择问题

1）Other components与Driver components

当前版本即为我的本地版本，新版本即为CUDA安装时将要替代版本

可以看到，我的版本均大于等于新版本，不必再勾选

如果你希望进行更新，那么你可以自行选择

2）CUDA

在这里，你可以看到Visual Studio Integration

如果你的设备上已经安装了VS，那么勾选上

反之，要取消勾选，否则在后续的安装过程会报错

⑥点击下一步，点击浏览修改安装位置，点击【下一步】

在另一个盘中新建目录结构如下（E:\Data_cuda中）：

├─Data

│  └─NVIDIA Corporation

│      └─CUDA Samples

│          └─v11.6

└─Files

    └─NVIDIA GPU Computing Toolkit

        └─CUDA

            └─v11.6

⑦等待安装

⑧点击下一步

⑨安装完成，点击【关闭】

4. 验证CUDA是否安装完成

在新打开的cmd窗口中输入：

nvcc -V

如上图，即表示安装完成！

三、安装cuDNN

1.下载cuDNN

①Org Download WEB：

Log in | NVIDIA Developer

注意：需要提前注册账号才可以登录

②这里选择版本是注意for CUDA xx.x，如果你的CUDA是11版本就选11,12版本就选12

③点开后选择【Local Install for Windows】下载

④解压下载文件

文件结构如下：

2.安装cuDNN

①复制以下三个文件夹

②将文件夹粘贴至如下路径:

path to your cudaFolder/Files/NVIDIA GPU Computing Toolkit/CUDA/v11.6

3.验证cuDNN是否安装成功

①在下述文件夹右键，打开终端

path to your cudaFolder/Files/NVIDIA GPU Computing Toolkit/CUDA/v11.6/extras/demo_suite

②输入：

.\deviceQuery.exe

得到PASS即代表安装成功

输入：

.\bandwidthTest.exe

得到PASS即代表安装成功

转载请标明出处

如果还有问题，欢迎在评论区留言或私信

作者：BQ

主页：https://blog.csdn.net/weixin_52677672?type=blog