一、安装CUDA

1.确定是否支持所需的 CUDA 版本

1.1 终端使用nvidia-smi 右上角即为最高支持版本

image-20240406113619208

2.下载CUDA

CUDA官方下载地址

2.1 找到对应版本

image-20240406113649698

image-20240406113701491

2.2 下载完整文件
WIndows -> x86_64 -> 10 -> exe(local)
其中 exe(local) 是完整的安装文件,可以离线安装
exe(network) 是在线安装

image-20240406113715481

3.安装 CUDA

3.1 双击 .exe 文件
更改 CUDA 安装时缓存位置(默认为 C盘,不更改也可以,但得与原先安装的 CUDA 的安装缓存位置不同,或者该位置为空)

image-20240406113920494

3.2 选择自定义安装

3.3 勾选驱动程序组件
由于之前已经安装过 CUDA,此时我们只需要选择 CUDA 即可

image-20240406114206693

3.4 选择安装位置
默认安装位置为 C 盘,可以自由选择安装到其他盘,但需要记住安装位置,后期会使用到

image-20240406114859975

4.环境变量
安装 CUDA 时会自动配置环境变量,但如果没有自动配置,则需要手动配置

4.1 首先打开环境变量
右键此电脑 -> 属性 -> 高级系统设置 -> 环境变量

4.2 检查环境变量
可以看到在系统变量中多了 CUDA_PATH_V12_1 和 NVCUDASAMPLES12_1_ROOT两个环境变量。如下图:

image-20240406114506433

系统变量中的 CUDA_PATH 和 NVCUDASAMPLES_ROOT 两个环境变量也发生了改变,从原来的 v11.3 变成了原来的 v12.1。如下图:

在 Path 中多了两个变量

4.3 创建环境变量
如果没有上述的环境变量,可以根据情况自己添加

4.3.1 在系统变量中,选择新建

变量名: CUDA_PATH_V12_1
值: D:\CUDA Documentation\NVIDIA GPU Computing Toolkit\CUDA\v12.1(CUDA Documentation 和 CUDA Development 的路径)
(12没有下一条)

变量名: NVCUDASAMPLES12_1_ROOT
值: D:\CUDA Documentation\NVIDIA Corporation\CUDA Samples\v12.1(Samples 的路径)

4.3.2 在系统变量中

选中 CUDA_PATH ,点击 编辑
将值修改为 D:\CUDA Documentation\NVIDIA GPU Computing Toolkit\CUDA\v12.1(CUDA Documentation 和 CUDA Development 的路径)

选中 NVCUDASAMPLES_ROOT ,点击 编辑
将值修改为 D:\CUDA Documentation\NVIDIA Corporation\CUDA Samples\v12.1(Samples 的路径)

4.3.3 在系统变量的 Path 中,选择新建

依次加入以下路径:

CUDA Documentation 和 CUDA Development 的路径下的 bin 文件夹:
D:\CUDA Documentation\NVIDIA GPU Computing Toolkit\CUDA\v12.1\bin

CUDA Documentation 和 CUDA Development 的路径下的 libnvvp 文件夹:
D:\CUDA Documentation\NVIDIA GPU Computing Toolkit\CUDA\v12.1\libnvvp

image-20240406115643355

4.验证安装

Win + R 打开命令行窗口,输入 nvcc -V,输出 CUDA 版本即为安装成功,如下图:

image-20240406115931285

二、安装cudnn

1.下载cudnn

cudnn官方网址

选择和自己 CUDA 匹配的 cudnn版本下载

image-20240406120201649

2.替换文件

2.1 解压文件
cudnn下载后是一个压缩包,解压后有以下四个文件:

image-20240406121707784

2.2 将文件复制到 D:\CUDA Documentation\NVIDIA GPU Computing Toolkit\CUDA\v12.1(CUDA Documentation 和 CUDA Development 的路径)

image-20240406121856305

3.验证cudnn是否安装成功

复制完后,在当前目录下进入 extras -> demo_suite,可以看到有 bandwidthTest.exedeviceQuery.exe

3.1 输入 bandwidthTest.exe 输出下图:

image-20240406122051482
3.2 输入 deviceQuery.exe,输出下图:
image-20240406122105572

至此, 新版本的 CUDA 与 cudnn 安装成功,可以使用该版本的 CUDA 进行 GPU 加速了

四、切换 CUDA 版本
安装完新版本的 CUDA 后,此时运行的环境为新版本的 CUDA,当我们需要切换为其他版本时,仅需要对环境变量进行修改即可

1.切换版本
1.1 在系统变量的 Path 中,上移所需要切换的版本

将这两行变量置于最上方,并点击确定

1.2 修改 CUDA_PATH 的值

选中 CUDA_PATH ,点击 编辑
将值修改为 D:\CUDA Documentation\NVIDIA GPU Computing Toolkit\CUDA\v11.2(CUDA Documentation 和 CUDA Development 的路径)

1.3 修改 NVCUDASAMPLES_ROOT 的值
选中 NVCUDASAMPLES_ROOT ,点击 编辑
将值修改为 == D:\CUDA Documentation\NVIDIA Corporation\CUDA Samples\11.2(Samples 的路径)==

记得添加完后一路点击确定保存!

2.检查版本是否切换成功
Win + R 输入 cmd 打开命令行窗口,输入 nvcc -V

三、anaconda安装

如何在Linux服务器上安装Anaconda(超详细)_linux安装anconda-CSDN博客

1
2
3
4
5
下载
wget https://repo.anaconda.com/archive/Anaconda3-2024.02-1-Linux-x86_64.sh
安装
chmod +x Anaconda3-2024.02-1-Linux-x86_64.sh
./Anaconda3-2024.02-1-Linux-x86_64.sh

四、安装pytorch

在官网比对安装合适版本

Previous PyTorch Versions | PyTorch