Windows安装CUDA Toolkit

摘要:在windows环境下安装cuda的方式及注意事项。

需要确保C盘空间足够,预留10G。

Cuda在安装图形驱动时就已经安装了,欠缺的是cuda toolkit和cuDNN。二者都可以从英伟达官网下载,其中cuDNN需要登录账号。

使用nvidia-smi可以看到目前的显卡驱动和cuda版本:最大支持12.7,安装12.6就行。

image-20241210135914778

安装 cuda toolkit ,注意选择驱动支持的版本(https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html)。默认会同时安装图形驱动,取消勾选。还有visual studio integerate如果没有安装vs的话也可以取消勾选。

安装cuDNN其实就是解压后把对应的目录拷贝到cuda的安装目录:

D:\Software\cudnn-windows-x86_64-8.9.7.29_cuda12-archive\bin\* -> C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\bin

D:\Software\cudnn-windows-x86_64-8.9.7.29_cuda12-archive\lib\* -> C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\lib\x64

D:\Software\cudnn-windows-x86_64-8.9.7.29_cuda12-archive\include\* -> C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.6\include

安装pytorch( https://pytorch.org/get-started/locally/ ),需要注意的是截至20241210,稳定版2.5.1只支持到12.4,image-20241210140442968只能下载测试版才支持12.6image-20241210140505262

复制命令到cmd里安装就行(管理员权限运行)

使用这段代码测试是否成功:

import torch

if torch.cuda.is_available():
	print(f"CUDA is available. GPU:{torch.cuda.get_device_name(0)}")
else:
	print("CUDA is not available.")

参考链接

https://www.cnblogs.com/UnderTurrets/p/18379274