全部文档
当前文档

暂无内容

如果没有找到您期望的内容,请尝试其他搜索词

文档中心

安装CUDA指南

最近更新时间:2024-08-13 15:09:48

如果您想要在GPU云服务器上进行GPU加速计算任务(例如科学计算或大规模并行计算等),则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库,可以帮助您进行GPU加速的程序开发,以充分发挥NVIDIA GPU的计算潜力,提高计算性能和加速运行效率。本文为您介绍如何手动安装CUDA。

Linux操作系统安装指南

前提条件

确保GPU实例的驱动版本与待安装的CUDA版本相匹配。更多信息,请参见CUDA Compatibility (nvidia.com)

背景信息

本文以CUDA 12.4.1版本为例,CentOS7.6操作系统为您介绍在GPU实例上安装CUDA的具体操作。

操作步骤

一、获取CUDA安装包

1.进入CUDA Toolkit Archive页面。

2.选择驱动对应的CUDA版本——CUDA Toolkit 12.4.1为例。

3.获取CUDA安装包下载地址。

a.选择需要的操作系统、架构或版本等参数项。

b.获取CUDA安装包下载地址。

二、安装CUDA包

1.使用wget命令,并粘贴步骤一获取的下载地址,然后执行命令下载CUDA安装包。

wget https://developer.download.nvidia.com/compute/cuda/12.4.1/local_installers/cuda_12.4.1_550.54.15_linux.run

2.依次执行以下命令,安装CUDA软件包。

对于GPU计算型实例,您可以单独手动安装Tesla驱动,也可以在安装CUDA时同步安装CUDA内自带的驱动。

a.交互式安装方式

sudo chmod +x cuda_12.4.1_550.54.15_linux.run

sudo ./cuda_12.4.1_550.54.15_linux.run


根据提示输入accept后,请依据实际情况选择是否安装CUDA包中自带的驱动:

  • 如果您的实例为GPU计算型实例,并且该实例已安装了驱动,请按照下图操作(使用Enter键)取消Driver选项,然后选择Install继续安装。

    重要:如果未取消Driver选项,则会安装CUDA包中自带的驱动来覆盖实例已安装的驱动。

  • 如果您的实例为GPU计算型实例,并且您需要使用CUDA包中自带的驱动,则需要先确认CUDA包内的驱动与该实例的GPU型号是否兼容。确认CUDA包内的驱动与GPU型号兼容时,请保持默认选项(即已选中Driver选项)并选择Install继续安装。

b.静默安装方式

sudo chmod +x cuda_12.4.1_550.54.15_linux.run

sudo ./cuda_12.4.1_550.54.15_linux.run --toolkit --samples --silent

重要:采用静默安装方式,不会自动安装CUDA包自带的驱动,您需要手动单独安装GPU实例所需的驱动。

  • 执行以下命令,重启GPU实例。

    reboot

  • 依次执行以下命令,配置CUDA环境变量。

    echo 'export PATH=/usr/local/cuda/bin:$PATH' | sudo tee /etc/profile.d/cuda.sh

    source /etc/profile

三、检查CUDA是否成功安装

1. 执行nvcc -V命令,检查CUDA安装版本是否正确。

2.依次执行以下命令,测试CUDA Samples,验证CUDA是否安装成功。

cd /usr/local/cuda-12.4/extras/demo_suite

./deviceQuery

3.如果输出结果显示Result=PASS,则表示CUDA安装成功。

Windows操作系统安装指南

  1. 登录GPU实例,进行CUDA驱动下载

  2. 选择与自己的操作系统相匹配的安装包。以Windows Server 2016为例,可按如下方式进行选择:

  3. 运行下载好的程序,选择自定义安装

  4. 若提前手动安装了GPU驱动,安装cuda时可以不再安装GPU驱动。若没有安装过GPU驱动,则需要安装GPU驱动

    建议直接安装cuda驱动的同时安装GPU驱动,防止手动安装的GPU驱动和Cuda不匹配

  5. 选择安装路径

  6. 配置系统环境变量

    一般cuda安装完成会自动加入到系统环境变量中

    如果提示nvcc或nvidia命令找不到,则手动配置nvidia-smi和nvcc的环境变量

  7. 打开Windows控制台命令窗口,输入nvcc -V,若出现以下结果,证明CUDA安装成功

文档导读
纯净模式常规模式

纯净模式

点击可全屏预览文档内容
文档反馈