全部文档
当前文档
最近更新时间：2026-10-08 10:01:31
本文介绍 GPU 实例驱动与 CUDA 的安装方法，包括预装镜像选择、CUDA 版本匹配建议，以及 Linux 与 Windows 环境下的手动安装步骤。
在 GPU 实例中安装驱动是启用 GPU 计算能力的关键步骤。金山云为 GPU 云服务器提供了预装 CUDA 驱动和开发工具包的标准镜像，可以显著简化部署流程。
安装方法 | 说明 |
|---|---|
预装 CUDA 版本的公共镜像 | 创建 GPU 实例时，选择预装了 CUDA 的公共镜像（推荐 CUDA 12.x 及以上版本） |
手动安装 CUDA 和驱动 | 创建 GPU 实例后，手动安装驱动 |
选择合适的 CUDA 版本和安装方式，主要取决于您的 GPU 机型和应用程序框架的需求：
新购机型（如 GN7I、GN8I、P6V 等）：建议选择 CUDA 12.x 版本。较新的 GPU 架构对 CUDA 12 有更好的优化和支持，同时主流 AI 框架的最新版本也多基于 CUDA 12 进行编译。
旧版机型或特定环境：如果您使用的是较早的 GPU 型号（如 P4V），或者需要运行特定的旧版软件，可能需要选择 CUDA 11.x 或更早版本。此时可以选择标准镜像（不含 CUDA）自行安装指定版本，以确保兼容性。
如果您需要 vGPU 功能（将一块 GPU 分割成多个虚拟 GPU），则必须安装 GRID 驱动，并配合对应的 License 使用（如 vDWS、vPC、vCS）。
金山云为GPU云服务器提供了预装CUDA驱动和开发工具包的标准镜像，可以显著简化部署流程。根据镜像列表，目前支持以下预装CUDA的镜像：
机型 | 公共镜像 | CUDA版本 | 驱动版本 | cuDNN版本 |
|---|---|---|---|---|
GPU推理Ⅱ型GN6I GPU通用计算型P4V GPU高效计算型P6V GPU通用计算型GN7I GPU通用计算型GN8I | CentOS-7.9 CUDA12.4 Ubuntu-22.04 CUDA12.4 | 12.4.131 | 550.127.08 | 9.2.0 |
GPU推理Ⅱ型GN6I | CentOS-7.6 CUDA10.2 Ubuntu-18.04 CUDA10.2 | 10.2.89 | 440.33.01 | 7.6.5 |
GPU推理Ⅱ型GN6I | CentOS-7.3 CUDA8.0 CentOS-7.2 CUDA8.0 Ubuntu-16.04 CUDA8.0 | 8.0.61 | -- | -- |
GPU推理Ⅱ型GN6I | Centos-7.3 CUDA9.1 Centos-7.2 CUDA9.1 Ubuntu-16.04 CUDA9.1 | 9.1.85 | -- | -- |
登录云服务器KEC控制台，在左侧导航栏，选择实例。
在实例列表页，点击新建，进入实例购买页面。
在镜像配置区域，选择已预装CUDA和驱动的镜像。
根据实际情况选择其他参数配置，完成GPU实例创建即可。
根据操作系统的不同，安装方式有所区别。
机型 | 显卡 |
|---|---|
GPU 高效计算型 P6V | A800 |
GPU 通用计算型 P4V | Tesla V100 |
GPU 通用计算型 GN7I | A10 |
GPU 通用计算型 GN8I | RTX 4090 |
GPU 推理 II 型 GN6I | Tesla T4 |
已创建成功的云服务器实例需提前绑定弹性IP，且可正常访问公网。
CUDA 13.x及以上版本的runfile (local) 类型的安装包中已不再内置相应驱动，若需安装相应版本的驱动和CUDA，可参考其官方文档下载安装相应驱动后，再进行CUDA的安装。
如果您需要安装特定版本的 CUDA，可以前往官网下载。
访问 CUDA 下载页面，选择对应的操作系统架构，查看并复制相应安装命令。推荐下载 runfile (local) 类型的安装包。
执行如下面命令，禁用开源nouveau驱动。
sudo bash -c "echo 'blacklist nouveau' > /etc/modprobe.d/blacklist-nvidia-nouveau.conf"
sudo bash -c "echo 'options nouveau modeset=0' >> /etc/modprobe.d/blacklist-nvidia-nouveau.conf"
sudo update-initramfs -u执行如下命令，下载CUDA安装包，本示例为 Ubuntu22.04 系统下的cuda_12.3.2_545.23.08_linux.run。
此命令为步骤1中在相应官网提前查看的安装命令。
wget https://developer.download.nvidia.com/compute/cuda/12.3.2/local_installers/cuda_12.3.2_545.23.08_linux.run执行如下命令，根据页面提示进行安装。
accpsudo sh cuda_12.3.2_545.23.08_linux.run # cuda的版本号需根据实际情况进行修改配置环境变量：安装完成后，建议将 CUDA 路径添加到 ~/.bashrc 中：
echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc验证安装，如果能看到 GPU 信息输出，则表示安装成功。
查看驱动版本
nvidia-smi查看CUDA版本
nvcc --versionWindows 实例通常通过图形界面进行安装，较为直观。
通过浏览器，访问驱动程序下载页面，根据您选择的机型的 GPU 型号（如 Tesla T4、A10 等，直接在搜索框中搜索关键字）和 Windows Server 版本选择驱动下载。
双击下载的 .exe 文件，按照向导提示完成安装。
打开命令提示符（cmd），输入 nvidia-smi，查看驱动信息是否正常显示。
如果您的 GPU 计算型实例需要 OpenGL 图形支持（如渲染、图形工作站），需要安装 GRID 驱动。
驱动与CUDA版本匹配：并非所有驱动都支持所有CUDA版本。建议在安装CUDA Toolkit时，利用其自带的驱动，或者参考官方发布的CUDA Compatibility文档进行匹配。
直通模式与vGPU：如果是直通模式的GPU云主机，安装GRID驱动时必须使用vDWS License进行激活。
重启实例：部分驱动安装完成后可能需要重启实例才能生效，建议在生产环境操作前规划好维护窗口。
纯净模式