全部文档
当前文档
最近更新时间：2026-07-24 11:19:57
本文主要介绍如何快速常见和使用Linux系统的GPU云服务器，主要包括实例购买、驱动安装等操作。
金山云提供已预装了驱动和CUDA公共镜像，本示例主要针对自定义镜像或未预装驱动的系统进行手动安装配置说明。
本示例的GPU实例操作系统为Ubuntu，其他系统驱动和CUDA的手动安装，可参考对应操作系统的官方文档进行操作。
登录 金山云控制台，在顶部搜索框输入KEC，选择控制台 > 云服务器，进入云服务器控制台页面。
在左侧导航栏，选择实例，点击+新建。
在云服务器KEC自定义购买页面，参考如下示例，配置各项参数。
配置项 | 示例与说明 |
|---|---|
计费方式 | 按量付费，可根据实际情况选择其他方式 |
地域 | 华北1（北京），可根据自身业务所在地选择离自己物理位置近的地域。 |
可用区 | 可用区A |
架构 | GPU |
已选实例 | GN6I.8A1 (GPU推理II型(GN6I), 8核 32GB) |
镜像类型 | 选择公共镜像下的Ubuntu |
镜像 | Ubuntu 22.04 64位 |
系统盘 | 类型：选择云硬盘3.0（SSD） 容量范围：50GB |
网络配置 | 主网卡：选择平台可用的VPC网络。 关联子网：选择相应VPC网络下的子网。 IPv4：选择自动分配。 安全组（防火墙）：选择平台可用的安全组即可。 |
弹性IP | 购买弹性IP，本示例后续操作需从公网下载相应资源。 |
系统配置 | 服务器名称：自定义即可。 登录方式：选择密钥，选择已创建的密钥对。 所属项目：自定义即可。 |
配置完各项参数，点击立即购买 > 提交订单，等待实例创建成功即可。
点击返回控制台，进入实例列表，查看购买成功的云服务器，已自动开机并处于 运行中 状态。
本示例采用SSH密钥登录，以Windows下的PuTTY工具做简要说明，其他登录方式可查看连接实例相关文档。
在云服务器实例列表页，查看GPU云服务器实例的公网IP地址。
本地主机运行PuTTY工具。
在PuTTY Configuration页面，填写以下参数：
Host Name (or IP address)：输入GPU云服务器的公网IP地址。
Port：使用默认端口号22。
Connection type：选择SSH。
单击Open，选择导入对应的SSH私钥文件，完成登录即可。
本示例采用CUDA 12.4.0，如需其他版本，可访问官网查看并替换下载链接中的版本号和文件名。
登录GPU云服务器实例。
执行如下命令，禁用开源的nouveau驱动。
sudo bash -c "echo 'blacklist nouveau' > /etc/modprobe.d/blacklist-nvidia-nouveau.conf"
sudo bash -c "echo 'options nouveau modeset=0' >> /etc/modprobe.d/blacklist-nvidia-nouveau.conf"
sudo update-initramfs -u重启GPU云服务器后，再登录，执行lsmod | grep nouveau，无任何输出，可继续后续操作。
执行如下命令，下载CUDA Runfile。
wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda_12.4.0_550.54.14_linux.run执行如下命令，赋予脚本执行权并运行，根据提示进行安装即可。
chmod +x cuda_12.4.0_550.54.14_linux.run
sudo ./cuda_12.4.0_550.54.14_linux.run执行如下命令，创建软连接。
sudo ln -sf /usr/local/cuda-12.4 /usr/local/cuda执行如下命令，验证驱动已加载。
nvidia-smi执行如下命令，配置CUDA环境变量。
echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
echo 'export CUDA_HOME=/usr/local/cuda' >> ~/.bashrc
source ~/.bashrc执行如下命令，查看CUDA编译器版本。
nvcc --version至此，驱动和CUDA环境均已安装完成。您可以开始在GPU云服务器上部署AI模型、进行深度学习训练等业务场景。
纯净模式