实战部署服务器NVIDIA driver+CUDA-toolkit

1,更新系统

sudo apt updata

sudo apt upgrade -y

2,安装NVIDIA驱动

检查推荐ubuntu-drivers devices

自动安装推荐版本sudo ubuntu-drivers autoinstall

重启sudo reboot

检查验证nvidia-smi

3,安装CUDA-toolkit

sudo install -y nvidia-cuda-toolkit

检查nvcc -v

验证失败就加个环境变量,再验证

echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc

echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc

source ~/.bashrc

注意:这里安装的cuda版本有可能是过时的,解决方法是装NVIDIA源密钥

#1 下载英伟达源密钥

wget

https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb

#2 安装密钥包

sudo dpkg -i cuda-keyring_1.1-1_all.deb

#3 更新软件列表

sudo apt update

#4 安装最新CUDA‑12.8(指定版本)

sudo apt install -y cuda-toolkit-12-8