1. 为什么需要彻底卸载CUDA？
在Ubuntu系统上管理CUDA环境时，我们经常会遇到需要完全卸载旧版本CUDA的情况。这通常发生在以下几种场景：
- 你需要升级到新版本的CUDA Toolkit，但官方建议先卸载旧版本
- 当前CUDA安装出现兼容性问题导致程序无法正常运行
- 你需要在同一系统上切换不同版本的CUDA
- 安装过程中出现错误需要重新开始
重要提示：在卸载CUDA之前，请确保你已经备份了所有重要的开发项目和配置文件。虽然卸载过程通常不会影响用户数据，但谨慎总是好的。
2. 卸载前的准备工作
2.1 检查当前CUDA安装情况
在开始卸载之前，我们需要先确认系统上安装的CUDA版本和组件。打开终端并执行以下命令：
bash复制nvcc --version
这个命令会显示当前安装的CUDA编译器版本。如果你想查看更详细的CUDA安装信息，可以运行：
bash复制ls /usr/local | grep cuda
这会列出所有安装在/usr/local目录下的CUDA相关文件夹，通常包括cuda、cuda-xx.x这样的目录（xx.x代表版本号）。
2.2 检查NVIDIA驱动状态
虽然我们要卸载CUDA Toolkit，但通常建议保留NVIDIA显卡驱动（除非你确实需要完全清除所有NVIDIA相关组件）。检查驱动版本：
bash复制nvidia-smi
这个命令会显示GPU信息和安装的驱动版本。记下驱动版本号，以备后续可能需要重新安装。
3. 完全卸载CUDA Toolkit的标准流程
3.1 使用官方卸载方法
NVIDIA提供了官方的卸载脚本，这是最推荐的卸载方式。执行以下步骤：
- 首先定位到CUDA安装目录下的卸载脚本：
bash复制cd /usr/local/cuda-xx.x/bin
（将xx.x替换为你实际的CUDA版本号）
- 运行卸载脚本：
bash复制sudo ./uninstall_cuda_xx.x.pl
- 脚本会引导你完成卸载过程，按照提示操作即可。
3.2 手动清理残留文件
即使使用了官方卸载脚本，系统中仍可能残留一些文件。我们需要手动清理：
- 删除CUDA安装目录：
bash复制sudo rm -rf /usr/local/cuda*
-
清理环境变量设置。编辑你的~/.bashrc或~/.zshrc文件，删除或注释掉所有与CUDA相关的PATH和LD_LIBRARY_PATH设置。
-
检查并删除可能存在的CUDA缓存文件：
bash复制sudo rm -rf ~/.nv/
3.3 清理APT安装的CUDA包（如果适用）
如果你是通过APT安装的CUDA，还需要运行：
bash复制sudo apt-get --purge remove "*cublas*" "*cufft*" "*curand*" "*cusolver*" "*cusparse*" "*npp*" "*nvjpeg*" "cuda*" "nsight*"
sudo apt-get autoremove
sudo apt-get autoclean
4. 特殊情况处理
4.1 处理混合安装的情况
有时候系统上可能同时存在通过.run文件和APT安装的CUDA组件，这时需要结合两种方法进行清理：
- 首先按照3.1节使用官方卸载脚本
- 然后执行3.3节的APT清理命令
- 最后手动检查并删除残留文件
4.2 卸载特定版本的CUDA
如果你安装了多个CUDA版本并只想卸载其中一个，可以：
- 只删除特定版本的目录：
bash复制sudo rm -rf /usr/local/cuda-xx.x
- 更新符号链接（如果存在）：
bash复制sudo rm /usr/local/cuda
sudo ln -s /usr/local/cuda-yy.y /usr/local/cuda
（将yy.y替换为你希望保留的版本号）
5. 卸载后的验证与常见问题
5.1 验证卸载是否彻底
卸载完成后，执行以下检查：
- 检查nvcc命令是否失效：
bash复制which nvcc
应该返回"not found"或空结果。
- 检查CUDA库文件是否已移除：
bash复制ls /usr/lib/x86_64-linux-gnu/ | grep cuda
应该看不到任何cuda相关的库文件。
5.2 常见问题解决方案
问题1：卸载后nvidia-smi仍然工作，这是正常的吗？
是的，这很正常。nvidia-smi是NVIDIA驱动的一部分，不是CUDA Toolkit的组件。除非你特意卸载了驱动，否则它应该继续工作。
问题2：卸载后重新安装CUDA时遇到冲突错误
这通常是因为卸载不彻底导致的。尝试以下步骤：
bash复制sudo dpkg -l | grep cuda
sudo dpkg -l | grep nvidia
然后手动删除列出的任何残留包。
问题3：系统提示某些CUDA组件正在使用中无法卸载
首先确保关闭所有可能使用CUDA的程序（包括后台进程），然后尝试在恢复模式或单用户模式下执行卸载操作。
6. 完全清除NVIDIA驱动（可选）
如果你需要彻底清除所有NVIDIA相关组件（包括驱动），可以执行：
bash复制sudo apt-get purge "*nvidia*"
sudo apt-get autoremove
sudo apt-get autoclean
sudo reboot
但请注意，这将导致你的GPU无法使用硬件加速，直到你重新安装驱动。
7. 重新安装CUDA的准备
在成功卸载旧版CUDA后，如果你计划安装新版本，建议：
- 首先确认系统兼容性
- 下载正确版本的CUDA Toolkit
- 考虑使用conda或docker管理CUDA环境（特别是需要多版本共存时）
我在实际工作中发现，使用环境管理工具（如conda）可以大大简化CUDA版本管理的问题，避免频繁的系统级安装卸载操作。