1. 项目概述
最近在本地部署大模型的需求越来越普遍,而Ollama作为一款轻量级的模型管理工具,确实让这个过程变得简单不少。但说实话,我在第一次尝试在Ubuntu上安装Ollama时,也遇到了不少坑——下载速度慢得像蜗牛、服务莫名其妙崩溃、权限问题层出不穷。经过多次实践和调试,我总结出了这套完整的解决方案,特别适合国内网络环境下的Ubuntu用户。
Ollama最大的优势在于它简化了模型部署流程,你只需要一个命令就能拉取和运行Llama3、Qwen2.5、Phi3等主流模型。不过,想要真正"一键部署"还是需要做些前期准备的。本文将带你从系统环境检查开始,一步步完成安装,并解决那些让人头疼的常见问题。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 前置环境检查
2.1 系统版本确认
首先,我们需要确认Ubuntu的版本。虽然Ollama支持多个Linux发行版,但在Ubuntu LTS版本上兼容性最好。执行以下命令:
bash复制lsb_release -a
正常情况下你会看到类似这样的输出:
code复制Distributor ID: Ubuntu
Description: Ubuntu 22.04.4 LTS
Release: 22.04
Codename: jammy
注意:如果你使用的是非LTS版本,虽然也能安装,但可能会遇到一些依赖问题。建议在生产环境使用LTS版本。
2.2 系统架构检查
Ollama提供了不同架构的安装包,确保下载正确的版本很重要:
bash复制uname -m
常见的输出有两种:
- x86_64:标准64位系统
- aarch64:ARM架构(如树莓派或某些云服务器)
2.3 依赖检查
安装前需要确保系统有以下基础依赖:
bash复制sudo apt update
sudo apt install -y curl wget git
对于GPU加速支持(可选),还需要安装NVIDIA驱动和CUDA工具包。可以使用以下命令检查NVIDIA驱动是否已安装:
bash复制nvidia-smi
如果没有输出,说明需要先安装驱动。对于Ubuntu,最简单的安装方式是使用官方仓库:
bash复制sudo apt install -y nvidia-driver-535
3. Ollama安装步骤
3.1 官方安装方法
官方提供了一键安装脚本:
bash复制curl -fsSL https://ollama.com/install.sh | sh
但在国内环境下,这个命令经常会因为网络问题失败。如果遇到这种情况,可以尝试以下替代方案。
3.2 国内镜像安装
对于国内用户,我推荐使用手动下载+安装的方式:
- 首先访问Ollama的GitHub Release页面,找到最新版本的.deb安装包
- 使用国内镜像源下载(如清华源):
bash复制wget https://mirrors.tuna.tsinghua.edu.cn/ollama/deb/ollama_0.1.25_amd64.deb
- 安装下载的deb包:
bash复制sudo dpkg -i ollama_0.1.25_amd64.deb
- 修复可能的依赖问题:
bash复制sudo apt install -f
