1. 为什么选择WSL2+Ollama这套方案?
去年我在本地尝试运行大语言模型时,发现传统虚拟机方案存在明显的性能瓶颈。当时在VMware里跑Ubuntu虚拟机,即使分配了8GB内存,模型加载速度仍然慢得令人抓狂。直到尝试了WSL2方案,才真正体会到什么叫"原生级性能"。
WSL2的本质是在Windows内核中直接内置了一个完整的Linux内核,通过轻量级虚拟化技术实现近乎裸机的性能。实测显示,同样的Ollama模型在WSL2下的推理速度比传统虚拟机快3-5倍。更关键的是,它支持GPU直通(需要NVIDIA CUDA驱动),这对LLM推理简直是质的飞跃。
Ollama作为本地大模型运行框架,最大的优势是开箱即用的模型管理。通过简单的ollama pull命令就能获取Llama2、Mistral等主流模型,省去了手动配置Python环境、下载权重文件的繁琐步骤。配合Open WebUI提供的类ChatGPT界面,整套方案从安装到使用只需不到1小时。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与基础配置
2.1 启用WSL2并安装Ubuntu
首先以管理员身份打开PowerShell,检查系统版本要求:
- Windows 10 2004及以上
- 或Windows 11任何版本
执行以下命令启用必要组件:
powershell复制dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
wsl --set-default-version 2
重启后,从Microsoft Store安装Ubuntu 22.04 LTS。首次启动时会提示创建UNIX用户,建议使用全小写字母的用户名以避免后续Docker兼容性问题。
常见问题:如果遇到"虚拟化未启用"错误,需要进入BIOS开启Intel VT-x或AMD-V选项。部分品牌机(如某些联想型号)可能在BIOS中隐藏该设置,需要先禁用"OS Optimized Defaults"。
