最近好多朋友都在折腾DeepSeek,不管是跑R1推理模型,还是把V3接进自己的工作流,最后几乎都卡在同一个地方:Windows。群里一聊,十个里有八个在Windows上栽过跟头,剩下两个是靠WSL2挣扎着活下来的。其实真不是DeepSeek本身不行,而是Windows这个系统在大模型生态里一直处于一种”能用但没人帮你优化“的尴尬位置。这篇文章我就把自己在Windows上跑DeepSeek踩过的坑,以及最终跑通的组合方案整理出来,聊聊为什么Windows对DeepSeek这类大模型应用的支持总有种“差一口气”的感觉,以及怎么把这口气补上。
先说结论:Windows不是不能跑DeepSeek,而是你必须知道哪些路线是通顺的、哪些路线是死胡同。我自己在Windows上折腾了大概三周,经历了“装环境装到崩溃、跑起来慢到怀疑人生、最后终于找到正确姿势”的完整过程。如果你正准备在Windows上本地部署DeepSeek,或者已经装到一半想放弃,这篇文章应该能帮你少走大量弯路。
1. 为什么Windows跑DeepSeek总有一股“别扭劲”
1.1 官方生态的天平从一开始就没放在Windows这边
很多人第一次意识到这个问题,是在翻DeepSeek开源仓库文档的时候。注意看README里的环境要求,官方推荐的部署方式几乎都是Linux环境,很多推理框架和优化组件对Windows要么不提供预编译包,要么文档里只有一行“Windows users may need to build from source”。这其实不是DeepSeek一家的问题,而是整个大模型开源生态的普遍现状。
原因也不难理解。大模型训练和推理的主要场景在服务器端,也就是Linux的天下,开发者在Linux上写好代码、跑通测试,再顺手把可用的包发到PyPI或者GitHub Release里,已经很良心了。至于Windows,大部分框架的维护者不是不想支持,而是实在没有精力和设备去维护一套Windows特有的编译链和依赖。Vulkan、ROCm这些跨平台方案虽然能跑,但在Windows上凑合用的成分更大,性能和稳定性都很难和Linux原生环境比。
更要命的是,生态里的深层依赖也在往Linux倾斜。NVIDIA的多卡通信库NCCL在Windows上就没有官方版本,很多大模型推理引擎之所以在Linux上能跑出很漂亮的速度,就是因为做了大量针对算子和通信的原生优化,换个系统这些优化直接失效。所以很多在Linux上开箱即用的工具,到了Windows就变成了“要么自己编译、要么等大佬打包、要么干脆放弃”。
1.2 WSL2:能解一半渴,却也带来新的折腾
既然Linux才是主流环境,那Windows用户的第一反应自然是装WSL2。WSL2本质上是一个轻量虚拟机,可以让你在Windows里跑一个真正的Linux内核,配合WSLg甚至能在Windows桌面上直接运行Linux图形程序。DeepSeek的很多开源项目,在WSL2里确实能按Linux的教程一步步装起来,GPU直通也早就能用了,NVIDIA驱动会在WSL2里自动映射CUDA设备。
但我用下来的真实感受是:WSL2解决了一半问题,却制造了另一半问题。
首先是性能损耗。WSL2的IO性能和原生WIndows文件系统相比有明显的下降,如果模型文件放在Windows的分区里,WSL2去读取它们的时候要走跨文件系统的转换层,速度会慢一截甚至几截。模型动不动就是好几GB甚至上百GB,这个IO瓶颈直接影响加载速度和训练时的数据读取。其次是内存占用,WSL2默认会吃掉大量内存来缓存文件,如果你机器是16GB内存,跑671B那种大模型就别想了,连7B模型都可能因为内存不足直接把WSL2整崩。
还有一个非常隐蔽的坑:如果WSL2里装的发行版和Windows驱动版本不匹配,CUDA会间歇性失效,表现就是“昨天还能跑,今天突然报错找不到设备”。我自己就被这个问题折腾了两天,最后发现是Windows更新把NVIDIA驱动覆盖了,WSL2里的CUDA环境直接废掉。
1.3 GPU加速:Windows和Linux的差距不在算力在生态
对比Windows和Linux在跑DeepSeek时的性能,你会发现显卡算力本身并不会因为系统不同而缩水,真正的差距在生态支撑。
NVIDIA确实给Windows提供了完整的CUDA Toolkit,PyTorch也支持Windows安装,但问题出在更外围的依赖上。很多针对推理做极致优化的库,比如FlashAttention的某些分支、专门的量化kernel、以及针对特定显卡架构的算子实现,很多都只在Linux上做了充分测试和优化。Windows上虽然也能跑,但往往用的是兼容模式,速度打折扣不说,还容易碰到根本编译不过去的依赖。
多卡场景更明显。如果你有两张以上显卡想做模型并行或张量并行,Windows上基本等于拿自己开玩笑。NCCL没有Windows版,很多并行方案直接失效,剩下的替代方案要么性能差、要么配置复杂到自己看着都头疼。
还有一点很多人忽视:Windows的图形驱动模型是WDDM,它对GPU资源的分配和管理方式跟Linux上的TCC模式不一样。在跑长时间推理任务时,Windows下偶尔会出现显存无法完全释放、GPU利用率忽高忽低的问题。我在Windows下跑过一次微调任务,一个多小时之后GPU利用率从90%掉到了40%,进程也没报错,就是慢得离谱,这种玄学问题在Linux下几乎没见过。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 从“能跑”到“好用”:Windows上跑DeepSeek的实操路线
2.1 先定目标:你究竟想跑什么
在动手之前,先搞清楚自己在Windows上跑DeepSeek到底想干什么,不同的目标对应的路线和折腾程度完全不一样。
我把Windows用户的常见需求分成四类:
| 目标 | 推荐方案 | 折腾程度 | 例子 |
|---|---|---|---|
| 本地对话、写代码辅助 | LM Studio / Ollama | 低 | 本地聊天、问问题、读文档 |
| 接进自己的脚本/App | 官方API / Ollama API | 极低 | 写Python脚本调用、接入聊天软件 |
| 在笔记本上微调小模型 | 原生Windows + CUDA + PyTorch | 中高 | LoRA微调7B/14B模型 |
| 部署成多人可用的服务 | WSL2 + vLLM/SGLang | 高 | 局域网内提供OpenAI兼容接口 |
注意,如果你是纯对话需求,真没必要去碰源码编译那些硬核东西,用LM Studio或Ollama几分钟就能跑起来,体验和闭源模型的对话App差不多。很多初学者一上来就照着GitHub上的部署教程硬装,结果卡在编译阶段好几个小时,最后还没跑起来,那纯粹是给自己找罪受。
2.2 环境准备:Python + CUDA +编译器的选择逻辑
如果你走的是“自己装框架、跑模型脚本”这条路线,环境准备是第一道关卡。给你一个我自己踩过坑之后总结的配置参考:
- Python版本选3.10或3.11,别用3.13。很多依赖库对最新Python的支持会滞后,我见过不少人在Python 3.13上装PyTorch装了几小时都搞不定,换3.11一次过。
- CUDA Toolkit装12.x系列,别装太老的版本,也别追最新的13.x。PyTorch官方对CUDA 12.x的支持最成熟,能避免很多“算子不存在”的报错。
- 显卡驱动更新到较新版本。Windows下CUDA Toolkit依赖显卡驱动提供底层的运行环境,驱动太老会导致torch.cuda.is_available()返回False,而且报错信息还不直观。
环境变量方面,建议把CUDA的bin目录加到系统PATH里。很多人装完CUDA之后,命令行里执行nvidia-smi能看到显卡,但一跑Python就报“CUDA driver version is insufficient”,多半就是PATH没配好。
还有一步很多人会踩坑:不要直接裸奔装PyTorch,一定要先建虚拟环境。大模型生态的依赖特别容易打架,比如你之前装过TensorFlow,再装PyTorch就很容易出现某个底层库版本冲突。用conda或venv隔离环境,等出了问题重开一个环境也比排查问题快得多。
2.3 首选路径:LM Studio跑量化模型
在Windows上想要最省心地本地跑DeepSeek,我首推LM Studio。
LM Studio是一个图形化桌面应用,专门为Windows和macOS做了适配,底层用的是llama.cpp的运行引擎,对NVIDIA显卡支持得很好。最大的优势是:你不用自己装CUDA、不用配Python环境、不用编译任何源码,从下载到用起来,全程点点鼠标就行。
我实际跑通R1-Distill-Qwen-7B的流程大概是这样的:
- 去LM Studio官网下载Windows安装包,安装过程跟普通软件一样,没什么特殊选项。
- 打开后,在搜索框里输入“deepseek”,会列出Hugging Face上的相关模型。
- 选一个GGUF格式的模型,我建议先选7B或14B的量化版,不要一上来就试32B或者70B。
- 下载完成后,在Chat界面左侧选择模型并加载,右侧就能直接对话了。
这里有个关键参数需要解释一下:GPU Offload层数。LM Studio默认会自动判断你的显存大小来决定把模型的多少层放到GPU上。如果你的显存足够大,比如24GB,那7B模型整个放进去没问题。如果显存只有8GB,就需要让LM Studio自动分配,把一部分层放到内存里跑,这样会慢一些,但至少能跑起来。
实测下来,在Windows上通过LM Studio跑7B量化模型的对话速度,体感和网页版的差距已经不太大了,日常问答、写代码、翻译完全够用。14B模型速度会明显下降,但还在可接受范围内。我自己在16GB内存+8GB显存的笔记本上测试,7B模型加载大概需要30-40秒,生成速度笔复一段话大概每秒十几个token,用来学习和实验完全够了。
2.4 补充方案:Ollama和llama.cpp
除了LM Studio,还有两个在Windows上也很实用的方案:Ollama和llama.cpp。
Ollama在2024年推出了官方Windows原生支持,也就是说不用再靠Docker或者WSL2来跑。安装方式比LM Studio还简单:下载安装包,装完打开命令行,直接执行:
bash复制ollama run deepseek-r1:7b
它会自动帮你去拉模型、量化、加载,然后在终端里开始聊天。Ollama的优势在于有一个很好用的API接口,默认跑在localhost:11434,兼容OpenAI的调用格式。也就是说,你可以用任何支持OpenAI API的工具,把地址改成http://localhost:11434/v1,就能直接接入DeepSeek了。
llama.cpp则是更底层、更通用的选择。如果你需要精细控制推理参数,或者想跑一些Ollama和LM Studio不太方便自定义的任务,可以自己去GitHub的Release页面下载Windows预编译包。llama.cpp的调用方式是命令行,核心命令大概是:
bash复制llama-cli -m deepseek-r1-7b-q4_k_m.gguf -n 512 -ngl 32
其中-ngl 32表示把模型的32层放到GPU上跑,这个参数需要根据你的显存大小调整。如果GPU显存不够,把所有层都放CPU上跑会非常慢,这是新手最容易踩的坑之一。
3. 几个决定成败的细节坑
3.1 文件路径与权限:中文路径、空格与符号链接
在Windows上跑大模型,路径问题是个被低估的坑。
3.2 Python环境别直接裸奔
3.3 显存与内存的博弈
3.4 杀毒软件与实时扫描
4. 让DeepSeek在Windows上跑得更稳的调优技巧
4.1 量化等级是性价比最高的选择
4.2 系统层面的取舍
4.3 通过API接入其他工具
4.4 把重活交给WSL2,Windows当终端
5. 常见问题排查速查表
| 现象 | 可能原因 | 解决方案 |
|---|---|---|
| 模型加载后输出极慢 | GPU未参与推理 | 检查GPU offload层数 |
| 报错CUDA error | 驱动和CUDA版本不匹配 | 重装CUDA Toolkit |
| WSL2重启后模型消失 | 文件放在Windows分区 | 放到Linux文件系统 |
| 终端中文乱码 | 代码页不是UTF-8 | chcp 65001 |
| 内存不足崩溃 | 量化等级太高 | 换小模型或调虚拟内存 |
| 模型加载卡很久 | Defender实时扫描 | 模型目录加白名单 |
| pip装包一直失败 | 网络或版本 | 换镜像源或换Python版本 |
先说结论,再说细节,这趟折腾下来我自己最大的感受就是:技术上都是小事,心态才是最大的门槛。Windows环境下的兼容问题,其实都有对应解法,只是没人给你按顺序排好,你只能一个个踩过去。下面这些看似琐碎的细节,往往就是卡住你一整天的元凶。
3.1 文件路径与权限:中文路径、空格与符号链接
模型文件夹放哪个盘、叫什么名字,看起来无关紧要,但在Windows上这还真能决定你能不能跑起来。
第一,路径不要带中文和空格。很多底层C++库在解析路径时对非ASCII字符支持不完善,模型加载时会报“file not found”或者干脆无响应。我之前把模型放在“D:\深度学习\模型”这个目录下,死活加载失败,最后改成“D:\models”就一切正常。所以别偷懒,用纯英文路径是最稳的。
第二,不要放在系统盘。模型文件动辄几个GB,C盘空间紧张会导致加载失败,而且系统盘的文件访问可能触发UAC权限提示,让自动加载脚本中断。我建议专门留一个数据盘放模型,比如D:\models、E:\models,路径越短越好。
第三,Hugging Face的缓存目录也需要检查。如果你用transformers库直接加载模型,它会默认把模型缓存在用户目录下的.cache\huggingface里。这个路径占空间不说,还很容易被杀毒软件扫描干扰,建议设置环境变量HF_HOME指向自己的大容量目录。设置方法是在系统环境变量里新建:
text复制HF_HOME=D:\ai\cache
第四,磁盘格式建议用NTFS,别用exFAT或FAT32。exFAT不支持硬链接,有些框架在模型转换时会用硬链接来节省空间,不支持会直接报错。
3.2 Python环境别直接裸奔
如果你的方案涉及PyTorch或transformers脚本,环境管理一定不要图省事。
我见过太多人直接在系统Python上pip install,然后过几天发现某个依赖被升级冲突搞崩了。大模型生态的依赖更新非常频繁,不同项目之间要求还不一样,一旦冲突,排查成本比装环境高得多。推荐的做法是每个项目单独建一个虚拟环境。
bash复制python -m venv myenv
myenv\Scripts\activate
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
这里有个Windows特有的细节:虚拟环境激活后,如果终端还是提示找不到torch,记得检查PATH里是否有多个Python版本冲突。Windows的“应用执行别名”默认会指到Microsoft Store的Python,那个版本经常和你自己装的Python搞混。建议把Store版Python的执行别名关掉,方法是在“设置-应用-应用执行别名”里禁用python.exe和python3.exe的别名。
另外,pip安装失败大概率是网络问题,国内用户强烈建议换镜像源,我在自己的config里配了清华源,装包速度体感提升了十倍以上:
bash复制pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
3.3 显存与内存的博弈
Windows系统自身就要占用一部分显存,特别是开着浏览器和桌面特效的时候,这会导致可用显存比理论上少一些。你在Linux下能跑起来的模型,Windows下换成相同配置可能直接OOM。
但问题是,很多新手还搞不清楚什么时候该调显存、什么时候该调内存。以llama.cpp为例,核心参数是--n-gpu-layers,表示把模型的前多少层放到GPU上计算。层数越多,GPU参与程度越高,速度越快;但显存容量是上限。如果显存不够,可以按这个思路来调:
- 8GB显存:7B量化模型建议设
-ngl 20左右,剩下的层放内存。 - 12GB显存:14B量化模型可以整卡放进去,设
-ngl 99或-ngl 100表示全部放GPU。 - 24GB显存:32B量化模型可以尝试全量加载,但建议先试
-ngl 40看稳定性。
内存方面也要注意别忽略。如果模型太大,内存不够会触发虚拟内存(页面文件),Windows默认的虚拟内存管理比较保守,可能导致进程直接被系统杀掉。建议把虚拟内存手动调整为物理内存的1.5到2倍,尤其是那些16GB内存在跑14B模型的用户,调一下虚拟内存可能就救活了。
3.4 杀毒软件与实时扫描
这个坑我放在最后,因为实在太容易被忽略,而且一旦碰上就特别迷惑。
用LM Studio或Ollama加载模型的时候,有一个很常见的现象是:模型加载进度条卡在99%,或者加载完成后第一次生成要等好几秒甚至十几秒。排除硬件性能不足之后,第一个怀疑的对象就应该是Windows Defender的实时保护。
Defender会对新写入磁盘的文件做实时扫描,而模型文件动辄好几个GB,扫描起来会吃掉大量CPU和IO资源,直接把进程拖到近乎卡死。我自己实测过一个对比:在Defender实时扫描开着的时候,加载同一个7B模型耗时3分40秒;把模型目录加入排除列表之后,耗时掉到了22秒。差距大得离谱。
解决方法很简单,把模型目录和Hugging Face缓存目录都加到Defender的排除列表:
- 打开“Windows安全中心”。
- 进入“病毒和威胁防护”。
- 点击“管理设置”,滚动到“排除项”。
- 点击“添加或删除排除项”,把整个模型目录加进去。
顺带提一嘴,如果你用第三方杀毒软件,也建议做同样的操作。前阵子我帮朋友排查他Ollama反复初始化失败的问题,最后发现是某国产杀毒软件把Ollama服务的运行文件当成了可疑程序。所以玩大模型期间对杀毒软件的“告警”要多留个心眼,先看它拦的是什么,再判断要不要放行。
4. 让DeepSeek在Windows上跑得更稳的调优技巧
4.1 量化等级是性价比最高的选择
模型文件动辄几十GB,大部分人的显卡和内存根本扛不住原始精度,所以量化是必然选择。所谓量化,简单讲就是降低模型参数的数字精度,用更少的位数存储参数,从而让模型小得多,换来的是轻微的精度损失。
常用量化等级包括Q4_K_M、Q5_K_M、Q8_0等。其中Q4_K_M是最均衡的档位,模型体积大概是原始FP16的四分之一,精度损失在可控范围内。8GB显存跑7B模型,Q4_K_M是最合理的起点;如果不追求极速,Q5_K_M推理质量稍好一些,但体积和显存占用也要相应增加。
我遇到过一些人一上来就选Q8或FP16,结果显存爆掉然后跑来问为什么跑不起来。这里给个经验值:7B模型Q4占约4.5GB,Q8占约7GB,FP16占约14GB。你看一眼自己显卡的显存就大概知道哪些模型带得动了。
4.2 系统层面的取舍
显卡驱动不是越新越好。对跑大模型来说,NVIDIA Studio驱动通常比Game Ready驱动更稳定,尤其是在长时间推理场景下。我之前为了玩某款游戏更新了Game Ready驱动,结果第二天跑模型就时不时出现CUDA out of memory,最后回滚驱动才解决。
电源计划也要改。Windows默认的“平衡”电源管理会在负载低时降低GPU频率,而推理任务往往是一阵阵的,负载忽高忽低,容易被电源管理误伤。把电源计划改成“高性能”或者“卓越性能”,GPU频率会更稳定。
笔记本用户还有个隐形坑:混合显卡切换。如果你有核显和独显,Windows经常把模型推理任务分配到核显上跑,而CUDA只在独显上可用,结果就是明明有NVIDIA显卡却一直报CUDA不可用。解决办法是在“设置-系统-屏幕-显示卡”里,把具体应用的图形首选项改成“高性能NVIDIA处理器”。
4.3 通过API接入其他工具
很多人对本地部署的需求,其实只是想在自己的工具链里接一个能用的对话接口。这种场景下,优先考虑调用DeepSeek官方API,Windows上反而最省心。
官方API的调用方式和OpenAI几乎一样,你用openai这个Python包就能直接调,不需要任何本地模型环境。示例代码很简单:
python复制from openai import OpenAI
client = OpenAI(
api_key="your-api-key",
base_url="https://api.deepseek.com"
)
resp = client.chat.completions.create(
model="deepseek-chat",
messages=[
{"role": "user", "content": "你好,介绍一下你自己"}
]
)
print(resp.choices[0].message.content)
这个方法的好处是:Windows上跑什么都行,不用装CUDA,不用管显存内存,适合想要快速集成的人。我在Windows上用这个方式接了一个本地知识库小工具,把文档内容当作上下文丢给API,体验非常好。
如果你还是想本地跑,同时又要接入其他工具,那就用Ollama的API接口。Ollama在Windows上装好之后,默认就会起一个localhost:11434的API服务,和上面OpenAI的调用方式几乎一模一样:
python复制client = OpenAI(
api_key="ollama",
base_url="http://localhost:11434/v1"
)
这样就能让Windows上的任何OpenAI兼容客户端(比如ChatBox、NextChat、甚至是VS Code里的一些AI插件)直接连到本地模型,实现“模型本地跑、工具链无缝接”的效果。
4.4 把重活交给WSL2,Windows当终端
如果你的目标是微调模型,或者跑vLLM这类大量级推理框架,建议把计算部分放在WSL2里,Windows只当终端和文件管理器。
原因很简单:这些框架在Linux环境下的依赖已经非常成熟,跟着官方文档走一遍基本不会出错,而在Windows原生环境里你光是解决编译问题就够喝一壶的。
我自己在WSL2里的部署流程,供参考:
- 在Windows上启用WSL2,安装Ubuntu 22.04。
- 在Ubuntu里安装CUDA Toolkit(注意WSL2里不需要安装NVIDIA驱动,驱动由Windows提供)。
- 用conda创建Python环境:
conda create -n deepseek python=3.10。 - 安装PyTorch和transformers。
- 把模型文件放在WSL2的文件系统里(比如
~/models),不要放在/mnt/d/xxx这种跨Windows分区的位置,否则加载速度会大打折扣。 - 用VS Code的Remote-WSL插件连接到WSL2,在Windows图形界面里写代码,代码实际在Linux环境里运行。
这样组合下来,Windows负责日常操作和文件管理,WSL2负责计算,两边各司其职。唯一的代价是你要稍微熟悉一下Linux命令行,但换来的是按文档就能跑通的顺畅体验,我觉得非常值得。
5. 常见问题排查速查表
这节把前面提到的坑和几个新坑整理成一张速查表,遇到问题直接对着查就行:
| 现象 | 可能原因 | 解决方案 |
|---|---|---|
| 模型加载后输出极慢 | GPU未参与推理 | 检查GPU offload层数并调高 |
| 报错CUDA error | 驱动和CUDA版本不匹配 | 更新驱动或重装CUDA Toolkit |
| WSL2重启后模型消失 | 文件放在Windows分区 | 移到Linux文件系统(如~/models) |
| 终端中文乱码 | 代码页不是UTF-8 | 执行chcp 65001切换代码页 |
| 内存不足崩溃 | 量化等级太高 | 换更低的量化等级或调大虚拟内存 |
| 模型加载卡很久 | Defender实时扫描 | 模型目录加白名单 |
| pip装包一直失败 | 网络或Python版本不兼容 | 换pip镜像源或换Python 3.10/3.11 |
| 加载时报“file not found” | 路径包含中文或空格 | 改为纯英文路径 |
| ollama run找不到模型 | 未先下载模型 | 先执行ollama pull <模型名>再运行 |
| 显卡明明存在但CUDA不可用 | 笔记本混合显卡调度问题 | 在显示设置里指定高性能GPU |
补充一个在Windows上特别常见的情况:你在命令行里敲了nvidia-smi,能看到显卡信息,但一运行PyTorch就报“Found no NVIDIA driver on your system”。这多半不是驱动问题,而是环境变量导致Python找不到cuDNN或CUDA库。我的排查建议是,先去命令行里执行:
python复制python -c "import torch; print(torch.cuda.is_available())"
如果返回False,再检查环境变量CUDA_HOME和PATH里是否有CUDA Toolkit的路径。如果路径都对还不行,试试在虚拟环境里重装一遍torch,指定CUDA版本:
bash复制pip uninstall torch torchvision torchaudio
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
还有一个容易忽略的问题:如果你用Ollama,启动后模型在Windows上跑,但发现生成速度只有几个token每秒,先别急着骂显卡垃圾,去任务管理器看看GPU利用率。如果GPU利用率接近0%,说明Ollama把模型全部放到了CPU上,原因大概率是Ollama的默认配置认为你的显存不够。这时候需要检查一下Ollama的诊断信息,看看它识别到的GPU型号和显存大小是否正确。有些笔记本的双显卡环境,Ollama可能会错误地识别到核显而放弃使用独显,甚至还需要指定环境变量来强制引导Ollama识别独显。
最后再分享一个我个人的体会:折腾那么多轮,最大的感悟是用什么系统、什么工具都不是核心,核心是你自己心里要清楚每个环节在解决什么问题。Windows支持差不是绝症,它只是意味着你需要愿意多花一点时间理解每个组件的运行要求。我日常的工作流现在是这样:跑DeepSeek对话、实验小模型,直接在Windows上用LM Studio或Ollama;需要做批量推理、微调或者部署服务,就切到WSL2;赶时间写业务代码,直接调官方API。这套组合在Windows上已经跑了两个多月,整体算是相当稳定了,希望我的经验对你有用。
