经常有人问我:能不能推荐一份 LLM 大模型系统学习路线。我一般不会急着甩链接,而是先反问两个问题:你现在手头有没有一个能独立跑起来的模型?最近一周写过几行调用大模型 API 的代码?如果两个答案都是否,那你大概率再过三个月,仍然停在“收藏了一堆资料却不知道从哪开始”的状态。
这不是打击人,而是我见过太多所谓“系统学习”的计划都死在了同一步:他们想先把理论学透再动手,结果在 Attention 公式那里就熄火了。大模型这个领域有一个反常识的事实——上手动手远比啃论文重要。你能把一个模型部署起来、调通一次对话、跑完一轮微调,你对它的理解会超过你看十篇解读文章。
这篇文章是我自己从零开始摸爬滚打踩出来的学习顺序,也是我后来带人时反复验证过的一套路径。它不是面面俱到的百科,而是一条能让你从“看着别人玩大模型”到“自己真正跑起来”的完整链路。内容覆盖原理补全、本地部署、API 调用、RAG 知识库、Agent 开发、LoRA 微调,以及信息源和知识管理。适合刚入门想系统掌握的学习者,也适合已经会用现成产品、但想进一步自己做应用和私有化部署的人。
1. 学习大模型一年还觉得没入门,问题出在哪
1.1 无差别刷论文是劝退率最高的路径
我见过太多人的学习路线的第一步是:找一篇经典论文,比如 Attention Is All You Need,然后开始读。读到了多头注意力机制里的 Q、K、V,觉得不行,得先补线性代数;补到矩阵乘法,又发现需要概率论基础;绕了一圈回到论文,发现还有残差连接和 LayerNorm 要理解。三个月以后,进度条还停在 0.1,心态已经崩了。
问题不在于“你不够聪明”,而是把研究型路线和工程应用型路线混在了一起。
我们可以把大模型领域的知识粗略分成三层:
- 应用层:调用 API、写提示词、搭 RAG、做 Agent、设计业务流、处理模型返回的结构化数据。绝大多数人最终的工作岗位落在这里。
- 原理层:Transformer 架构、Token 与 Embedding 的运行逻辑、预训练与对齐的本质、推理参数的直觉、量化与显存估算。这部分是选型、调参、排查问题时的“地图”。
- 底层实现层:自己设计模型结构、研究新的注意力变体、编写分布式训练框架、做内核级推理优化。这是少数科研和核心算法工程师需要做的事。
很多入门资料默认把第三层当成第一站,这是学习路线中最大的错位。如果你目标是做 AI 应用、企业落地、私有化知识库,那就应该先吃透应用层,再补充原理层里那些“不得不懂”的块。等你真的在业务里遇到性能瓶颈或模型能力上限,再往下钻也不迟。
1.2 先建立 LLM 的能力边界,再去动原理
在学任何细节之前,先搞清楚大模型到底是个什么东西。
用一句话概括:大模型是从海量文本中训练出来的“下一个词预测器”。它通过预测下一个词,学到了语言的统计规律,也把一部分世界知识压缩进了参数里。但它的本质不是数据库,也不是搜索引擎,更不是一套可以精确计算的逻辑系统。
它擅长什么?文本生成、摘要、改写、翻译、代码补全、情感分析、从非结构化文本中抽取字段。它不擅长什么?精确的数学运算、实时信息获取、需要长期记忆的复杂推理、不需要外部依据就能保证真实的陈述。
打个比方:大模型像一个知识面很广但偶尔会记混细节、被追问时还会硬着头皮圆场的同事。你对一位这样的同事会怎么用?交代任务时给一份清晰的需求文档,重要信息放在它“眼前”,让它查资料而不是凭印象回答。这个比喻能帮你理解后面非常重要的一对技术:RAG 是为了提供证据,Function Calling 是为了让它能调用工具。当你给模型接上检索和工具,它才从“一个会说话的脑子”变成“一个能干活的员工”。
1.3 学习路线里的“里程碑感”比什么都重要
学习大模型遇到困难时,绝大多数人无法判断“自己是哪里没懂”。这是因为学习内容太宽泛,缺少可验证的反馈节点。所以我强烈建议:不要按“读完全部理论再开始实践”的方式安排学习,而要把每个阶段都设计成能拿出一个成果的里程碑。
我的建议是设置四个里程碑:
- 用 API 跑通至少 10 个不同任务,比如摘要、翻译、情感分析、JSON 抽取。
- 在本地成功跑起一个开源模型,并完成一次带参数的推理调用。
- 做一个基于私有文档的知识库问答系统,哪怕只是几百个 markdown 文件。
- 用几百条数据完成一次 LoRA 微调,并对比微调前后的效果差异。
这样安排最大的好处是:每当你卡住,你面临的都是“某个具体功能不工作”的问题,而不是“我是不是还没有入门”的虚无感。问题一旦具体,解决路径就清晰了。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 理论不是背公式:用“够用”原则吃掉原理门槛
2.1 四个必须懂的概念:Token、Embedding、Attention、训练阶段
很多零基础的朋友是被公式吓退的。但做工程应用,你不需要手推反向传播,也不需要证明注意力公式收敛性。有几个概念是绕不开的,因为它们直接决定你写代码时的思路。
先来说 Token。模型读文本的最小单位是 token,不是一个字或一个词。一段中文可能被切分成很多个 token,有些汉字会被切得更碎。你调用大模型时要清楚:上下文窗口按 token 数计算,计费也按 token 数计算,返回结果可能因为超出窗口而被截断。很多人碰到“模型回答到一半停了”,第一反应是换模型,实际原因是 token 预算没规划好。
再是 Embedding,也就是把文本映射成高维向量。语义相近的两个句子,在向量空间里的距离也相近。这一步是
