1. 从链式思维到图结构:LLM推理的范式升级
大语言模型(LLM)的推理能力一直是开发者关注的焦点。早期的思维链(Chain-of-Thought,CoT)方法让LLM通过逐步推理来解决问题,就像小学生做数学题时写下计算步骤一样。这种方法确实提升了模型在数学推理等任务上的表现,但存在明显的局限性——它强制LLM按照严格的线性顺序思考,就像被限制在单行道上的车辆,无法灵活调整路线。
后来出现的思维树(Tree of Thoughts,ToT)给了LLM更多探索空间,允许模型像走迷宫时尝试不同路径。但真实的人类思考远比这复杂:我们会在不同思路间跳转,合并相似观点,甚至循环优化某个想法。这就像写作时先列大纲,再填充细节,最后反复修改润色——整个过程是网状而非线性的。
Graph of Thoughts(GoT)的创新之处在于,它首次用图结构来建模LLM的推理过程。图中每个节点代表一个"思考单元"(可以是一段文本、一组数据或代码块),边则表示思考单元间的逻辑关系。这种结构支持三种关键操作:
- 思想聚合:将多个中间结论合并成更优解(如图1中合并两个排序子序列)
- 循环优化:对同一节点反复改进(如不断润色某段文字)
- 分支探索:并行尝试不同解决路径
在实际测试中,这种架构展现出显著优势。例如在数字排序任务中,GoT比ToT的错误率降低62%,同时减少31%的计算成本。这是因为图结构允许模型先分解问题,独立解决子任务,再智能合并结果——这正是人类处理复杂问题的方式。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. GoT的核心架构解析
2.1 图结构如何表示LLM思考
GoT框架将推理过程形式化为四元组(G,T,E,R):
- G=(V,E):有向图,顶点V是思考单元,边E表示依赖关系
- T:支持图结构的转换操作(聚合/细化/生成)
- E:评分函数,评估思考单元质量
- R:排序函数,筛选最优解
举个例子,在文档摘要任务中:
- 顶点可能是"提取关键词"、"生成各段概要"、"整合主题"等步骤
- 边表示"整合主题"需要依赖前两个步骤的输出
- 评分函数会检查摘要是否覆盖关键信息
- 排序函数会选择信息保留度最高的版本
这种表示法的灵活性体现在:
- 支持异构节点(不同类别的思考)
- 允许循环边(迭代优化)
