超越链式思考：从CoT到GoT，大语言模型推理能力的演进与实战

1. 从链到图：大语言模型推理能力的进化之路

第一次接触思维链（Chain-of-Thought，简称CoT）技术时，我正被一个数学推理项目困扰。当时使用的千亿参数大模型在简单问答上表现优异，但遇到"小明有5个苹果，吃掉2个后又买了3倍于剩余数量的橘子，总共多少水果？"这类多步骤问题时，准确率直接跌到30%以下。直到尝试在prompt中加入"让我们一步步思考"的提示，并展示两个完整解题示例，模型突然开窍般地把准确率提升到75%——这就是CoT给我的第一课。

传统prompt技术就像让小学生直接报答案，而CoT则是要求写出完整解题过程。这种改变源自2022年Google Research的突破性发现：当大语言模型参数超过千亿规模，它们会涌现出令人惊讶的推理能力。关键是要像老师批改作业那样，在prompt中明确展示"问题-推理步骤-答案"的完整链条。实测发现，这种技术在GSM8K数学数据集上，能将GPT-3的准确率从17%提升到58%。

但线性思维链存在天然局限。去年我在处理一个药品配伍禁忌项目时，发现需要同时考虑化学成分、剂量换算和患者病史的交叉验证。这时单一的推理链条就像用直尺测量曲线，总是差强人意。这正是GoT（Graph of Thoughts）技术的用武之地——它允许模型像专家会诊那样，建立多维度、可回溯的推理网络。比如先按药品分类建立主干推理，再针对特殊病例添加分支验证，最后通过节点关联发现隐藏的配伍风险。

2. CoT技术实战：从入门到精通

2.1 少样本思维链的黄金法则

在电商客服机器人项目中，我们总结出构建有效CoT prompt的三个要点：多样性、代表性和阶梯性。多样性指示例要覆盖问题的主要类型，比如价格咨询、物流跟踪和退换货政策；代表性要求每个示例都是该类问题的典型；阶梯性则强调示例难度要循序渐进。

具体操作时，我会先用聚类算法分析用户问题分布。例如使用Sentence-BERT将500条历史问题编码为向量，通过K-means分成3-5类。然后在每类中选取1-2个最具代表性的问题，人工编写推理过程。有个实用技巧：推理步骤控制在3-5步为宜，过多会导致模型注意力分散。曾有个反例是某次包含了一个7步推理的示例，结果模型在新问题上产生了大量无关中间步骤。

python复制# 示例：电商客服CoT prompt构建