做AI对话应用的人,早晚会遇到同一个问题:超长对话跑到第几十轮,内存一路狂涨,最后进程直接被杀。我排查这类问题用的第一板斧,就是 Runtime Profiling(运行时剖析)。尤其是把对话流程抽象成执行图之后,每个节点吃多少内存、执行完有没有残留,全部可以被量化。这篇内容就围绕“执行图节点级内存监测”展开,讲清楚怎么给每个节点装上内存监测器,怎么用监测数据定位超长对话下的内存泄漏,以及我实测过的几种修复手段。适合正在做 Agent、对话流水线、RAG 管道的朋友参考,也适合被线上 OOM 逼疯的后端开发者找思路。
1. 项目概述:超长对话的内存泄漏到底从哪里冒出来
1.1 为什么我盯上了“执行图”而不是全局监控
很多团队做长对话优化,第一反应是看 free -m、看容器监控面板,发现内存涨了就重启。这种做法只解决了表面问题,因为在进程维度你只能看到“整体在涨”,根本不知道是谁在涨。把对话处理流程拆成执行图以后,情况完全不一样:一次请求从进入到返回,会依次经过会话加载、意图路由、检索、上下文压缩、LLM 调用、记忆写入等多个节点,每个节点都持有自己的临时数据。
执行图的优势在于,它是一个天然的“埋点边界”。你在每个节点的入口和出口各做一次内存采样,就能算出这个节点的内存增量;重复执行多轮之后,如果某个节点的“出口内存”比“入口内存”稳定高出不少,说明这个节点里产生了驻留对象,也就是泄漏点。这比盯着整条内存曲线猜要直接得多。
我最初是在 LangGraph 的自研执行流上做的这套方案,后来在普通 Python Pipeline 上也复用了同一套思路。不管底层是图编排引擎还是手写流程编排,节点级 profiling 的底层逻辑都一样:定位到人,才能定位到问题。
1.2 内存泄漏的典型表现与判断标准
判断一个对话系统是否内存泄漏,不应该靠感觉,而是靠曲线。我常用的方法是:跑一组固定轮数的压测,记录每轮的进程 RSS,然后观察曲线的形态。如果单轮结束后 RSS 能回到基准值,说明是瞬时分配;如果每轮都比上一轮高出固定的大小,那么基本可以判定存在对象滞留。
具体判断标准有三条:
- 内存曲线呈阶梯式上升,不是偶发尖峰,说明有对象每轮都在累积。
- 执行
gc.collect()后 RSS 不回落,说明滞留对象是“可触达”的,垃圾回收拿它没办法。 - 固定输入、固定轮次,内存峰值随轮数线性增长,且每轮增量接近常数,这就是典型的“每轮泄漏一点”。
如果只是内存占用高,但曲线平稳,那不叫泄漏,叫“吃得太多”,优化思路完全不同。把泄漏和突刺区分开,是后续做节点级 profiling 前必须完成的认知准备。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心原理:Runtime Profiling 帮我们回答哪三个问题
2.1 从“进程视角”下沉到“节点视角”
进程级监控只能回答“内存涨了没有”,节点级 profiling 要回答的是三个更具体的问题:哪个节点分配内存最多、哪个节点执行后内存不释放、长期驻留的对象到底被谁引用着。
要回答这三个问题,就不能只看 RSS,得引入对象维度的指标。我一般会同时采集四类数据:
- 瞬时增量:节点执行前后的存活对象数差值,反映单次分配强度。
- 累积增量:节点执行 N 次后仍然存活的对象数量,反映驻留情况。
- 引用链:通过 gc/objgraph 找到对象的 backref chain,确认是被谁持有。
- GC 代际对象:老年代对象数量如果持续上涨,往往就是泄漏。
这四类数据合在一起,才能还原出一个节点的完整内存行为。只看瞬时增量,你会误伤很多高并发但正常释放的节点;只看累积增量,你又很难解释为什么内存涨得这么快。
2.2 节点级 profiling 要抓的四大指标
实践下来,我最常
