业内做AI应用的人,很多都卡在同一个地方:逻辑写死在代码里,业务方每次提个新需求都要改一轮后端,联调、发版、回归,折腾一圈下来,半天就没了。我自己带团队做AI Agent落地时,也踩过这个坑。后来决定换个思路,把流程编排从代码里抽出来,做成一个可视化平台,让业务人员能自己拖拽节点、配置参数、串联大模型调用,效果比预想的好很多。这篇就用一个实际项目的视角,拆解一下AI可视化编排平台从零到一的开发步骤,涉及架构选型、画布设计、执行引擎、Agent集成和稳定性治理,适合打算自建这类平台的团队参考。
1. 项目定位:搞清楚要做的是"工作流画布",不是"大模型封装"
很多团队一开始容易跑偏,以为可视化编排平台就是把大模型API包一层、画个界面让用户填Prompt。真做下去才发现,大模型调用只是其中一个环节,平台的核心竞争力在于编排能力——让各种异构节点(大模型、代码、API、数据库、人工审批)能灵活组合、按条件分支、循环执行、异常重试。所以第一步不是写代码,而是把产品边界想清楚。
1.1 先做减法:第一版只做三类节点
我见过不少项目死在一开始想做太多。可视化编排涉及的能力范围太宽,流程引擎、规则引擎、数据集成、权限体系、监控告警,哪个都能做几个月。第一版我的建议是死磕三类节点:
- 大模型节点:调用LLM,支持自定义Prompt模板、多轮上下文、结构化输出。
- 代码节点:运行Python/JS脚本,做数据清洗、格式转换、逻辑判断。
- 服务节点:通过HTTP调用外部API,或调用内部RPC服务。
这三类节点能覆盖80%以上的AI应用场景。比如一个“智能客服工单分类”流程,就是大模型节点分类 + 代码节点映射部门 + 服务节点创建工单。先跑通这个闭环,再去加数据库节点、消息队列节点、人工审批节点都不迟。
提示:第一版不要做嵌套子流程!子流程意味着要处理父流程和子流程之间的变量传递、上下文隔离、并发调度,复杂度直接翻倍。等主流程稳定了再上。
1.2 和现成工具的边界:为什么不直接用n8n或Dify
市面上现成的开源方案不少,n8n、Dify、Coze、LangFlow都能拖拽编排。那为什么还要自研?说句实话,自研的性价比体现在三个点:
- 深度定制:现成工具是通用产品,节点类型、交互方式、权限模型都是别人定死的。企业内部往往有统一登录、统一权限、统一工单系统,接现成工具反而要写一堆适配层。
- 与大模型深度集成:自研平台能直接复用团队已有的模型网关、Prompt管理、知识库检索能力,而不是被工具的封装限制住。
- 数据不出内网:很多场景要求流程执行的日志、中间数据全部留存内网,现成SaaS直接排除,开源自部署又要自己维护一套陌生系统。
但反过来,如果团队就两三个人、需求也不复杂,我不建议自研,直接用现成工具更快。自研的前提是你对编排能力有明确且长期的需求。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 整体架构:画布、编排、执行三层分离,别混在一起
架构设计的核心原则一句话:画布只管编辑,编排只管解析,执行只管跑任务。三层职责必须解耦,否则后期改任何一层都会牵一发动全身。
2.1 三层架构的具体职责
| 层级 | 核心职责 | 关键组件 |
|---|---|---|
| 画布层 | 节点拖拽、连线、属性配置、校验 | React Flow / AntV X6 |
| 编排层 | 将画布JSON解析为DAG,做拓扑排序和校验 | 自研解析器 |
| 执行层 | 按DAG顺序执行节点,管理状态和重试 | Celery / 自研Executor |
画布层保存的是“图数据结构”——每个节点有id、类型、坐标、配置,每条边有source、target、sourceHandle、targetHandle。这份JSON是整个平台的“源代码”,编排层拿到它之后做两件事:一是校验图是否合法(有没有环、有没有孤立节点、端口类型是否匹配),二是生成可执行的任务计划(先跑哪个、后跑哪个、哪些可以并行)。
执行层不关心图结构,它只消费编排层产出的任务计划。任务计划是一棵扁平的节点执行列表,每个节点带上了依赖信息和运行参数。执行层按依赖关系调度,把结果写回上下文,供下游节点读取。
2.2 状态存储:运行态和定义态必须分开
踩过一个很深的坑:一开始把节点的运行状态(正在运行、成功、失败)直接存在画布JSON里,结果并发调试时数据全乱了。后来彻底分离:
- 定义态:节点的配置、连线、坐标,存PostgreSQL或MongoDB,不可变。
- 运行态:每次执行的实例结果、日志、变量值,存Redis和ES,按执行ID隔离。
这样做的好处是:同一份流程定义可以被多个执行实例复用,互相不干扰。比如流程“日报生成
