前两天有个做前端的同事问我:我现在已经能让大模型帮我总结用户的工单内容了,但我想让它直接查一下这个用户的订单状态,再对比一下售后记录,这种操作要怎么实现?这个问题几乎是每个Web开发者玩到AI Agent阶段都会卡住的地方。上一代做法是你在代码里写死一个调用流程,让模型在几个预设分支里选;而现在的标准答案是:把“查订单”“查售后”这两个能力声明给模型,模型自己决定什么时候调用、调用完怎么继续。这就是Function Calling,也叫做Tool Use,是整个AI Agent最核心的机制之一。
这篇文章写给两类人:一类是刚接触AI Agent、想搞清楚底层原理的Web开发者;另一类是已经用SDK跑通过Demo、但一遇到生产环境就各种翻车的同学。我会从机制、最小实现、真实场景、踩坑经验、工程化扩展几个维度,把Function Calling这件事讲透。全程用JavaScript写示例,你只要写过REST API、看得懂JSON,就能跟上。
1. Function Calling到底是什么:从REST API的视角看
1.1 模型不是"执行者",而是"写调用单的人"
我见过不少人对Function Calling的第一印象是:AI能直接执行我的函数了。这个理解其实偏差很大。你提供给大模型的tools列表,模型并不会把它加载进自己的运行时,更不会去调用你的Node.js进程。模型做的事情非常纯粹——在它返回的文本里,夹带一段结构化的JSON,内容类似“我要调用search_logs这个工具,参数是{ query: 'ERROR', timeRange: 'now-30m' }”。
真正执行这个JSON的人,是你自己的代码。
这个关系可以类比成公司里的"工单系统":模型是提需求的人,它写一张工单,注明要哪个部门做什么事;你是工单管理员,你拿到工单后转给对应的人去执行;执行完再写一份结果回执交给模型。整个过程中,模型永远不碰业务代码,所有实际动作都发生在你的进程里。
正因为如此,Function Calling才具备安全性——你可以在真正执行前做权限校验、参数校验、风控判断,甚至可以拦截某些敏感操作。这对Web开发者来说是个好消息:你之前写过多少REST API的参数校验逻辑,现在几乎可以原样搬过来。
1.2 一次完整调用的生命周期:两轮对话完成
用一个最简化的时序来描述一次带工具调用的完整过程:
- 你组装一个messages数组,把用户的原始问题放进去,再额外附上tools数组(你希望模型能使用的工具声明)。
- 请求发给大模型接口,模型判断“我需要调用某个工具才能回答”,于是返回一个特殊的消息——消息内容是空的或者一句过渡语,但带上了tool_calls字段。
- 你从tool_calls里解析出函数名和参数,在自己代码里执行对应的函数。
- 你把执行结果构造成一条role为"tool"的消息,追加进messages数组,再连同之前的对话一起发给模型。
- 模型看到工具执行结果后,生成最终的回复文本;如果它认为还需要更多信息,会再次返回tool_calls,于是回到步骤3。
关键点在于,这不是一次请求就完成的操作,而是一个循环。模型什么时候结束循环?当它返回的消息里不再包含tool_calls时,说明它已经拿到足够的信息,可以给用户一个最终答案了。
这里有一个Web开发者会觉得非常亲切的点:整个循环本质就是“请求—响应—再请求—再响应”的模式。你熟悉的前端轮询、BFF层接口编排、甚至GitHub Actions的job依赖,都和这个循环的思维模式有着相似之处。
1.3 Web开发者理解这件事有天然优势
我越来越觉得,Web开发者转AI Agent开发的门槛,比想象中低得多。原因就藏在日常写代码的习惯里。
第一,你熟悉JSON Schema。tools参数里最关键的部分就是parameters声明,它本质上就是一份OpenAPI 3.0风格的参数描述。你在写Swagger文档时怎么定义字段类型、必填项、枚举值,到了这里几乎是一回事。模型会根据这份schema来生成合法的调用参数,schema写得好不好,直接决定模型能不能正确调用你的工具。
第二,你熟悉异步和错误处理。Function Calling主循环里必须处理超时、重试、函数抛异常、返回值非法等问题,这些都是Web后端天天面对的事情。我记得第一次看到AI Agent主流框架的源码时,最大的感受就是——这套错误处理的套路,和我以前写BFF层时一模一样。
第三,你天然理解“接口文档质量影响调用方集成效率”这件事。在传统开发里,接口文档字段含糊,前端集成就会反复来问;在Function Calling里,工具description写得不清楚,模型就会乱传参数或者干脆不调用。
这种基础认知上的迁移,能让Web开发者在读AI Agent源码时一路畅通。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 手写最小Function Calling循环:不依赖任何SDK
很多人一上来就接LangChain、接各种Agent框架,结果主循环是黑盒,出了bug都不知道去哪调。我强烈建议先自己用原生fetch写一遍最小循环,跑通之后再去碰框架。这一步省不掉。
2.1 工具定义:一张给模型看的"接口文档"
先定义两个业务工具,场景沿用开头的例子:查订单状态、查售后记录。下面是tools数组里其中一项的完整结构。
javascript复制const tools = [
{
type: "function",
function: {
name: "get_order_status",
description: "根据订单ID查询订单当前状态,包括待支付、已支付、已发货、已完成、已取消",
parameters: {
type: "object",
properties: {
order_id: {
type: "string",
description: "订单ID,如 OD20250101001"
}
},
required: ["order_id"]
}
}
},
{
type: "function",
function: {
name: "get_refund_records",
description: "查询某个客户的售后/退款记录,返回售后单列表",
parameters: {
type: "objec
