function calling 原理

接入与开发

把 Function Calling 从请求到回填的完整链路拆开讲,让初学者看懂模型到底做了什么、代码该写哪几步。

很多人第一次接工具调用,照着示例跑通了,却说不清中间到底发生了什么:模型是真去执行函数了吗?参数是谁生成的?为什么有时候它宁愿瞎编也不调用?这篇按一次真实请求的先后顺序,把 Function Calling 的机制和你要写的代码对上号,遇到不生效也知道该查哪一环。

很多人第一次接工具调用,照着示例跑通了,却说不清中间到底发生了什么。模型是真去执行函数了吗?参数是谁生成的?为什么有时候它宁愿瞎编也不调用?这篇不讲课,按一次真实请求的先后顺序,把 Function Calling 的机制和你该写的代码一一对上号。以后遇到不生效、参数乱、答非所问,你至少知道该查哪一环。

先说结论:工具调用不是让模型多了一项能力,而是你和模型之间约定了一套消息格式。模型负责理解意图并吐出结构化的调用意图,你的代码负责真正干活。整条链路拆开看只有四步,每一环都有独立的失败可能。搞清这个,调试时就不用从头猜。

模型其实什么函数都没执行

这是最容易误解的一点。你把工具清单递过去,模型只做一件事:判断要不要调用、调哪一个、参数填什么,然后输出一段结构化文本。它没有执行任何东西,也没有真的连上你的数据库。真正执行发生在你的代码里,你拿到那段结构化输出后自己去查、去算、去调接口。

所以工具调用的本质,是把「模型输出」当成「调用意图」来解析。理解这一点,后面很多坑都能解释:参数错了不是函数坏了,是模型填错了;没调用不是接口不通,是它没判断出该调用。为什么非要绕这一圈?因为让模型用自然语言理解意图,再交给你用确定性的代码去执行,两边各干擅长的事,比让模型直接答更可控。

调用意图
模型输出的结构化片段,标明想调用哪个工具、参数是什么,本身不产生任何副作用
执行方
永远是你的代码,模型只是在请求你执行
工具清单
每次请求都要随消息一起带上,模型看不到清单就无从判断

一次工具调用的完整往返

这是初学者最容易低估的地方:它不是一次请求,而是两次(复杂场景可能更多次)往返。第一次你把工具清单和用户问题一起发出去,模型返回的是调用意图,而不是自然语言答案。你在中间解析参数、校验、执行自己的函数,拿到结果。第二次把执行结果按消息格式回填进对话,模型再基于真实结果生成最终回答。

  1. 第一次请求带上工具清单和用户问题。验证点:返回里有没有出现调用意图,没有就说明工具描述或触发条件有问题
  2. 中间处理解析参数、做类型和范围校验、执行你的函数。验证点:参数能不能直接解析,需不需要兜底修补
  3. 第二次请求把执行结果按角色和格式回填进对话。验证点:模型最终回答里有没有用上你回填的真实数据
  4. 收尾校验检查最终回答是否引用了执行结果里的具体值。验证点:如果它还在编,多半是回填位置或格式不对

还要注意一点:往返次数越多,每轮上下文越长,成本增长不是线性的。如果只是查一个简单字段,硬要走两轮,性价比往往不划算。什么情况下不适用:任务本身不需要外部实时数据,模型凭已有知识就能答好,这时候加工具纯属给自己添延迟。

工具描述写得好不好,决定它调不调得对

模型全靠几个字段做判断:工具叫什么、是干什么用的、参数有哪些类型、哪些必填。描述写得含糊,它就靠猜;猜的结果就是要么不调用,要么参数乱填。这不是模型笨,是你给的信息不够做判断。参数尽量用严格 schema,而不是一段自由文本,能明显减少类型不符、多包一层这类解析失败。

字段写好的标准写砸的后果
工具名称动词开头、能望文生义名字太泛,多个工具之间分不清
用途说明一句话说清什么时候该用说明太笼统,模型不敢调用
参数类型明确类型和枚举范围类型模糊,解析直接报错
必填项只把真正必需的标成必填全标必填,模型硬凑参数

有个简单的自检办法:把工具描述单独拿给一个不了解业务的同事看,他能不能说出「什么情况下该用这个工具」。说不出来,模型大概率也判断不准。什么时候不适用硬塞工具:任务本身是开放写作、闲聊、总结已有内容,这类场景模型直接回答更自然,塞了工具反而让它在该直接答的时候也犹豫。

不生效时的排查顺序

工具调用出问题,最忌讳从头到尾乱改。按下面这个顺序走,能快速定位在哪一环,避免把好代码改坏。顺序本身就是从上游到下游:链路前面的环节没通,后面的修改都是白费。

  • 先看模型有没有返回调用意图:没有就是工具描述或触发条件的问题,别急着改执行代码
  • 再看参数能不能解析:类型不符、必填缺失,多半是 schema 写得太松
  • 再看回填环节:结果有没有按正确角色和格式塞回对话,塞错位置模型会当作没执行过
  • 最后才怀疑模型本身:多工具、多轮场景下小模型的判断力确实偏弱,该换就换
  • 顺手记一笔每次失败卡在哪一环,几次之后你会发现自己的坑高度集中在同一处

判断标准很简单:哪一环没通过,就只改那一环,一次只动一个变量。如果换了模型还是错在同一处,那基本可以确定问题在你的代码或描述,不在模型。想横向看看不同来源在工具调用稳定性上的差别,到 工具测速页(/tools/speed-test) 做几次实测,比看别人的结论靠谱。

下一步把自己的工具描述和排查清单对照一遍,再挑几个中转来源实测工具调用通过率,数字比印象可靠得多。

常见问题

Function Calling 和让模型输出 JSON 有什么区别?

输出 JSON 只是格式约束,模型返回什么你都得自己解析;工具调用多了一层语义约定——模型明确表示「我要调用某个工具」,并带上结构化参数,你可以据此决定执行还是拒绝。格式约束管的是外形,工具调用管的是意图。

模型会不会自己把函数执行了?

不会。模型没有执行环境,它只是输出一段表示调用意图的结构化内容。真正的读取数据库、调用接口、写文件都发生在你的服务端代码里,这也是安全边界所在:你可以在这里做白名单、参数校验和权限判断。

为什么同一个提示词,有时候调用有时候不调用?

工具触发是模型根据描述做的概率判断,不是确定分支。描述越贴近真实用途、参数越具体,触发越稳定。如果业务上必须调用,别指望提示词保证,改成先判断再走固定流程,或在代码里做兜底重试。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。