Function Calling 实战:让大模型从「会答」到「会做」——企业工具接入的 schema 设计与兜底策略

2026-11-16 技术文章

去年下半年我们接过一个内部问答机器人的活,上线没几天就被现实教育了:有人问「上季度华东区的合同回款情况怎么样」,机器人一本正经地给了一段很圆滑的分析,还带了数字——数字是编的。不是它想骗人,是它根本没有渠道拿到真实数据,只能靠语言能力把场面撑住。

这件事让我对大模型的能力边界有了很具体的体感:「会答」和「会做」是两回事。过去两年大家卷的都是让模型答得更好——RAG、长上下文、提示词调优,本质上都在喂资料;但企业场景里真正值钱的能力,藏在 CRM、工单、订单、财务这些系统里,模型碰不到。Function Calling 就是让模型从「会说」跨到「会做」的那个开关。这篇把我这一年多在企业工具接入上踩过的坑和沉淀的做法摊开讲讲。

Function Calling 的调用机制与结构化 schema:模型只点菜,不上菜

先把机制讲透,后面所有设计都是从这个机制里长出来的。

Function Calling 的完整循环是四步:第一步,应用把一组函数声明(函数名、功能描述、参数的 JSON Schema)随请求发给模型;第二步,模型根据用户问题判断要不要调工具、调哪个,然后输出一段结构化的调用意图——函数名加一组 JSON 参数。注意,它只是输出这段 JSON,不执行任何代码;第三步,应用侧拿到这段 JSON,去执行真正的 API 调用;第四步,把执行结果作为消息回填给模型,模型再组织成自然语言回答用户。

看清楚这个循环你会发现一个反直觉的事实:模型全程没碰过你的系统。它是服务员,不是厨师——负责把「客人想吃什么」翻译成标准点单,菜得后厨(你的应用)去做。这个定位决定了后面所有设计原则:模型输出的调用意图只能当「建议」,不能当「已完成的动作」。

一个注册用的 schema 大致长这样:

{
  "name": "get_order_by_customer",
  "description": "按客户名称查询其近 N 天内的订单列表,含订单号、金额、状态。仅支持精确匹配客户全称,模糊搜索请用 search_customer 接口。",
  "parameters": {
    "type": "object",
    "properties": {
      "customer_name": { "type": "string", "description": "客户全称,精确匹配" },
      "days": { "type": "integer", "description": "查询最近多少天,默认 30,最大 365" },
      "status": { "type": "string", "enum": ["paid", "unpaid", "refunded"], "description": "订单状态筛选,可省略" }
    },
    "required": ["customer_name"]
  }
}

这里我最想强调 description 的价值。模型选函数、填参数,唯一依据就是函数名和描述。描述写得含糊,模型就开始猜:get_order 到底是查订单详情还是查订单列表?两个功能相近的函数不带区分说明,它就轮流乱选。我们在实际项目里吃过这个亏——两个查数据接口的描述只差一句「实时数据 / T+1 数据」,模型选错率肉眼可见地高,把区别写明白之后才稳定下来。

所以我的观点是:schema 要当产品文档来写,不要当配置文件来写。写 schema 的功夫应该花在「让一个不了解系统的实习生也能照着填对参数」这个标准上,而不是花在语法正确上——语法正确只是底线。

顺带说一句容易被忽略的事:schema 不是写完就完了。改一条 description,模型选函数的行为就会变——这本质上和改提示词是同一类变更,该走版本管理、该回归测试。我们在项目里把 schema 文件和提示词放在同一套变更流程里,每次调整都要跑一遍固化的测试问题集,看选函数和填参数有没有退化。很多人对提示词有版本意识,对 schema 反而没有,而这恰恰是接入工具数量增多之后最容易出事的地方。

企业 API 接入与参数校验:schema 是接口合同,校验永远放应用侧

企业内部的接口和 demo 里的天气 API 完全是两个世界:参数多、枚举杂、鉴权复杂,还经常并存几个历史遗留的同义接口。我们在易科势腾给客户做 AI 智能体开发时,把 CRM、工单这类系统的接口接给大模型之前,先做一轮 schema 治理,几条硬规矩整理如下。

头一件事,别把内部 API 裸着暴露给模型。在模型和业务系统之间加一层轻量适配层,鉴权收敛在一处,字段做映射和裁剪,出问题有地方埋日志。直接把内部接口的原始签名怼给模型,等于把内部系统的复杂度原封不动转嫁给一个语言模型。

有了这层适配打底,再处理参数。能用约束就别靠描述:枚举值用 enum 写死,日期给 format 约束,数字给范围。模型对自然语言的理解很强,但「客户到底想传 YYYY-MM-DD 还是时间戳」这种事,靠描述猜不如直接限死——约束每多一层,模型自由发挥的空间就少一层。

参数这块再往下,就是整个环节里最容易轻视的一步:参数校验必须放应用侧,永远不要信任模型输出的参数。模型会漏填必填项、错填格式、幻觉出枚举列表里根本不存在的值。校验失败不要静默吞掉,把具体错误——缺哪个字段、哪个值不合法、合法取值是什么——结构化地回传给模型,绝大多数情况下一轮它就能自己改对。这个「让模型自我修复」的小循环,比在外面套一堆硬编码纠错逻辑划算得多,值得当作默认做法而不是补充手段。

权限也不能沿用老思路,得跟着 Function Calling 重新过一遍。查询类接口默认放开,写操作——建工单、改状态、退款——要么做成「模型生成草稿、人工点确认」的两步式,要么在适配层做二次校验和留痕。模型的调用意图只是建议,这句话在只读场景是设计原则,在写操作场景就是安全底线。

最后是粒度。一个函数干一件事,别做万能接口。粗粒度接口看着省事,实际模型经常填错参数或者过度调用;拆细之后每个函数的描述聚焦、参数少,准确率和排障难度都好得多。当然也别拆到爆炸,二三十个以内、按业务场景分组,是比较舒服的规模。

失败兜底与多工具编排:出错是常态,先设计好台阶

demo 里一切顺利,生产环境里失败才是常态。失败大致三类,兜底策略各不相同。

第一类是参数错误,处理方式上面说了:结构化回传,让模型自我修复,一般一两轮内收敛,不收敛就降级。

第二类是执行层失败:超时、接口 5xx、限流。原则是有限重试加快速熔断,别让用户干等。举一个我们跑了很久的兜底链路:查询失败后先把「接口超时」这个事实回传模型,模型通常会把查询范围收窄再试一次;再失败就进入降级分支,让它按固定话术告诉用户「数据暂时取不到,已为你转人工」——整条链路里没有任何一个环节允许模型自己编内容顶上。

最忌讳的兜底是让模型自由发挥——工具失败之后,它有相当大概率用编造的方式把答案圆上,语气还挺自信。宁可让它承认做不到,也不要一个看似完整的假答案。我们后来在验收标准里专门加了一条:查不到就明说查不到,编数据一票否决。

第三类是返回内容模型读不懂:接口吐一个巨大的嵌套 JSON,或者一堆内部错误码。这类问题要在适配层解决——裁剪字段、把错误码翻译成一句人话再回填,别指望模型自己从 3000 行返回体里挖出那两个字段。

多工具编排这块,我的经验是:编排逻辑尽量放应用侧,不要全押在模型自选上。有明确先后依赖的流程——先查订单、再查物流、最后按规则算赔偿——在应用侧写成固定管道,模型只负责填参数和理解意图;只有真正开放性的问题才让模型自己挑工具组合。理由很朴素:模型自选工具有概率抖动,关键业务路径抖不起。

还有一个规模问题值得提前想:注册的函数一多,选错率明显上升。超过二三十个就该做分组和路由了——按场景先路由到一组工具,再让模型在小组里选。别指望一口气把整个公司的接口都塞给一个模型。

最后提一个并行调用的坑。模型一轮里同时发起多个工具调用很常见(比如同时查三个订单),应用侧并发执行没问题,但有两个细节必须自己兜住:一是幂等,同一个工具重复触发不能产生两条写记录;二是限流,别让模型一口气并发十个请求把内部系统打挂,这块宁可在适配层排队串行化几个;再配一份调用日志,把每次的工具名、参数、耗时、返回码记下来,排查时基本不用猜。

Function Calling × MCP × Agentic RAG:单点能力要拼成体系

上一篇写 Agentic RAG 的时候说过,检索增强解决的是「模型知道什么」,这篇补上工具执行这块——「模型能做什么」,两块拼起来才是一个完整的智能体。

三者的分工可以这么理解:Function Calling 是模型侧的原生能力,解决「模型怎么表达要调工具」;MCP 解决的是「工具怎么被复用」——一套工具按协议封装一次,不同模型、不同客户端都能接,不用每换一个模型就重写一遍适配层。RAG 检索器本身也可以包装成一个 function,让模型自己判断这个问题该查知识库、查订单库,还是两个都查再汇总——比在外面写死「先检索再生成」的流程灵活得多。

选型上我的看法是:企业内部核心系统的接入,以 schema 治理为主,Function Calling 直连,可控性和排障效率都更好;要跨模型复用、或者要开放给生态里其他工具调用的,走 MCP。别陷入「选哪个」的纠结——通道只是通道,真正决定成败的还是接口治理那一层。

补一个背景数据。今年 9 月我们做过一轮企业 AI 可见度摸底调研,50 家样本里能被五款主流大模型识别出基本信息的只有 7 家——公开信息尚且如此,企业内部数据的「AI 可见度」问题只会更严重。Function Calling 和 MCP 干的事,本质上就是把企业自己的系统变成大模型可调用的信源。这也是我们在易科势腾推 AI 友好化时反复跟客户讲的一个观点:AI 友好化不只发生在官网上,企业内部系统同样要变得「AI 可读、AI 可调」,这两件事迟早会汇成同一套工程。

写在最后

Function Calling 技术上真不复杂:一个循环、一份 schema,一天就能跑通 demo。门槛全在工程化——schema 是不是当成接口合同来写、校验和兜底是不是覆盖了所有失败路径、工具规模是不是做了治理、改 schema 有没有走版本化和回归、工具的权限边界有没有随接入重新过一遍。这几件事做扎实了,模型才算真的从「会答」走到「会做」;做不扎实,它就只是一台更体面的编故事机器。