聊天式输出对演示很友好,对系统集成本能地不友好:你要的是「字段 status 等于 PAID」,模型回你一句「这个订单看起来已经支付了哦」。解析靠正则猜格式、字段靠字符串截取,一次模型改版措辞习惯,整条解析链跟着碎——让输出可编程消费,是 LLM 从玩具变组件的第一道门槛。让大模型进入生产系统的两把钥匙就在这章:结构化输出(让模型按预定义 Schema 输出可解析数据)与 Function Calling(让模型声明要调用哪个外部函数并给出参数的机制)——一个管「说得规整」,一个管「接得进系统」。
思路是把「格式」写进约定:Prompt 里给出字段定义(Schema),要求 JSON 输出。光靠 Prompt 约束不够稳——模型偶尔会带一句「好的,以下是结果」再贴 JSON,解析即炸。工程上加三道保险:Schema 约束(优先用 API 的 response_format/json_schema 能力,模型侧硬约束格式,而不是提示词软约束);解析容错(剥掉可能的 markdown 代码围栏、截取首尾大括号再反序列化);校验重试(Jackson 绑定到 POJO 或 record,校验失败把错误信息回传模型重试一次,还不行走兜底)。Schema 设计本身也有讲究:字段名用英文(省 token 且歧义少)、枚举值在 Schema 里穷举(模型只能从清单里选,比散文描述准确得多)、可选字段标注 nullable——Schema 就是你与模型之间的接口契约,写得越像正经 API 定义,输出越稳。Spring AI 把这三步压缩成一个 .entity()(23.1 见代码),框架兜底归框架,机制你得懂——温度为 0 也不是保险箱(22.1 讲过),校验层永远要留。重试有个技巧:把校验错误的原文回传给模型,它能精准修正出错的字段——报错信息本身就是最好的修正指令。
模型不知道今天的机票价,但你的系统知道。Function Calling 让模型「会喊人」:流程五步走。
① 用户: 帮我查今天深圳到北京的最低机票价
② 模型返回 tool_call: {name:"getPrice", arguments:{from:"SZX",to:"PEK"}}
—— 模型只决定"调什么、传什么",不执行
③ 你的代码执行: priceService.query("SZX","PEK") 返回 "¥680"
④ 把执行结果作为新消息回传模型
⑤ 模型基于结果生成自然语言回答
两个认知决定你能不能用对。模型从不执行任何东西——它只输出一段结构化的「调用意图」,执行的永远是你的代码,这是安全设计的根:危险永远攥在工程侧手里。工具的 description 决定调用准确率——模型全靠描述决定「什么时候调它、参数怎么填」,查价格 是坏描述,查询指定航线指定日期的最低机票价格,日期格式 yyyy-MM-dd 是好描述。参数 Schema 同理:每个参数给类型与说明,required 标清必填。还有两个进阶形态要知道:并行工具调用(一次 tool_call 里给出多个调用意图,你的代码逐个执行后一并回传——查「对比三个航司的价格」这种场景就靠它);连续多跳调用(模型拿到第一个工具的结果后发现信息不够,再发起第二个调用——查询订单→查到 userId→再查用户偏好,这已是 23.5 Agent 循环的雏形)。工具数量也要克制:一次请求注册的工具越多,模型选错的概率越大——按场景动态注册相关工具,比全家桶一锅端准确率高得多。
把所有工具一股脑塞给模型自由调用,是生产事故的种子。工程实践是分组:AUTO 组(模型自主判断调用)只放只读查询类——查价格、查订单、查库存,调错了顶多浪费一次调用;MANUAL 组(业务代码显式触发)放写操作与高危动作——提交定价、退款、删数据,由规则或人工按钮触发,模型「建议」、代码「执行」。这条分界线翻译成产品语言:模型可以「看」,不能「动手」;一切「动手」必须有人的授权链。这套分组在 Spring AI 里按工具名选择性注册即可实现(23.1 的 .functions("getPrice") 只注册想给的)。它背后的原则与 13.3 的 RBAC 同构:能力要按风险分级授权,只是这次被授权的对象是模型——权限模型管的是人,工具分组管的是 AI,而「最小权限」四个字两边通用。
Function Calling 解决「我自己的应用调我自己的工具」,但每个工具的接入都要为每个应用重写一遍胶水代码。MCP(Model Context Protocol,Anthropic 2024 年提出的工具接入标准协议)把这层标准化:工具提供方实现一次 MCP Server,任何支持 MCP 的应用都能消费——23.4 专门展开。先记关系:FC 是「模型怎么调工具」的协议,MCP 是「工具怎么暴露」的协议,一层管调用、一层管生态。
结构化输出管「说得规整」、Function Calling 管「接得进来」——前者用 Schema 三道闸锁住格式,后者记住「模型只动嘴、代码才动手」,再用 AUTO/MANUAL 分组把风险关进笼子,大模型就从聊天玩具变成可进生产系统的组件。