Function Calling 5步流程:
Step 1: 用户发送消息
用户: "帮我查一下今天的机票最低价"
Step 2: 大模型判断是否需要调用工具
模型分析: 这个问题需要实时数据 → 决定调用工具
模型返回: function_call { name: "getCurrentPrice", arguments: {route: "深圳-北京"} }
注意: 大模型不直接执行工具!只返回"应该调什么工具、传什么参数"
Step 3: 开发者代码执行工具
String result = priceService.getCurrentPrice("深圳-北京");
result = "¥680"
Step 4: 将工具结果返回给大模型
把function_call结果作为新消息发给大模型
Step 5: 大模型基于工具结果生成最终回答
模型: "今天深圳到北京的最低机票价格是680元,这是XX航空的经济舱..."
完整数据流:
User → LLM → tool_call → 你的代码执行 → 结果返回LLM → 最终回答
{
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "获取指定城市的天气信息",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string",
"description": "城市名称"
}
},
"required": ["city"]
}
}
}
]
}
关键理解:description字段非常重要——模型根据描述决定什么时候调用这个工具。描述写得好不好直接影响调用准确率。
// 方式1: @Bean + @Description
@Configuration
public class ToolConfig {
@Bean
@Description("根据城市名查询天气信息")
public Function<WeatherRequest, WeatherResponse> weatherFunction() {
return request -> weatherService.getWeather(request.city());
}
}
// 使用: 自动注册,模型自动判断调用
chatClient.prompt()
.user("深圳今天天气怎么样?")
.functions("weatherFunction") // 注册工具
.call()
.content();
// 大模型会自动判断需要调用weatherFunction
// 方式2: 函数式注册(更灵活)
chatClient.prompt()
.user("查询订单123的状态")
.function("queryOrder", "查询订单状态",
(orderId) -> orderService.getStatus(orderId))
.call()
.content();
你的项目设计(8个Tool,分两组):
AUTO组(模型自动决定调用):
@TdTool(name = "getCurrentPrice", group = "AUTO")
→ 获取当前机票价格(模型根据对话自动判断是否需要)
@TdTool(name = "getCompetitorPrice", group = "AUTO")
→ 获取竞品价格(模型自动判断)
...
MANUAL组(用户/规则显式触发):
@TdTool(name = "calculatePricing", group = "MANUAL")
→ 执行5步定价算法(需要明确触发,不能让模型随意调用)
@TdTool(name = "submitPrice", group = "MANUAL")
→ 提交定价结果(高风险操作,需要审批)
实现原理:
@TdTool注解标记方法
→ TdToolAspect切面拦截
→ 注册到Spring AI的FunctionContext
→ ChatClient调用时自动带上这些工具定义
→ 模型返回tool_call → 切面执行对应方法 → 返回结果
面试讲法:
"我设计了@TdTool注解框架,通过AOP切面自动注册工具。
分AUTO和MANUAL两组:AUTO组让模型自主决定调用时机,
MANUAL组需要业务规则显式触发,防止模型在高风险操作上'自作主张'。"
┌─────────────┬────────────────────┬────────────────────┐
│ 维度 │ AUTO模式 │ MANUAL模式 │
├─────────────┼────────────────────┼────────────────────┤
│ 触发方式 │ 模型自动判断 │ 业务规则显式触发 │
│ 适用操作 │ 查询类(只读) │ 修改类(写操作) │
│ 安全风险 │ 低 │ 高 │
│ 你的例子 │ getCurrentPrice │ calculatePricing │
│ │ getCompetitorPrice │ submitPrice │
│ 控制粒度 │ description描述控制│ 代码逻辑控制 │
└─────────────┴────────────────────┴────────────────────┘
设计考量:
定价是敏感操作,不能让模型"想调就调"。
所以5步定价算法放在MANUAL组,只有满足条件才触发。
OpenAI原生:
1. 手动构建tools JSON描述
2. 解析response中的function_call
3. 手动执行函数
4. 手动将结果塞回messages
5. 再次调用API获取最终回答
→ 需要写大量胶水代码
Spring AI封装:
1. @Bean + @Description 定义工具(或函数式注册)
2. .functions("toolName") 一行注册
3. Spring AI自动处理tool_call → 执行 → 返回结果 → 再调用
4. 开发者只需定义工具函数,不用关心中间流程
→ 大幅减少胶水代码
本质: Spring AI把OpenAI的5步流程封装成了1步注册
1. 工具描述(description)要精确:
好的: "查询指定航线、指定日期的最低机票价格"
差的: "查价格"
2. 参数定义要完整:
每个参数都要有description和type
required字段明确哪些参数必须提供
3. 控制工具数量:
单次调用工具不要超过10-15个
太多会让模型选择困难,准确率下降
4. 错误处理:
工具执行失败要返回明确的错误信息给模型
不要吞异常,让模型知道失败了可以换策略
5. 幂等性:
工具函数应该是幂等的(调用多次结果相同)
因为模型可能重复调用同一个工具
1. 画出Function Calling的完整5步流程图,标注每一步谁在做什么
2. 如果面试官问"大模型能直接执行函数吗",你怎么回答?为什么这样设计?
3. 你的项目中哪些工具适合AUTO模式,哪些适合MANUAL模式?为什么?
4. 工具的description写得好不好会直接影响什么?举一个"好描述"和"差描述"的例子
5. 如果一个Function Calling的工具执行超时了,应该怎么处理?写出你的方案