企业想接 AI,最头疼的不是模型,而是:OpenAI、DeepSeek、通义各家的 API 长得都不一样。每接一家就写一套代码,模型一换全得重写。这篇拆 RuoYi-AI 的 chat 模块怎么用一层抽象吃掉所有模型差异,以及它的工作流引擎怎么编排 AI 任务。
阶段六会系统讲 AI 应用开发。这篇先看开源实现长什么样,后续互为印证。
用户在聊天框敲一句"帮我总结这份合同",前端发请求到后端。后端要干五件事:查这个租户配了哪个模型、把历史消息和知识库检索结果拼成上下文、判断走普通对话还是工作流、流式把回答吐回去、中途记录每个监听事件。
这套流程的入口只有一个:ChatServiceFacade.sseChat()。所有 AI 交互都从这门进。
ChatServiceFacade 像餐厅前台,你只管点单,它在后台协调后厨各岗位。ChatServiceFactory 像快递分拣中心,看包裹标签(providerCode),扔到对应传送带(OpenAI/DeepSeek/通义的具体实现类)。
普通对话走传送带就完了。工作流则像一条流水线:每个工位是一个 AI 能力,问题像零件流过去,逐个加工,中途还能暂停等人审核。
// 假设要接一个新厂商 "foo-llm",只需继承抽象类加一个注解
@Component
public class FooChatService extends AbstractChatService {
@Override
public String getProviderName() {
return "foo-llm"; // 工厂按这个 key 自动注册
}
@Override
protected Flux<String> doChat(ChatRequest req) {
// 适配该厂商的 HTTP 协议,返回流式 Flux
return fooClient.stream(req.getPrompt());
}
}
配置里把模型的 providerCode 设为 foo-llm,重启即生效。工厂代码一行不用改,这就是开闭原则(对扩展开放、对修改关闭)的落地。
ChatServiceFactory 实现了 ApplicationContextAware。Spring 启动时它调 ctx.getBeansOfType(AbstractChatService.class),把容器里所有聊天服务实现捞出来,按各自 getProviderName() 塞进 Map。运行期路由就是一次 Map 查找。
不用 if-else 硬编码,新增实现只加类不改工厂——这是工厂模式(把对象创建和选择逻辑集中到一处)加 Spring 容器扫描的经典配合。
ChatServiceFacade 是门面模式(给复杂子系统一个统一入口):查模型配置、构建上下文、判断走工作流还是普通对话、路由到 Provider,全部在门面里串好。AbstractChatService 则是模板方法模式(父类定骨架、子类填空):公共逻辑(上下文构建、计费、监听)父类写死,各家协议差异留给子类的 doChat()。
RuoYi-AI 的 aiflow 模块基于 LangGraph4j(Java 版图编排框架)搭可视化工作流,类似 Dify/n8n:
[开始] → [知识库检索] → [LLM回答] → [条件分支] → [邮件发送]
↓
[人工审核] ← 中断点
三个关键设计:
1. StateGraph 做状态机(根据当前状态和输入决定下一步跳到哪的模型)驱动节点流转
2. MemorySaver 做 Checkpoint,配合 interruptBefore 支持流程中断后恢复——人工审核节点就靠这个
3. SSE 流式推送节点事件([NODE_RUN_xxx]、[NODE_OUTPUT_xxx]),前端能实时看到节点逐个点亮
每个节点继承 AbstractWfNode,父类定死三步模板:initInput() 准备输入、onProcess() 子类实现、saveOutput() 保存输出。LLMAnswerNode、MailSendNode、HttpRequestNode 各管各的加工逻辑。
流式响应在多机部署下有个坑:用户的 SSE 连在 A 机器,请求被负载均衡打到 B 机器怎么办?项目用 Redis Pub/Sub 解决:B 机器把生成内容发到 Redis 频道,A 机器订阅后转发到用户连接(见 SseEmitterManager)。连接超时设一天、60 秒心跳清死连接,都是生产级的细节。
observability/ 目录下有 13 个 Listener,挂满 LLM 调用全生命周期。MyChatModelListener 监听模型请求和响应,MyAgentListener 监听 Agent 执行,MyToolExecutedEventListener 监听工具调用,MyMcpClientListener 监听 MCP 客户端。
这是观察者模式(一个对象状态变化时自动通知所有订阅者)。意义在于:LLM 的输出天生不确定,同一问题两次回答可能不同,出了问题没有完整调用链等于盲飞。监听器把每次模型调用的入参、出参、耗时、Token 消耗都记下来,排查"AI 为什么答错"才有据可查。
整个工程是 Maven 多模块结构。ruoyi-common 下 27 个公共组件(Redis 封装、SSE 核心、多租户、限流、幂等等),ruoyi-modules 放业务(chat、aiflow、graph、workflow),ruoyi-modules-api 放跨模块接口契约。
这样分的好处是依赖方向单向:业务依赖 common,common 不反向依赖业务。跨模块调用只走 api 契约,避免模块间缠成蜘蛛网。接口分离(依赖抽象而非具体实现)在中大型项目里就是保命的设计。
"思考模式"下还有一层编排:SupervisorAgent 像主管,手底下挂着 SQL Agent、搜索 Agent、图表 Agent 三个专家。用户提问后主管判断派谁干活,子 Agent 各自执行,最后按 SupervisorResponseStrategy.LAST 策略汇总回答。
这就是 Multi-Agent(多智能体,多个各有专长的 AI 协作完成任务)。类比公司里的 DBA、搜索工程师、可视化工程师,主管按任务分派,比一个大模型硬扛所有事更准也更省 Token。
AI 回答是逐字生成的,体验上要求"打字机效果"。SSE(Server-Sent Events,服务端单向持续推送的 HTTP 技术)只要一条普通 HTTP 连接,浏览器原生支持,比 WebSocket 轻得多。对话场景客户端不需要反向高频发消息,SSE 够用且更省心——经过网关、nginx 时兼容性也更好。
「RuoYi-AI 怎么做到一套代码接入多家模型?」——答:门面 ChatServiceFacade 统一入口,工厂 ChatServiceFactory 用 ApplicationContextAware 在启动时自动收集所有 AbstractChatService 实现并按 providerName 注册,新增厂商加一个 @Component 即可,模板方法把协议差异隔离在子类。
「工作流引擎怎么支持人工审批中断?」——答:LangGraph4j 的 interruptBefore 加 MemorySaver Checkpoint,流程挂起保存状态,人工确认后 resume() 从断点继续。