┌──────────────────────────────────────────────┐
│ 用户(小程序/Web) │
│ ↓ WebSocket/SSE │
│ Spring Boot网关层 │
│ ↓ │
│ ┌──────────────────────────────────────┐ │
│ │ Agent引擎 │ │
│ │ IntentClassifier → 意图识别 │ │
│ │ ToolRouter → 工具路由分发 │ │
│ │ DialogueManager → 多轮对话管理 │ │
│ │ EmotionDetector → 情绪识别 │ │
│ └──────────────────────────────────────┘ │
│ ↓ ↓ ↓ ↓ │
│ RAG检索 Function 工单系统 人工转接 │
│ (知识库) Calling (RabbitMQ) (WebSocket)│
│ ↓ ↓ │
│ Milvus 内部API │
└──────────────────────────────────────────────┘
意图识别路由:
用户消息进入后,先做意图分类:
FAQ问答 → 走RAG检索知识库(占40%)
订单查询 → Function Calling调订单API(占25%)
物流查询 → Function Calling调物流API(占15%)
售后问题 → 自动创建工单+MQ通知(占10%)
投诉/情绪 → 情绪识别+转人工(占5%)
闲聊 → 小模型直接回复(占5%)
Spring AI实现:
chatClient.prompt()
.user(userMessage)
.functions("queryOrders", "queryLogistics", "createTicket")
.call()
.content();
// 模型自动识别意图 → 选择工具 → 执行 → 生成回答
情绪识别三级判断:
1. 关键词匹配: "投诉/差评/退款/垃圾/骗人" → 负面
2. LLM情绪分析: 调用模型判断(正面/中性/负面)
3. 连续负面: 连续3轮负面 → 自动触发转人工
转人工实现:
WebSocket建立客服-用户通道
→ 历史对话摘要自动发给人工客服(LLM生成3句话摘要)
→ 人工接管后Agent退出
→ 人工结束后Agent可重新接管
摘要实现:
String summary = chatClient.prompt()
.system("将对话压缩为3句话: 1)用户问题 2)已尝试方案 3)当前诉求")
.user(chatHistory)
.call()
.content();
触发条件:
- Agent连续2次无法回答满意
- 涉及退款/赔偿需人工审核
- 用户主动要求人工服务
流程:
Agent判断需创建工单
→ Function Calling调createTicket
→ RabbitMQ发送工单消息
→ 客服后台实时通知
→ 工单状态变更回调通知用户
MQ解耦的好处:
1. Agent不阻塞等待(用户体验好)
2. 客服后台可按优先级排序(情绪等级/金额)
3. 峰值缓冲(大促期间工单暴增不丢消息)
4. 工单系统故障不影响主对话流程
系统架构:
用户(Vue前端)
↓ HTTP/SSE
Spring Boot网关层(Controller + Advisor链)
↓
┌─────────────────────────────────┐
│ 核心服务层 │
│ DocumentService → 文档导入/分块 │
│ EmbeddingService → 向量化 │
│ RetrievalService → 检索+重排序 │
│ ChatService → LLM对话生成 │
│ SessionService → 会话管理 │
└─────────────────────────────────┘
↓ ↓ ↓
Milvus Redis DeepSeek
(向量存储) (缓存/会话) (大模型API)
混合检索+Rerank流程:
第一步: 混合检索
Dense向量检索(Milvus): 语义匹配 → Top-20
Sparse BM25(Milvus 2.5): 关键词匹配 → Top-20
RRF融合排序 → Top-10
第二步: Rerank重排序
bge-reranker-v2-m3精排 → 过滤<0.7
第三步: Prompt组装
System: "基于上下文回答,无法回答请说明"
Context: 检索文档片段(控制4000 token内)
Question: 用户问题
优化历程:
v1.0 纯向量检索: 准确率72%
v2.0 混合检索: 准确率83%
v3.0 + Rerank重排序: 准确率91%
请求处理链:
用户请求 → RateLimitAdvisor(限流)
→ SensitiveWordAdvisor(敏感词过滤)
→ CacheAdvisor(语义缓存命中检查)
→ LoggingAdvisor(审计日志)
→ RAG检索 + LLM生成
→ CacheAdvisor(缓存存储)
→ 返回响应
语义缓存实现:
用户问题 → Embedding → 与缓存向量做余弦相似度
> 0.95 → 命中缓存(不调大模型)
< 0.95 → 走正常RAG流程,结果写入缓存
效果: 缓存命中率35%,API成本降低35%
问题: 所有问题都调API,月费用超预算
方案:
简单问题(FAQ/闲聊) → 本地小模型(Ollama qwen2.5:3b),免费
复杂问题(推理/专业) → DeepSeek API
路由判断: 问题长度+关键词规则(后续升级为LLM分类)
效果: API调用量降低55%
这两个项目是你AI定价系统之外的第二项目,
面试中作为"AI工程能力"的补充证明。
智能客服(推荐作为第二项目):
面试官: "除了定价系统,你还做过什么AI项目?"
回答: "我还做了一个AI智能客服系统,核心是Agent模式——
用Function Calling让Agent自主调用订单/物流/工单等API,
替代了传统决策树。意图识别准确率从78%提升到93%,
62%的问题AI自动解决。"
知识库问答(备选第二项目):
回答: "我还做过一个RAG知识库问答系统。
核心亮点是混合检索(Dense+Sparse)+Rerank重排序,
检索准确率从72%提升到91%。
还有Agentic RAG自适应检索——Agent根据问题复杂度
动态选择检索策略。"
两个项目的差异化:
AI定价系统 = AI + 业务深度融合(主打项目)
智能客服 = Agent架构 + Function Calling(第二项目)
知识库问答 = RAG检索链路优化(备选第二项目)
┌────────────────┬──────────────┬──────────────┐
│ 指标 │ 智能客服 │ 知识库问答 │
├────────────────┼──────────────┼──────────────┤
│ 意图识别准确率 │ 93% │ - │
│ FAQ准确率 │ 95%+ │ 91% │
│ 自动解决率 │ 62% │ - │
│ 首字响应时间 │ 1.5s │ < 800ms │
│ 缓存命中率 │ - │ 35% │
│ 日均对话量 │ 2000+ │ 500+ │
│ 人工效率提升 │ 40% │ - │
└────────────────┴──────────────┴──────────────┘
1. 画出智能客服的Agent架构图,标注5种意图的处理路径
2. Agent模式替代传统决策树(if-else)的优势是什么?举出3点
3. 混合检索为什么比纯向量检索效果好?用"SKU编号"为例说明
4. 如果面试官问"你做过几个AI项目",你怎么组织回答?
5. 情绪识别+人工转接的设计思路是什么?为什么要生成对话摘要?