← 课程目录 🚀 从零到一
📐 学习维度 阶段6 · 第26章 AI 项目实战(11 个模板取 5 个精品化) 🚀 从零到一 📚 课程目录 🏠 首页 🛤️ 学习路径

26.1 项目实战:智能知识库问答系统

审校 2026-09-25 · 素材来源:深度文13(AI项目实战01改写)、L29
📑 本篇章节导航 (共9节,点击直达)
架构:一条链四个服务文档导入:分块策略不是拍脑袋检索与重排:准确率的三级跳多轮对话与语义缓存降级与容灾:三层兜底数据库设计:六张表的分工成果与踩坑面试怎么问一句话总结

24 章把 RAG 的零件讲全了,这一节把它们装成一台整机——智能知识库问答系统(企业内文档集中导入,员工用自然语言提问,系统检索文档生成带出处的答案)是 Java 工程师最该先做的 AI 项目:技术栈全在舒适区(Spring Boot 3 + Spring AI 1.x),难点集中在 RAG 链路本身,面试讲起来每一层都有细节可挖。以下按真实项目的复盘口径写:先架构,再四个核心模块,最后是能写进简历的量化结果与踩坑。

架构:一条链四个服务


用户(Vue) → HTTP/SSE → 网关层(Controller+Advisor链)
  → DocumentService   文档导入/分块
  → EmbeddingService  向量化
  → RetrievalService  检索+重排
  → ChatService       LLM生成/多轮对话
存储三件套:Milvus(向量) + Redis(缓存/会话) + MySQL(元数据)

设计上只有一处值得强调:导入与问答是两条独立链路。文档导入是离线批处理(上传→解析→分块→向量化→入库),问答是在线低延迟链路(检索→重排→生成);两条链路共用 Milvus 但互不阻塞——导入新文档不影响正在进行的问答,这是 10.1 读写分离思想在向量库上的翻版。

文档导入:分块策略不是拍脑袋

支持 PDF/Word/Markdown/TXT 四种格式,处理流程:上传→格式解析→清洗(去空行乱码)→分块(512 token、重叠 64)→Embedding→存 Milvus 双字段(Dense+Sparse)。分块策略按文档类型分三档:通用文档用固定 512 token;技术文档按 Markdown 标题切(## 级别分割,24.1 的结构分块);高精度场景用语义分块(相邻句 Embedding 相似度骤降处切割)。真实踩坑:PDF 解析是最大的暗坑——Apache PDFBox 对表格的解析效果很差,复杂 PDF 最终用 OCR 方案补充才达标。表格被切碎成乱序文本,向量再准也检索不到,这种问题不在模型在数据。

检索与重排:准确率的三级跳

检索是本项目面试必问的亮点,优化历程三版:v1.0 纯向量检索,准确率 72%——专有名词(SKU 编号、内部术语)匹配不到,语义近似救不了关键词;v2.0 混合检索(Dense 向量 Top20 + BM25 Top20,RRF 融合取 Top10),准确率 83%——24.1 的混合检索从理论变成了指标;v3.0 加 Rerank 精排(bge-reranker 对 Top10 重排,滤掉相似度低于 0.7 的结果),准确率 91%。三版换来的经验一句话:向量管语义、BM25 管关键词、Rerank 管精度,三层各司其职缺一不可。Prompt 组装同步收敛:System 写死「基于以下上下文回答,无法回答请说明」,Context 拼接的片段总量控制在 4000 token 内——超长的上下文只会稀释注意力(22.1),不会增加正确。

多轮对话与语义缓存

多轮对话的会话管理用 Redis Hash 存对话历史,滑动窗口保留最近 10 轮;总 token 超过模型窗口 70% 时触发压缩:最早的轮次淘汰、历史做 LLM 摘要压到五分之一、实体与意图提取进长期记忆(向量库)——23.2 的窗口管理三件套在项目里的原样落地。另一个省钱利器是语义缓存:用户问题 Embedding 后与缓存里的向量做余弦相似度,大于 0.95 直接返回缓存答案不调大模型,未命中才走 RAG 全流程并回写缓存。上线后缓存命中率 35%,等于 API 成本直降三成半——「昨天有人问过差不多的问题」在企业场景是常态,这一层缓存比任何模型优化都便宜。

降级与容灾:三层兜底

大模型 API 挂了怎么办?三层容灾:主模型不可用自动切备用模型(Spring AI 多 Model 配置加 CircuitBreaker);所有模型不可用,返回缓存中相似问题的历史答案;完全无响应,降级提示稍后重试。三层与 16.5 Sentinel 熔断降级是同一个思想:外部依赖必然会挂,挂了之后的用户体验才是工程水平。成本侧再叠一层双模型路由:简单问题(FAQ、闲聊)走本地小模型(Ollama 部署,免费),复杂问题才走 API——路由判断先用规则(问题长度+关键词),后续升级为 LLM 分类。最终 API 调用量降 55%,月费用对半砍。

数据库设计:六张表的分工

元数据层六张表各管一段:knowledge_base(知识库:名称、文档数)、document(文档:类型、分块数、状态——导入是异步任务,状态机走「解析中→向量化中→可用/失败」,失败要能重试单篇)、document_chunk(文档块:内容、序号、token 数、milvus_id——MySQL 存原文、Milvus 存向量,双库靠 milvus_id 关联,这是向量库选型「MySQL/ES 无语义但 Milvus 不存关系」的落地解法,24.2 的结论在此兑现)、chat_session 与 chat_message(会话与消息:role、tokens、latency_ms——延迟逐条入库,22.5 的计量账从表结构就开始记)、user_feedback(点赞点踩:message_id 关联,25.4 的质量信号源)。表设计的经验一句话:向量库管「找得到」,MySQL 管「说得清」——出处引用、审计追踪、统计报表全部依赖关系库里的这张 chunk 表。

成果与踩坑

指标数据
问答准确率91%(RAGAS 评测,24.1 三指标)
首字响应< 800ms(SSE 流式)
语义缓存命中率35%
API 成本节省55%(双模型路由)
最大知识库10 万+ 文档块

踩坑清单:PDF 表格解析稀碎(OCR 补救);纯向量检索专有名词失灵(混合检索);多轮上下文无限堆(70% 窗口红线加摘要压缩);准确率没有评测基线就调参(先建 100 条标注问答对,RAGAS 跑分,再谈优化——25.4 的 Golden Set 纪律在项目第一天就该立);缓存只按字面匹配(语义缓存按相似度命中才是真缓存);模型单一供应商(三层容灾保底)。

面试怎么问

一句话总结

智能知识库问答是 RAG 理论的验收场:混合检索加 Rerank 把准确率从 72 拉到 91,语义缓存与双模型路由把成本砍半,三层容灾保住可用性——每一个数字背后都是 24 章某一节的落地,讲项目时把指标和原理对上号,说服力翻倍。