RAG高级优化与向量检索算法
共50道题 | 难度分布:★★★★★平均 | 20K+ AI应用岗位RAG深入必考
一、向量检索基础
Q1. 什么是向量检索(Vector Search)?与关键词检索有什么区别?
难度:★★★★☆
答案要点:
- 向量检索:将文本转为高维向量(Embedding),通过向量距离(余弦/内积/L2)找最相似的结果
- 关键词检索(BM25/TF-IDF):基于词频匹配,精确但无法理解语义
- 对比:
- "如何学习编程" vs "编程入门方法":关键词检索可能匹配不到,向量检索能理解语义相似
- "Java多线程" vs "Java并发":语义检索能匹配,关键词可能不匹配
- 实际选择:混合检索(向量+关键词)效果最好
- 面试回答:"向量检索理解语义但可能遗漏精确匹配,关键词检索精确但无法理解语义,生产环境用混合检索"
Q2. Embedding模型的工作原理?如何选择?
难度:★★★★☆
答案要点:
- 原理:文本→Transformer编码→池化(CLS/Mean)→固定维度向量(768/1536维)
- 中文模型:BGE(bge-large-zh-v1.5)、M3E、text2vec-large-chinese
- 英文/多语言:OpenAI text-embedding-3-large、Cohere embed-v3、E5
- 选型维度:①MTEB/C-MTEB基准排名 ②向量维度(768/1024/1536) ③推理速度 ④是否支持中文
- Spring AI集成:
EmbeddingModel接口→调用远程API或本地ONNX模型
- 面试要点:"选BGE(bge-large-zh)做中文场景,OpenAI做英文,兼顾效果和成本"
Q3. 向量相似度计算方法有哪些?
难度:★★★★☆
答案要点:
- 余弦相似度(Cosine):向量夹角,范围[-1,1],最常用,与向量长度无关
- 内积(Inner Product):向量点积,范围(-∞,+∞),适合归一化后的向量
- L2距离(Euclidean):向量欧氏距离,越小越相似
- 选择建议:归一化向量用内积(最快),未归一化用余弦
- 归一化:
vector / ||vector||→余弦和内积等价
- pgvector:
<=>(余弦)/<->(L2)/<#>(内积负数)
Q4. 什么是量化(Quantization)?为什么向量检索需要它?
难度:★★★★☆
答案要点:
- 问题:100万条×1536维×4字节(float32)≈6GB内存→检索慢
- 量化:降低向量精度(float32→float16/int8/1bit)减少内存和加速计算
- 标量量化(SQ):float32→float16/int8,精度损失小
- 乘积量化(PQ):将向量分段→每段聚类→用聚类ID替代→压缩率最高(10-50倍)
- 二值量化(BQ):向量二值化(±1)→Hamming距离计算,最快但精度损失大
- Milvus:支持SQ8/PQ/BQ量化
- 面试要点:"PQ用分段聚类压缩向量,内存降10倍,检索速度提升但精度有损失"
Q5. 向量数据库有哪些?如何选型?
难度:★★★★☆
答案要点:
- Milvus:分布式,功能最全,适合大规模(亿级)
- Qdrant:Rust实现,单机性能好,REST/gRPC API
- Weaviate:内置多种向量化模块,GraphQL查询
- pgvector:PostgreSQL扩展,小规模(百万级)够用,运维简单
- Elasticsearch 8.x:内置向量检索,适合已有ES集群
- Redis:Redis Stack支持向量检索,适合小规模+缓存场景
- 选型建议:<100万→pgvector/Redis,100万-1亿→Qdrant/Weaviate,>1亿→Milvus
- Java集成:Spring AI统一接口(
VectorStore),切换数据库只需改配置
二、HNSW算法深入
Q6. HNSW(Hierarchical Navigable Small World)算法原理?
难度:★★★★★
答案要点:
- 分层图结构:上层稀疏(长距离跳跃)、下层密集(精确搜索)
- 构建:新向量从顶层开始,找到最近邻→下一层→直到最底层
- 搜索:贪心搜索每层→找最近邻→下降→最底层得到Top-K
- 参数:M(每层最大连接数,默认16)、efConstruction(构建时搜索宽度,默认200)
- 时间复杂度:构建O(n log n),查询O(log n)
- 空间开销:每个向量存储M×2个连接→约为原始向量的1.5-2倍
- 面试要点:"HNSW是分层图+贪心搜索,上层粗筛下层精排,查询O(log n)"
Q7. HNSW的ef参数如何影响查询性能和精度?
难度:★★★★☆
答案要点:
- efConstruction:构建时的搜索宽度,越大图质量越高但构建越慢
- ef(搜索时):动态候选列表大小,越大精度越高但越慢
- ef=1:退化为贪心搜索,最快但精度低
- ef=数据量:暴力搜索,最慢但精度最高
- 生产调优:ef=64-256通常足够(召回率>95%)
- 经验值:ef≥2×K(K是返回数量)
- Milvus配置:
search_params={"ef": 128}
Q8. HNSW vs IVF vs暴力检索的对比?
难度:★★★★★
答案要点:
| 维度 | 暴力检索 | IVF | HNSW |
| 查询复杂度 | O(n) | O(n/probe) | O(log n) |
| 构建复杂度 | O(1) | O(n) | O(n log n) |
| 召回率 | 100% | 90-99% | 95-99.5% |
| 内存占用 | 最低 | 中等 | 最高(图的连接) |
| 增量添加 | 即时 | 需要重训 | 即时 |
| 适合数据量 | <10万 | 100万-10亿 | <1亿 |
- 混合策略:IVF+PQ(大规模+内存受限)或HNSW+SQ(中等规模+高精度)
- 面试要点:"<100万用HNSW(高精度),>1亿用IVF+PQ(大规模)"
Q9. IVF(Inverted File Index)的工作原理?
难度:★★★★★
答案要点:
- 训练阶段:K-Means将向量空间划分为nlist个聚类(Voronoi单元)
- 倒排索引:每个聚类维护一个列表,存储属于该聚类的向量ID
- 查询阶段:①计算查询向量到所有聚类中心的距离 ②选择最近的nprobe个聚类 ③在这些聚类中暴力搜索
- nprobe参数:探测的聚类数量,越大越精确但越慢
- 优化:nprobe=数据量→暴力搜索;nprobe=1→只搜最近聚类
- FAISS实现:
index = faiss.IndexIVFFlat(quantizer, d, nlist)
- 面试要点:"IVF用K-Means分区,查询时只搜最近的nprobe个分区"
Q10. 乘积量化(PQ)的详细原理?
难度:★★★★★
答案要点:
- 步骤一:将D维向量切分为M个子向量(D/M维每个)
- 步骤二:对每个子向量集合独立做K-Means聚类(通常256个中心)
- 步骤三:每个子向量用其最近的聚类中心ID(1字节)表示
- 压缩率:D×4字节→M×1字节(M=D/8,压缩32倍)
- 距离计算:查表法(预计算查询子向量到256个中心的距离)
- 精度损失:量化误差→可通过Reranking弥补
- FAISS:
IndexIVFPQ(quantizer, d, nlist, m, 8)(8bit编码)
- 面试要点:"PQ分段量化→每段独立聚类→用聚类中心ID替代原始向量→查表计算距离"
三、RAG高级优化
Q11. Chunking(文本切片)策略有哪些?如何选择?
难度:★★★★★
答案要点:
- 固定长度切片:每N个字符/Token切一段→简单但可能切断语义
- 递归字符切片:按分隔符(段落→句子→字符)递归切分→LangChain默认
- 语义切片:用Embedding计算相邻句子相似度→相似度突变处切分
- 文档结构切片:按标题/章节/段落切分→保留文档结构
- 滑动窗口:重叠(overlap)50-200字符→避免跨chunk信息丢失
- 选型建议:通用文档用递归切片(512 tokens+128 overlap),结构化文档按章节切
- Spring AI:
TokenTextSplitter/TextSplitter自定义切分策略
Q12. 混合检索(Hybrid Search)的原理和实现?
难度:★★★★★
答案要点:
- 定义:同时使用向量检索(语义)和关键词检索(BM25)→合并结果
- 为什么需要:向量检索可能遗漏精确匹配(人名/术语),关键词检索不理解语义
- 实现方式:
- 并行检索:向量Top-K + BM25 Top-K → 合并
- 串行检索:先BM25粗筛→再向量精排
- 合并策略:
- 倒数排名融合(RRF):
score = 1/(k + rank_i)求和
- 线性加权:
score = α×vector_score + (1-α)×bm25_score
- Elasticsearch 8.x:内置hybrid query支持
- pgvector + pg_bm25:PostgreSQL内同时做两种检索
Q13. Rerank(重排序)的原理和使用?
难度:★★★★★
答案要点:
- 问题:向量检索Top-K的排序不够准确(粗排)
- Rerank:用Cross-Encoder(交叉编码器)对(query, doc)对精确打分→重排序
- Cross-Encoder vs Bi-Encoder:
- Bi-Encoder(Embedding):query和doc分别编码→计算向量距离(快但不够精确)
- Cross-Encoder:query和doc拼接后一起编码→精确打分(慢但准确)
- 常用模型:bge-reranker-large、Cohere Rerank、Jina Reranker
- 流程:向量检索Top-50→Rerank→取Top-5→送入LLM
- 成本:Cross-Encoder需要N次前向传播(N=候选文档数)→比Bi-Encoder慢100倍
- Spring AI:
DocumentTransformer接口实现Rerank
Q14. Query改写(Query Rewriting)有哪些方法?
难度:★★★★☆
答案要点:
- HyDE(Hypothetical Document Embedding):LLM生成假设性回答→用回答的Embedding检索
- Multi-Query:将用户问题改写为多个不同角度的问题→分别检索→合并
- Step-back Prompting:让LLM生成更高层次的概念问题→检索更广泛
- Query Decomposition:将复杂问题拆分为子问题→分别检索→合并
- 实际选择:Multi-Query最实用(HyDE效果好但不稳定)
- 代码示例:
List<String> rewrites = chatClient.prompt()
.user("将以下问题改写为3个不同角度的搜索查询:" + query)
.call().entity(new ParameterizedTypeReference<>(){});
Q15. 如何评估RAG系统的质量?
难度:★★★★★
答案要点:
- 检索质量:召回率(Recall)@K、精确率(Precision)@K、MRR、NDCG
- 生成质量:①Faithfulness(忠实度,答案是否基于检索内容) ②Answer Relevance(相关性) ③Context Relevance(检索内容与问题的相关性)
- 工具:RAGAS(RAG Assessment)框架自动评估
- 人工评估:Golden Set(标准问答集)→人工评分→定期回归测试
- LLM-as-Judge:用GPT-4等评估答案质量
- 线上指标:①用户满意度(点赞率) ②答案引用率 ③幻觉率(抽样检查)
- 面试要点:"离线用RAGAS评估检索+生成质量,在线用用户反馈+抽样检查"
四、RAG工程化
Q16. 如何设计一个高可用的RAG系统架构?
难度:★★★★★
答案要点:
- 架构:用户请求→API网关→RAG服务(查询改写→检索→Rerank→LLM生成)→返回
- 文档入库:文档上传→解析(PDF/Word/HTML)→切片→Embedding→向量库
- 缓存层:相同/相似问题缓存答案(Embedding相似度>0.95)
- 降级策略:RAG失败→调用通用LLM(无检索增强)
- 限流:Token/请求级限流
- 监控:检索延迟/LLM延迟/Token消耗/答案质量
- 弹性:K8s HPA根据QPS自动伸缩RAG服务
Q17. RAG系统的延迟优化策略?
难度:★★★★★
答案要点:
- 检索优化:①HNSW索引 ②量化(PQ/SQ) ③缓存热门查询
- Embedding缓存:相同文本的Embedding结果缓存(Redis)
- 并行处理:Query改写、向量检索、BM25检索并行执行
- 流式输出:LLM生成采用SSE流式→首字延迟降低
- 预计算:热门文档的Embedding预计算+定期更新
- 模型选择:Embedding用小模型(bge-small)、Rerank用中等模型、LLM用大模型
- 性能目标:检索<100ms、Rerank<200ms、LLM首字<500ms、总延迟<2s
Q18. 如何处理RAG系统的幻觉(Hallucination)?
难度:★★★★★
答案要点:
- 幻觉类型:①无根据编造(答案不在检索内容中) ②矛盾(与检索内容矛盾) ③过时信息
- 检测方法:①Faithfulness评估(答案是否基于上下文) ②引用溯源(标注答案来源) ③LLM自检
- 防范策略:
- Prompt工程:明确要求"只根据提供的上下文回答,不要编造信息"
- 温度参数:调低temperature(0-0.3)减少随机性
- 引用标注:要求LLM在答案中引用具体文档段落
- 置信度评估:让LLM评估答案的确定性
- 护栏(Guardrails):输出过滤+关键词检查
- 面试要点:"幻觉是RAG的头号敌人,核心策略是严格限制LLM只基于检索内容回答"
Q19. RAG vs Fine-tuning如何选择?
难度:★★★★★
答案要点:
- RAG优势:①知识可更新(改向量库即可) ②可溯源 ③无需训练成本 ④适合知识密集型任务
- Fine-tuning优势:①风格/格式定制 ②特定领域优化 ③推理更快(无需检索)
- 选择原则:
- 知识经常变化→RAG
- 需要特定风格/格式→Fine-tuning
- 两者结合:Fine-tune模型适应业务风格+RAG提供最新知识
- 面试回答:"知识更新用RAG,风格定制用Fine-tuning,生产中经常两者结合使用"
- 成本对比:RAG运维成本低(只维护向量库),Fine-tuning训练成本高(需GPU)
Q20. 如何实现RAG的增量更新?
难度:★★★★☆
答案要点:
- 问题:知识库不断更新→向量库需要同步更新
- 方案一:全量重建(简单但有窗口期不可用)
- 方案二:增量添加(推荐)
- 新文档→切片→Embedding→添加到向量库
- 删除:标记为deleted→查询时过滤
- 版本管理:文档版本→过期文档自动清理
- 监控:文档入库延迟(从上传到可检索的时间)
- Spring AI:
vectorStore.add(documents)/vectorStore.delete(ids)
- 一致性:文档写入DB→异步Embedding→写入向量库→最终一致
五、RAG高级场景
Q21. 如何实现多模态RAG(图文混合检索)?
难度:★★★★☆
答案要点:
- 场景:知识库包含图片(图表/截图/流程图)→需要检索图片中的信息
- 方案一:OCR+文本RAG→提取图片文字→转为文本→常规RAG
- 方案二:多模态Embedding(如CLIP)→图片和文本映射到同一向量空间→统一检索
- 方案三:视觉LLM(如GPT-4o)→直接理解图片→生成图片描述→文本RAG
- 实际选择:方案一最简单,方案二最优雅,方案三最强大
- Spring AI:多模态支持
Media类型→发送图片到多模态LLM
Q22. 如何实现结构化数据的RAG(Text-to-SQL)?
难度:★★★★☆
答案要点:
- 场景:用户用自然语言查数据库("上个月深圳地区的销售额是多少")
- 流程:用户问题→LLM生成SQL→执行SQL→结果→LLM生成自然语言回答
- 关键挑战:①Schema理解(需要把表结构传给LLM) ②SQL正确性 ③安全性(防注入)
- Few-shot:提供几个示例(Question→SQL)提升准确率
- 安全措施:①只读权限 ②SQL语法校验 ③结果行数限制 ④敏感表过滤
- 工具:LangChain SQL Agent / Spring AI + JDBC
- 面试要点:"Text-to-SQL的关键是把Schema作为上下文传给LLM+安全限制"
Q23. 如何实现对话式RAG(带历史上下文的检索)?
难度:★★★★☆
答案要点:
- 问题:多轮对话中"它怎么样?"→需要理解"它"指代上文内容
- 方案一:将历史对话+当前问题拼接→一起做检索→上下文增强
- 方案二:Query改写→用LLM将"它怎么样?"改写为"XX产品的质量怎么样?"→检索
- 方案三:独立上下文模块→维护对话状态→提取关键实体→增强检索
- Spring AI:
ChatClient自动管理对话历史→Advisor链处理检索增强
- 注意:对话历史过长→截断或摘要→只保留最近N轮
Q24. 如何处理长文档的RAG?
难度:★★★★☆
答案要点:
- 问题:长文档(>100页)→切片后上下文碎片化→检索到的片段缺乏全局信息
- 方案一:父子文档检索(Parent-Child)
- 切分为小chunk做Embedding检索→返回对应的父文档段落
- 方案二:文档摘要+原文
- 对每个chunk生成摘要→摘要做检索→返回原文
- 方案三:树形摘要(Tree Summary)
- 自底向上逐层摘要→构建文档树→检索时从顶层开始
- 方案四:长上下文LLM(如Claude 200K)→直接将整个文档放入上下文
- 面试要点:"长文档RAG的核心是平衡检索精度和上下文完整性"
Q25. 如何实现RAG的知识库管理后台?
难度:★★★★☆
答案要点:
- 功能:①文档上传(PDF/Word/HTML/TXT) ②文档列表/搜索 ③切片预览 ④向量库状态 ⑤质量评估
- 架构:Vue3前端 + Spring Boot API + 向量数据库 + PostgreSQL元数据
- 文档处理:上传→Tika/PDFBox解析→切片→Embedding→向量库
- 版本管理:文档版本→增量更新→旧版本过期
- 权限:不同知识库的访问控制(租户/部门隔离)
- 监控:文档数量、向量数量、检索QPS、平均延迟
六、向量检索高级
Q26. 向量索引的构建和更新策略?
难度:★★★★☆
答案要点:
- 全量构建:所有向量一次性建立索引→适合初始化
- 增量添加:新向量动态加入索引→HNSW支持,IVF需要周期性retrain
- 删除:①标记删除(查询时过滤) ②实际删除(重建索引)
- 更新:删除旧向量+添加新向量
- Milvus:支持实时插入+自动索引更新
- 性能:插入速度≈1000-5000条/秒(HNSW),取决于向量维度
- 最佳实践:批量插入(每次1000条)>单条插入
Q27. 如何选择向量维度?
难度:★★★★☆
答案要点:
- 维度越高→表达力越强但存储和计算成本越大
- 常见维度:384(small)/768(base)/1024/1536(large)/3072(xlarge)
- 成本:100万条×1536维×4字节≈6GB;100万条×768维×4字节≈3GB
- 检索速度:维度越高→距离计算越慢→HNSW/IVF影响更大
- 选择建议:中文场景用768(bge-base-zh)够用,英文用1536(OpenAI)
- Matryoshka Representation Learning(MRL):训练时可变维度的Embedding
- 面试要点:"768维性价比最高,1536维效果最好但成本翻倍"
Q28. 向量检索的过滤(Filter)如何实现?
难度:★★★★☆
答案要点:
- 场景:检索"Java相关"文档→先过滤category="Java"→再向量检索
- 实现方式:
- 前过滤(Pre-filtering):先过滤元数据→在结果中做向量检索→可能候选太少
- 后过滤(Post-filtering):先向量检索→再过滤元数据→可能结果不足K个
- 内置过滤(Metadata Filtering):向量库原生支持→最优
- Milvus:
search(expr='category == "Java"', data=[query_vector])
- pgvector:
WHERE category='Java' ORDER BY embedding <=> query LIMIT 10
- Spring AI:
SearchRequest.builder().query(text).filterExpression("category=='Java'")
Q29. 什么是SPLADE(稀疏向量检索)?
难度:★★★★☆
答案要点:
- 稀疏向量:大多数维度为0,只有少数维度有值(类似BM25的词权重)
- SPLADE:学习稀疏表示的模型→将文本映射到词表大小的稀疏向量
- 优势:①可解释(每个维度对应一个词) ②精确匹配能力强 ③与BM25兼容
- 混合检索:稠密向量(语义)+稀疏向量(精确)→RRF融合
- Elasticsearch 8.x:支持SPLADE稀疏向量检索
- 面试要点:"SPLADE是学习型稀疏向量,兼顾语义理解和精确匹配"
Q30. 向量检索的ANN(Approximate Nearest Neighbor)精度评估?
难度:★★★★☆
答案要点:
- Recall@K:ANN返回的Top-K中有多少是真实Top-K
- 计算方式:
Recall@K = |ANN_K ∆ True_K| / K
- 典型值:HNSW Recall@10通常>95%,IVF Recall@10通常>90%
- 影响:ef(HNSW)/nprobe(IVF)越大→Recall越高→查询越慢
- 测试方法:①暴力检索得到Ground Truth ②ANN检索→计算Recall
- 生产建议:Recall@10>95%为合格,Recall@10>99%为优秀
七、RAG面试实战
Q31. 如何回答"你们RAG系统的检索策略怎么设计的"?
难度:★★★★★
答案要点:
- 结构化回答:"我们的RAG系统采用三层检索策略:第一层用BM25关键词检索做粗筛(Top-100),第二层用bge-large-zh向量检索做精排(Top-30),第三层用bge-reranker做重排序(Top-5)。配合Multi-Query改写提升召回率,最终送入LLM生成答案"
- 关键点:①说出具体模型名 ②说清楚检索层次 ③说清数量(Top-K) ④提到评估指标
- 避坑:不要说"用向量数据库搜一下",要说具体策略和参数
Q32. RAG系统的Token成本如何控制?
难度:★★★★☆
答案要点:
- 成本来源:①Embedding(输入Token) ②LLM(上下文Token+生成Token)
- 优化策略:
- 减少上下文长度:Rerank后只送Top-3(不是Top-10)→减少80%上下文Token
- 缓存:相同问题缓存答案→避免重复调用LLM
- 摘要:对长文档先摘要→送摘要而不是原文
- 模型选择:简单问题用小模型(GPT-4o-mini),复杂问题用大模型
- 监控:每次请求记录input_tokens/output_tokens/model→按天统计成本
- 面试要点:"Top-3+Rerank比Top-10直接送LLM节省60%Token成本"
Q33. 如何实现RAG的A/B测试?
难度:★★★★☆
答案要点:
- 测试维度:①不同Chunking策略 ②不同Embedding模型 ③不同检索方法 ④不同Prompt
- 实现方式:请求路由→实验组(A/B)→不同配置→收集指标→比较
- 评估指标:答案质量(人工评分/LLM-as-Judge)、检索召回率、用户满意度
- 流量分配:50/50或90/10(灰度)
- 统计显著性:收集足够样本→统计检验→确认效果
- 工具:自建实验平台或使用LLM评估框架(RAGAS)
Q34. 如何设计RAG的监控告警体系?
难度:★★★★☆
答案要点:
- 关键指标:①检索延迟(P50/P99) ②LLM延迟 ③Token消耗 ④幻觉率 ⑤用户满意度
- 检索监控:向量库QPS/延迟/Recall变化
- 质量监控:每日抽样10条→LLM-as-Judge评分→低于阈值告警
- 成本监控:Token消耗趋势→异常增长告警
- 错误监控:检索失败率、LLM错误率、超时率
- 工具:Prometheus+Grafana+自定义Dashboard
- 告警:幻觉率>5%→P1告警,检索延迟>500ms→P2告警
Q35. RAG系统的常见反模式(Anti-Pattern)?
难度:★★★★☆
答案要点:
- ①盲目增大Top-K:送太多上下文→LLM困惑+成本暴增(Top-5通常比Top-20效果好)
- ②忽略Rerank:直接用向量检索结果→精度不够
- ③固定切片不调优:不同文档用同一个切片策略→效果差
- ④不做评估:没有Golden Set→无法衡量改进效果
- ⑤忽略元数据:不利用文档的标题/标签/日期→检索效率低
- ⑥过度工程化:简单场景用简单方案(不一定需要Rerank/Multi-Query)
八、前沿方向
Q36. GraphRAG(图检索增强)是什么?
难度:★★★★☆
答案要点:
- 问题:传统RAG检索片段→缺乏全局理解和跨文档关联
- GraphRAG(Microsoft):先用LLM构建知识图谱(实体+关系)→检索时遍历图谱
- 流程:文档→LLM提取实体和关系→构建图→社区检测→生成摘要→检索摘要+图
- 优势:①全局理解(回答总结性问题) ②跨文档关联 ③层次化信息
- 劣势:①构建成本高(需要LLM调用) ②存储成本高 ③延迟高
- 面试要点:"GraphRAG适合需要全局理解/跨文档关联的场景,传统RAG适合局部问答"
Q37. Agentic RAG是什么?与传统RAG的区别?
难度:★★★★☆
答案要点:
- 传统RAG:单次检索→生成→结束(无反馈循环)
- Agentic RAG:Agent决定是否需要检索→检索→判断是否需要更多→迭代检索→生成
- 区别:
- 传统:检索是固定的(总是检索)
- Agentic:Agent自主决定检索策略(何时/如何/是否需要)
- 实现:ReAct循环→Think→Act(Retrieve)→Observe→Think→...
- Spring AI:
ChatClient+ToolCallback实现Agentic RAG
- 面试要点:"Agentic RAG让Agent自主决定检索策略,比固定RAG更智能但延迟更高"
Q38. ColBERT(延迟交互模型)的原理?
难度:★★★★☆
答案要点:
- 问题:Bi-Encoder将整个文档压缩为单个向量→信息损失
- ColBERT:query和doc分别编码为Token级别的向量矩阵→MaxSim交互
- MaxSim:query每个token与doc所有token计算最大相似度→求和→最终分数
- 优势:比Bi-Encoder更精确(保留了Token级信息)
- 劣势:存储成本高(每个文档存所有Token向量)→需要压缩
- 面试要点:"ColBERT用Token级交互代替文档级向量,更精确但存储更大"
Q39. RAG 2.0(端到端训练)是什么?
难度:★★★☆☆
答案要点:
- 传统RAG:检索器和生成器独立训练→不一定最优
- RAG 2.0:端到端联合训练检索器和生成器→整体优化
- 实现:让检索结果的梯度反传到检索器→检索器学会检索对生成有用的内容
- 代表:Contextual AI的RAG 2.0
- 面试要点:"RAG 2.0是端到端联合训练,让检索和生成互相优化"
Q40. 如何在Spring AI中实现完整的RAG管道?
难度:★★★★★
答案要点:
@Bean
CommandLineRunner ragPipeline(VectorStore vectorStore, ChatClient chatClient) {
return args -> {
// 1. 文档切片
var splitter = new TokenTextSplitter(512, 128, 5, true);
var chunks = splitter.apply(documents);
// 2. Embedding + 存储
vectorStore.add(chunks);
// 3. 检索增强生成
String response = chatClient.prompt()
.user(query)
.advisors(new QuestionAnswerAdvisor(vectorStore,
SearchRequest.builder().query(query).topK(5).build()))
.call().content();
};
}
- 核心组件:
VectorStore+ChatClient+QuestionAnswerAdvisor
- 自定义Rerank:实现
DocumentTransformer接口
- 流式输出:
.stream().content()→Flux<String>
九、RAG面试速查
Q41. RAG面试必背10题?
难度:★★★★★
答案要点:
1. RAG是什么?为什么需要RAG?
2. 向量检索与BM25的区别?为什么要混合检索?
3. HNSW/IVF/PQ的核心原理?
4. Chunking策略有哪些?如何选择?
5. Rerank是什么?Cross-Encoder vs Bi-Encoder?
6. 如何评估RAG系统质量?
7. 如何处理幻觉?
8. RAG vs Fine-tuning如何选择?
9. Query改写有哪些方法?
10. 向量数据库如何选型?
Q42. RAG面试进阶10题?
难度:★★★★★
答案要点:
1. HNSW的M和ef参数如何调优?
2. 如何实现多模态RAG?
3. GraphRAG与传统RAG的区别?
4. Agentic RAG的工作原理?
5. 如何控制RAG的Token成本?
6. 如何实现RAG的A/B测试?
7. 长文档RAG如何处理?
8. 对话式RAG如何维护上下文?
9. 向量检索的过滤如何实现?
10. SPLADE稀疏向量检索原理?
Q43. RAG面试场景题?
难度:★★★★★
答案要点:
- "设计一个法律知识库的RAG系统"→考虑精确性(关键词检索)、权威性(文档来源)、可溯源性(引用标注)
- "如何优化RAG的检索召回率"→Multi-Query+HyDE+混合检索+Rerank
- "如何处理RAG的实时数据更新"→增量Embedding+向量库实时插入
- "1000万条文档的RAG系统怎么设计"→IVF+PQ量化+分布式向量库(Milvus)
- "RAG系统延迟>5秒怎么优化"→缓存+并行+流式+预计算
Q44. RAG相关的开源工具和框架?
难度:★★★★☆
答案要点:
- 向量库:Milvus/Qdrant/Weaviate/pgvector/Chroma
- Embedding:BGE/E5/OpenAI/Sentence-Transformers
- Reranker:bge-reranker/Cohere/Jina
- 评估:RAGAS/DeepEval/TruLens
- 框架:LangChain/LlamaIndex/Spring AI
- 文档解析:Unstructured/Apache Tika/Docling
- 面试要点:"了解主流工具即可,面试考的是设计思路而非工具使用"
Q45. RAG系统的数据安全如何保障?
难度:★★★★☆
答案要点:
- 传输加密:HTTPS/TLS加密LLM API调用
- 存储加密:向量库和文档库加密存储
- 访问控制:不同用户/角色只能检索授权的文档
- 数据隔离:多租户场景下向量数据物理/逻辑隔离
- 脱敏:文档入库前脱敏(手机号/身份证)
- 审计:记录每次检索的query和结果→合规审计
- LLM安全:防止Prompt注入→输入过滤+输出检查
Q46. 如何实现RAG的个性化检索?
难度:★★★★☆
答案要点:
- 用户画像:根据用户角色/部门/历史偏好调整检索策略
- 过滤增强:基于用户属性过滤文档(如只检索自己部门的文档)
- 权重调整:用户偏好的文档类型权重提升
- 历史学习:根据用户点击/点赞历史优化检索排序
- 实现:用户上下文→元数据过滤+Rerank权重调整
- 面试要点:"个性化RAG通过元数据过滤+用户画像加权实现"
Q47. RAG系统如何支持多语言?
难度:★★★★☆
答案要点:
- 多语言Embedding:使用multilingual模型(如multilingual-e5)
- 语言检测:自动检测用户问题语言→路由到对应语言的知识库
- 翻译增强:将用户问题翻译为知识库语言→检索→结果翻译回用户语言
- 混合知识库:不同语言的文档存在同一向量库→用语言标记过滤
- 面试要点:"多语言RAG的核心是多语言Embedding模型+语言路由"
Q48. 如何实现RAG的知识库迁移?
难度:★★★★☆
答案要点:
- 场景:从ES迁移到Milvus,或从一个Embedding模型切换到另一个
- 迁移步骤:①导出原始文档 ②重新切片 ③新模型Embedding ④写入新向量库 ⑤验证
- 双写过渡:新文档同时写入新旧向量库→逐步切流量到新库
- 一致性验证:新旧系统并行→对比检索结果→确认无退化
- 面试要点:"知识库迁移需要重新Embedding,双写过渡保证平滑切换"
Q49. RAG在大模型面试中的比重?
难度:★★★☆☆
答案要点:
- AI应用岗:RAG占30-40%(核心考点)
- Java+AI岗:RAG占15-20%(需要理解但不需要精通)
- 纯Java后端:RAG占5-10%(了解概念即可)
- 核心考察:①RAG原理 ②检索策略设计 ③向量检索基础 ④工程化能力
- 准备优先级:RAG原理>向量检索>评估体系>高级优化
- 面试策略:展示你理解RAG不只是"调API",而是系统化的工程问题
Q50. 2026年RAG的发展趋势?
难度:★★★★☆
答案要点:
- Agentic RAG:Agent自主决定检索策略→更智能
- GraphRAG:知识图谱+向量检索→全局理解
- 多模态RAG:图片/视频/音频检索
- 端到端优化(RAG 2.0):联合训练检索器和生成器
- 实时RAG:流式文档入库+毫秒级检索
- RAG+Agent:RAG作为Agent的工具之一→灵活调用
- 面试要点:"Agentic RAG和GraphRAG是两个最值得关注的趋势"