RAG 系统面试 10 问：从向量检索到评估闭环

检索增强生成（Retrieval-Augmented Generation，RAG）是 2026 大模型应用岗/算法岗的必考方向。本文按一条真实落地链路组织：为什么用 RAG → 切块 → Embedding → 检索 → 重排 → 多跳 → 幻觉与评估，每问给"面试官想听到的答题骨架 + 工程避坑"。

由 中科院博士 · 资深算法工程师 整理 ｜ 32 课时 RAG 实战课配套 ｜ 更新于 2026-09

一、为什么 RAG & 什么时候不该用

RAG 解决什么问题？它和长上下文 / 微调是什么关系？必答

RAG 用外部检索给生成提供"当下可信的知识"，解决知识时效、私有知识、幻觉三件事。与另外两条路线对比：长上下文靠把资料塞进窗口——直观但成本随 token 线性涨、长文本中间易"迷失"；微调把知识写进权重——成本高、更新慢、难溯源。实用上三者互补：RAG 管知识新鲜度与出处、长上下文管"就一次深读"、微调管风格/格式/领域语气。

什么时候 RAG 反而是错的方案？进阶

① 强推理问题（数学、多步逻辑）——检索不到"推理过程"，此时应把精力放推理模型/CoT；② 低延迟高 QPS——一次检索+长上下文显著抬延迟；③ 答案根本不在外部库里（纯模型内化知识）——检索只会引入噪音。先问"答案来自哪"再决定要不要检索，而不是无脑套 RAG。

二、切块与索引

chunk 怎么切？固定长度、递归、还是语义切块？必答

没有万能解，围绕"一个 chunk 要能独立回答一类问题"切：结构感强的文档（Markdown 标题/表格/章节）按结构切；一般正文用递归字符切并设 overlap（10-20%）保住上下文边界；代码按函数/类切。小 chunk 检索准但易缺上下文，大 chunk 上下文全但噪音多、还受模型窗口和 embedding 上限约束。切块要和下游问题类型一起调，而不是拍脑袋。

向量 + 全文（BM25）混合检索为什么常见？进阶

稠密向量擅长语义近似、但对专有名词/编号/精确词（合同号、型号、人名）容易失准；BM25 擅长精确词匹配、却不懂语义。两者互补，常用 RRF（Reciprocal Rank Fusion）或加权分数融合排序，再交给重排模型精排。工程上线常见"向量召回 Top200 + BM25 Top200 → 融合 → Rerank Top20"。

三、检索与重排

召回和重排为什么要分两段？必答

召回层要覆盖广（海量候选里别漏），常用高效的向量/倒排，取 Top-K；重排层要准（对几十条精算相关性），可用更强的交叉编码器（Cross-Encoder）——它对 query 与每个 doc 做全交互编码，精度高但算一次很贵，所以只在 Top-K 上跑。先广后精兼顾质量与成本。

多跳 / 复杂问题怎么检索？进阶

简单 RAG 一次检索一次生成，复杂问题要么子问题分解（query 改写/路由到子检索）、要么迭代检索（根据已生成内容补检索）、要么 GraphRAG 式先建实体-关系图再沿图取相关子图。面试重点是讲清"为什么单次检索不够"以及选择分解策略的依据（问题类型、知识粒度）。

四、幻觉、上下文与生成

检索到相关内容为什么还会答错/幻觉？进阶

三类根因：① 上下文没给到模型——召回漏了关键片段（recall 问题）；② 给了但模型没用——上下文过长被无关片段稀释、或指令没要求"只能依据材料"；③ 材料本身自相矛盾。对症：先离线看"答案是否在 TopK 片段里"把责任切到检索端或生成端，再分别优化召回或加 grounding/引用约束、检索后去噪。

怎么让回答能溯源、可校验？进阶

让生成必须带引用：在 prompt 里要求模型标注"依据 chunk id"并只依据给定材料作答；前端展示引用锚点。评测时计算引用是否真的支持答案（attribution/groundedness），把"没有出处的句子"当作幻觉信号。

五、评估与监控（最容易被忽略、面试最加分）

RAG 系统上线怎么评估？加分

分层看：检索层用召回率、命中率、MRR/NDCG（答案是否在 TopK）；生成层用答案正确性（含 LLM-as-Judge 打分、人工抽样）。工程上至少维护一个 query→期望文档→期望答案的评测集，每次改切块/embedding/rerank 先离线回归，别用"肉眼觉得变好了"。

线上怎么监控效果退化？加分

埋点三件事：检索命中率（用户点开哪个文档/追问）、无引用回答占比、bad case 回流（负反馈）。知识库更新后用新语料跑一遍召回回归，防"换了一批 chunk 静默变差"。

常见问题 FAQ

这套问答覆盖 RAG 岗面试的哪些层级？

从"必答"到"进阶"到"加分"分层：基础概念、切块与混合检索、两段式召回重排、多跳检索、幻觉与溯源、以及最能拉开差距的评估与监控。目标应用岗/AI 工程师岗基本够用，资深岗建议每问都能补一段你自己的线上踩坑经历。

RAG 面试怎么准备最有效？

先按本文自查漏项，再挑 1-2 个方向（如混合检索或评估体系）真正动手搭一个小系统，面试时用"我踩过的坑 + 数据对比"讲，比背定义强得多。课程含端到端项目与 200+ 真题精讲。

有没有免费的 RAG / 大模型面试资料？

关注小红书「兔老板工作室」，私信「资料」免费领取大厂面试真题精选 PDF；另有大模型评测平台与 Agent 评测岗学习材料可在线体验评测链路。

留学生在海外，怎么准备 RAG 岗面试最稳？

内容与地域无关，先按本文分层自查。若回国面国内厂：把「你做过什么 RAG 系统、踩过什么坑」练成中英都能讲的口径，并卡国内招聘窗口；若面当地岗位：把切块/重排/评估讲出工程颗粒度更吃香。需要实战项目带练与全真模拟的，可微信远程约课。