很多团队做 RAG第一反应是换更强的大模型。 但真正做过系统后你会发现RAG 的上限很多时候并不由模型决定而是由前面的检索链路决定。用户问同一个问题为什么有时答得很好有时却答非所问 问题往往出在这四个环节分块检索重排序Prompt如果这四个地方做得粗糙再强的模型也很难稳定发挥。一、分块为什么“怎么切文档”会决定回答质量分块是 RAG 里最容易被低估的一环。 因为知识库不是把整篇文档直接丢进去就结束了而是要先拆成可检索的小片段。但问题来了到底怎么切1. 固定长度切分这是最简单的方法。 比如每 500 个字符切一块。优点是实现简单、管理方便。 但问题也很明显 它可能把一个完整句子、一个完整步骤、一个完整条款硬生生切开。结果就是 检索到了“半句话”模型理解自然会出错。2. 语义切分更合理的做法是按照段落、章节、句子边界来切。 也就是说尽量保证一个块里承载的是一段完整意思。这样做的好处是语义更完整检索命中后更容易直接回答上下文更连贯但代价是实现更复杂也更依赖规则或模型能力。3. 递归切分这是工程上很常见的一种折中方案。 思路是优先按章节、段落来切如果还太长再按句子切再不行最后才用固定长度兜底。这种方式既保留了结构感也兼顾了可控性。 对于企业文档、说明书、制度手册来说通常比单纯固定切分更稳。4. 分块到底怎么选一个简单判断标准是如果块太小信息不完整如果块太大噪声太多如果没有适当重叠关键信息可能被切断所以分块本质上不是“切得越细越好” 而是要找到语义完整性、召回率和性能开销之间的平衡。二、检索为什么只用向量搜索往往不够很多人一提 RAG就默认是“向量检索”。 但真实系统里单一向量检索并不总是最优解。1. 向量检索擅长什么向量检索最大的优势是能理解语义。比如用户问“怎么提高系统性能”文档里可能写的是“系统优化方案”。 虽然字面不同但语义接近向量检索通常能找到。这类“意思相近但措辞不同”的问题向量检索很有优势。2. 向量检索不擅长什么它的短板也很明显对术语、ID、报错码的精确匹配不够稳定对短查询有时理解不足对噪声较敏感比如用户问“Error 404 是什么意思”这类查询其实更适合关键词精确匹配。3. 为什么要混合检索成熟的 RAG 通常会把向量检索BM25 关键词检索结合起来使用。原因很简单向量检索负责“懂意思”关键词检索负责“找得准”对于技术文档、代码库、制度条款、报错信息这类场景混合检索通常比单一路径更稳。4. 工程上的一个实用原则如果你的问题里包含产品型号错误代码专有名词版本号年份/季度那关键词检索的重要性通常会明显上升。而如果你的问题是自然语言解释型问题 比如“如何申请报销”“怎样处理噪声故障” 向量检索的价值会更大。三、重排序检索到了不等于排序就对了检索拿到的 Top-K 结果并不一定就是最适合回答问题的结果。这时候就需要Rerank重排序。你可以把检索理解为“广泛找候选” 把重排序理解为“二次精挑细选”。1. 为什么需要重排序因为初步检索往往更注重“召回” 而真正送给模型的上下文更需要“高相关”。如果把一堆边缘相关内容都交给模型 模型很可能会被干扰甚至答偏。2. 重排序能解决什么它能帮助系统把真正相关的信息排到前面降低噪声内容进入 Prompt 的概率提高 Top-1、Top-3 的命中质量对 RAG 来说这一步常常直接影响最终答案的准确率。3. 常见做法比较典型的方式是先用向量检索或混合检索拿到 Top 20 或 Top 50再用更精细的模型做重排序最终只把前几条高质量结果送给大模型这类重排序模型往往比基础检索更懂“问题和文档之间真正是否匹配”。四、Prompt为什么有资料模型还是会答错很多人以为只要把检索结果扔给模型就行。 实际上Prompt 设计会直接决定模型有没有“老老实实看资料”。1. Prompt 的核心作用一个好的 Prompt不只是告诉模型“请回答问题” 还要明确三件事你的角色是什么你必须依据什么回答上下文不足时应该怎么办如果没有这些约束模型很可能重新依赖它自己的参数记忆产生幻觉。2. 一个好 Prompt 至少要做到什么至少要告诉模型你是一个知识库助手回答必须基于提供的上下文如果上下文不足不要编造输出尽量简洁、专业、结构清晰这听起来只是几句话但它往往能明显降低“看起来很像对其实没依据”的回答。3. Prompt 还能怎么继续优化在更成熟的系统里Prompt 还会进一步做针对不同问题类型动态切换模板保留多轮对话历史规定输出格式加入安全约束引导模型优先引用上下文中的关键信息所以Prompt 不是装饰而是模型执行规则。五、如果你要排查 RAG 效果先看这四件事当一个 RAG 系统答得不稳定时不要第一时间怪模型。 先从这四个问题排查1. 文档是不是切坏了关键信息是否被切断块是不是太大或太小2. 检索是不是太单一是不是只用了向量检索漏掉了关键词精确匹配3. 结果排序是不是不够准是不是把边缘相关内容送给了模型4. Prompt 是不是约束不够是不是没有明确要求“必须基于上下文作答”很多时候把这四个环节调顺 效果提升比换模型更明显也更省成本。结语–RAG 不是“上一个向量库”就万事大吉。 真正稳定的系统往往不是靠某个单点技术取胜而是靠多个细节同时到位。对初学者来说只要先抓住这四个关键词分块、检索、重排序、Prompt你就已经理解了 RAG 调优最核心的骨架。普通人如何抓住AI大模型的风口领取方式在文末为什么要学习大模型目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 大模型作为其中的重要组成部分 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 为各行各业带来了革命性的改变和机遇 。目前开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景其中应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过30%。随着AI大模型技术的迅速发展相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业人工智能大潮已来不加入就可能被淘汰。如果你是技术人尤其是互联网从业者现在就开始学习AI大模型技术真的是给你的人生一个重要建议最后只要你真心想学习AI大模型技术这份精心整理的学习资料我愿意无偿分享给你但是想学技术去乱搞的人别来找我在当前这个人工智能高速发展的时代AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】大模型全套学习资料展示自我们与MoPaaS魔泊云合作以来我们不断打磨课程体系与技术内容在细节上精益求精同时在技术层面也新增了许多前沿且实用的内容力求为大家带来更系统、更实战、更落地的大模型学习体验。希望这份系统、实用的大模型学习路径能够帮助你从零入门进阶到实战真正掌握AI时代的核心技能01教学内容从零到精通完整闭环【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块内容比传统教材更贴近企业实战大量真实项目案例带你亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌02适学人群应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。vx扫描下方二维码即可【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】本教程比较珍贵仅限大家自行学习不要传播更严禁商用03入门到进阶学习路线图大模型学习路线图整体分为5个大的阶段04视频和书籍PDF合集从0到掌握主流大模型技术视频教程涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向新手必备的大模型学习PDF书单来了全是硬核知识帮你少走弯路不吹牛真有用05行业报告白皮书合集收集70报告与白皮书了解行业最新动态0690份面试题/经验AI大模型岗位面试经验总结谁学技术不是为了赚$呢找个好的岗位很重要07 deepseek部署包技巧大全由于篇幅有限只展示部分资料并且还在持续更新中…真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】