1. 什么是 LlamaIndex为什么它在大模型应用里这么重要1.1 一句话理解它是“私有数据”和“大模型”之间的桥大模型本身很强但它并不知道你公司最新的制度文档、产品手册、数据库记录、工单历史和内部知识。要让模型回答企业内部问题最直接的办法不是重新训练一个大模型而是把外部数据整理好在用户提问时把相关内容检索出来再交给大模型生成答案。LlamaIndex 做的就是这件事它帮你把各种数据源接进来解析成统一对象切成可检索的知识单元构建索引提供检索接口再把检索结果交给大模型组织答案。官方文档把 LlamaIndex 描述为面向 Context-Augmented LLM Applications 的框架也就是说它的核心不是“替代模型”而是让模型拥有更好的上下文。2. LlamaIndex 的整体架构离线建库 在线查询 Agent 调用2.1 离线建库先把数据变成模型能用的形态离线建库阶段主要做数据读取、文档解析、文本切片、元数据补充、向量化和存储。比如你有一堆 PDF、Word、网页和数据库记录LlamaIndex 会通过各种 Reader 或 Connector 把它们读进来变成 Document再经过切片形成 Node最后写入向量库或其他索引结构。这一步很像给大模型准备资料库。资料整理得好后面检索和问答就容易稳定资料整理得差后面再强的大模型也只能“带着垃圾上下文生成答案”。2.2 在线查询用户提问时快速找证据并生成答案在线阶段用户输入问题后系统会先把问题交给 Retriever从索引里找出相关 Node然后进行重排、过滤、压缩再把这些证据交给 Response Synthesizer让大模型基于证据生成最终答案。2.3 Agent 调用把查询引擎变成工具更进一步LlamaIndex 还可以把某个 Query Engine 包装成工具交给 Agent 使用。比如一个 Agent 可以同时拥有“制度库查询工具”“产品手册查询工具”“SQL 查询工具”它会根据用户问题选择合适工具。3. 数据接入Reader、Document、Node 到底是什么3.1 Reader / Loader负责把外部数据读进来Reader 可以理解成“数据连接器”。数据可能来自 PDF、Word、Markdown、网页、数据库、API、Notion、Slack、Google Drive 等不同来源。Reader 的作用就是把这些不同格式的数据统一读进来形成 LlamaIndex 能处理的对象。3.2 Document原始文档对象Document 更像一份原始材料。它通常对应一篇文档、一段网页、一条数据库记录里面有文本内容也可以带上元数据比如来源文件名、页码、创建时间、权限信息等。3.3 Node进入索引和检索的最小知识单元Node 是 LlamaIndex 里非常关键的概念。简单说Node 就是从 Document 里切出来的知识块。它不只是文本片段还可以带 metadata、节点 id、前后关系、父子关系等信息。实际检索时系统通常不是检索一整篇文档而是检索这些 Node。面试快答可以这样说Document 负责承载原始数据Node 负责进入索引和检索。4. Ingestion Pipeline为什么它是 LlamaIndex 的工程核心4.1 它决定了 RAG 的下限很多 RAG 系统效果差不是模型不行而是 Ingestion Pipeline 太粗糙。比如 PDF 解析错乱、表格被打碎、页眉页脚混进正文、切片过大或过小、metadata 不完整这些都会直接影响检索质量。LlamaIndex 的 Ingestion Pipeline 可以理解成一条数据加工流水线先读入数据再解析再切片再补充 metadata再生成 embedding最后写入索引和存储。4.2 工程上常见的增强点第一复杂文档要先做结构化解析尤其是表格、图片和多栏 PDF第二切片不能只按固定长度最好结合标题、章节、语义边界第三metadata 一定要设计好包括 source、page、heading_path、version、permission、updated_at 等第四要支持增量更新不能每次都全量重建索引。5. LlamaIndex 的索引VectorStoreIndex、SummaryIndex、Graph Index 怎么选5.1 VectorStoreIndex最常见的 RAG 索引VectorStoreIndex 是最常见的一种索引方式。它会把 Node 转成向量写入向量库。用户提问时也把问题转成向量然后找最相似的 Node。适合企业知识库问答、制度问答、文档检索等场景。5.2 SummaryIndex适合总结型和小规模扫描SummaryIndex 更像按顺序遍历或汇总内容适合小规模文档总结、全局摘要等任务。如果数据量很大单纯 SummaryIndex 往往不如向量索引高效。5.3 Graph / Property Graph适合实体关系和复杂推理如果知识之间关系很重要比如人物、项目、订单、规则、事件之间需要多跳关联那么图索引或属性图会更有价值。它不只是找相似文本而是把实体和关系组织起来。6. StorageContext为什么不只是一个向量库6.1 向量库只解决“相似度搜索”不能解决全部问题很多人把 RAG 系统等同于向量库这是不完整的。向量库存的是向量和部分 metadata但你还需要保存原始 Node 文本、索引结构、图结构、文档版本、权限信息等。在 LlamaIndex 里StorageContext 可以理解成存储上下文它把不同存储组件组织起来。常见包括 Vector Store、Docstore、Index Store、Graph Store 等。6.2 生产系统为什么要重视存储设计因为企业系统会遇到权限过滤、增量更新、文档删除、版本回滚、审计追踪等问题。如果一开始只把文本和向量粗暴塞进向量库后期会很难维护。7. Query EngineLlamaIndex 如何从问题生成答案7.1 Query Engine 是完整问答引擎不只是检索器Query Engine 可以理解成 LlamaIndex 里最常用的问答接口。它内部一般包含 Retriever、Node Postprocessor、Response Synthesizer。用户输入问题后它先检索相关 Node再做重排过滤最后让大模型合成答案。7.2 Retriever 和 Query Engine 的区别Retriever 只负责找资料返回的是相关 NodeQuery Engine 不仅找资料还会把资料变成最终答案。因此面试里可以说Retriever 是检索器Query Engine 是完整问答引擎。7.3 Response Synthesizer证据变答案的最后一步检索出来的 Node 往往是多个碎片用户并不想看一堆碎片而是想要一个完整答案。Response Synthesizer 的作用就是把这些证据组织起来生成清晰、可读、最好带引用的回答。8. LlamaIndex 的 Agent 与 Workflows从问答到自动执行8.1 把 Query Engine 包成工具是非常常见的 Agent 用法比如你可以为“合同库”“制度库”“产品手册库”分别建立 Query Engine然后把它们包装成 Tool。用户问问题时Agent 先判断要调用哪个工具再把结果整合成答案。8.2 Workflows 适合多步骤任务如果任务不是简单问答而是要先解析文件、再检索、再生成、再审核、再导出报告那么 Workflows 就很适合。它把任务拆成事件驱动的步骤每一步有明确输入和输出比让模型自由发挥更可控。8.3 面试里的高分表达可以这样说LlamaIndex 的强项不是只做 RAG它还能把 RAG 能力工具化并通过 Agent 或 Workflow 接入复杂任务。这样既能利用知识库又能控制执行流程。9. LlamaIndex 和 LangChain 有什么区别9.1 不要把二者讲成“谁替代谁”LlamaIndex 更偏数据框架重点是数据接入、文档解析、切片、索引、检索和 RAG 问答LangChain / LangGraph 更偏应用编排重点是链式调用、工具调用、状态图、Agent 业务流程。9.2 真实项目里经常组合使用例如可以用 LlamaIndex 做知识库索引和 Query Engine再把 Query Engine 包装成 Tool交给 LangGraph 的工作流或 Agent 调用。这样 LlamaIndex 负责“数据和检索”LangGraph 负责“流程和状态”。10. LlamaIndex 企业级落地要补哪些能力10.1 Demo 能跑不等于生产能用一个简单 Demo 可能只需要几行代码读文档、建索引、提问。但生产系统要复杂得多。你要考虑权限过滤、文档版本、增量更新、召回质量、答案引用、日志追踪、缓存、并发、成本、评估和兜底。10.2 企业级 RAG 的关键治理点第一数据权限必须贯穿检索链路不能把用户无权访问的文档召回给模型第二文档更新要支持增量不要每次全量重建第三必须保留 trace能看到用户问题、召回 Node、最终 Prompt 和模型答案第四要有评估闭环把 badcase 回流到切片、检索、rerank 和 prompt 优化里。11. 面试高频问题逐题快答11.1 LlamaIndex 是什么答LlamaIndex 是一个面向上下文增强 LLM 应用的数据框架主要用于把私有数据接入大模型完成数据读取、解析、切片、索引、检索、问答和 Agent 工具化。11.2 LlamaIndex 解决了什么痛点答它解决的是大模型无法直接访问企业私有数据的问题。它把数据整理成可检索结构在用户提问时提供相关上下文让模型基于证据回答。11.3 Document 和 Node 区别是什么答Document 是原始文档对象Node 是从 Document 切出来的可检索单元。一般来说Document 负责承载原始数据Node 负责进入索引与检索。11.4 Retriever 和 Query Engine 的区别是什么答Retriever 只负责召回相关 NodeQuery Engine 是完整问答引擎会检索、重排、组织上下文并调用模型生成答案。11.5 为什么生产系统不能只用向量库答向量库主要解决相似度搜索但生产系统还需要原文存储、metadata、权限过滤、版本管理、索引结构、日志和评估。向量库只是其中一层。12. 总结LlamaIndex 的核心是让大模型“用好你的数据”如果把 LlamaIndex 压缩成一句话那就是它是一套把私有数据接入大模型的工程框架。它不只是帮你做向量检索而是覆盖数据接入、解析、切片、索引、存储、检索、生成、Agent 工具化和生产治理。面试时最好的回答方式是先讲定位它是上下文增强 LLM 应用的数据框架再讲流程Reader 读数据Document 承载原文Node 进入索引VectorStoreIndex 支持语义检索Retriever 召回证据Query Engine 生成答案最后讲落地权限、增量、评估、trace、缓存和降级。真正理解 LlamaIndex不是背几个 API而是理解它在大模型应用中的位置它负责把乱七八糟的数据变成模型可以稳定使用的上下文。附30 秒快答模板“LlamaIndex 是一个面向上下文增强 LLM 应用的数据框架核心作用是把企业私有数据接到大模型上。它会通过 Reader 读取 PDF、数据库、API 等数据形成 Document再切成 Node生成向量或其他索引存入 Vector Store、Docstore 等存储。用户提问时Retriever 从索引里召回相关 NodeQuery Engine 再把证据交给大模型生成答案。进一步还可以把 Query Engine 包装成 Tool让 Agent 或 Workflow 调用。和 LangChain 相比LlamaIndex 更偏数据接入、索引和检索LangChain 更偏流程编排二者在生产项目里经常组合使用。”