AI基础课 · 第 3 单元 / 共 6 单元

资料问答:知识库 RAG 的检索与引用

公司资料进入一次回答的路径,以及答错之后的查法。

课程目录
本页目录5 节 · 12 小节

基础课 A03 · 01

1、检索把相关原文送进这一次回答

长文件被拆成可独立取用的小段

知识库 Knowledge Base 保存可供查询的资料,检索增强生成 Retrieval-Augmented Generation,简称 RAG,把查找原文和生成回答连起来。系统从资料中取出相关片段,连同问题交给模型,模型据此组织回答。这次查询使用已有模型参数,不包含训练。

文件入库经历解析、切分和建索引。解析从文件中提取文字、标题和表格;切分把内容拆成切片 Chunk,即检索时可单独取用的小段。索引 Index 把每段文字、来源位置和用于匹配的数字串、关键词保存在对应条目里。系统比较问题与索引条目,按记录的位置取回原文。

切片能否支持回答,看它是否保留对象、条件、结论和例外。教学示例:售后规定写“符合上述条件,由店铺承担运费”,切片缺少前文,模型便拿不到“上述条件”的具体内容。打开解析文本和切片,可以查出条件在哪一步丢失。

语义检索把相近表达列为候选

语义检索 Semantic Search 按文字的意思寻找内容。嵌入 Embedding 模型把文本转成向量 Vector,即一串数字。意思相近的文字,转成的数字串也相近。入库时系统保存切片向量,提问时再将问题转成可比较的向量,比较两者的接近程度,选出最相近的片段。

关键词检索按字词匹配,便于查找编号、固定名称和专有词;混合检索 Hybrid Search 合并两条路径的候选。这里的召回专指找出候选文档片段,记忆召回见 A02 任务交代:提示词 Prompt 与上下文 Context。重排 Rerank 使用排序模型读取问题和候选,评估相关性、给出分数,再调整顺序。

检索通常在身份、标签或分类限定的资料范围内展开。意思接近的片段也会过期或只适用于其他对象,日期和标签帮助系统筛选。候选中最终送入上下文的部分,才成为这次回答的参考材料。下图重点展示向量检索与关键词检索并行召回、合并候选及重排的过程;后面的问答记录动画重点展示引用定位和原文核对。

示意图:资料准备接入本次检索生成
示意图:资料准备接入本次检索生成 · 示意图

引用把回答结论连到原文位置

引用把结论关联到来源片段,便于逐句核查。元数据 Metadata 保存来源、日期、版本和适用范围等说明。检索服务返回片段原文及来源信息,问答服务生成回答并展示引用;部署前,应用负责人写定具体关联办法。例如,给取回片段编上编号,要求模型在结论后标出所用编号,页面按编号显示对应的文件名、位置或链接。

引用检查分为两项:出处能否定位原文,原文能否支持结论。模型改写条款时会漏条件或增添承诺,核对人据此逐句比对事实和条款。公开检索的材料标明外部来源,内部事实查公司资料或系统记录;提出建议时,注明所用条款和待核实条件。

A02 任务交代:提示词 Prompt 与上下文 Context 解释了上下文的组成;本单元补上参考材料的来源。库中其余文件只有经过检索并送入本次输入,才参与这次回答。分类标签只说明文件被归到哪一类,回答仍以原文条款为准;原文没有相应条款时,如实写“资料中没有该条”。

示意图:知识库问答记录中的切片、检索、回答与引用核对
示意图:知识库问答记录中的切片、检索、回答与引用核对 · 示意图
知识形态影响查询方式

向量包含多个维度,每个维度未必有可命名的含义。平面坐标点只能帮助理解距离比较,相似度无法直接换算为答案正确率。语义向量也可用于推荐相近内容、分类及聚类 Clustering,即按相似性将文本分组。

知识形态内容怎样组织适合查询的内容
文档保留章节、条款及相互关系条件、例外和完整流程
标准问答常见问法对应审核过的答案高频问题和固定答复
结构化数据按明确的字段保存记录筛选对象、查数值或汇总

标准问答保留别称和口语问法,合并同义问题,逐条处理冲突答案,保留生效及失效范围。自动生成的内容经人工校验后采用,条款改版时同步复核关联问答。结构化查询依赖字段含义、单位和计算规则。

基础课 A03 · 02

2、知识库答错有三类原因

切片丢掉条件会改变条款含义

资料缺失发生在原文件,切分损坏发生在后续处理。原文有规定,解析或切片时丢了标题、对象及前后关系,单独取出的结论就会改变适用范围。排查沿完整文件、解析文本、切片、本次返回片段依次比对,最早出现差异的位置指向优先修正的环节。

切片过短会拆散条件,过长会混入其他主题。有标题层级的文档可按标题切分,每行含义独立的表格可按行切分,并保留表头、对象和单位。检查时同时看片段是否容易命中、能否独立支持回答。

父子切片把匹配问题和提供回答材料分开。较小的子片段用于匹配具体问题,各自记录所属父片段的标识;命中后,系统按标识取回较完整的父片段,把条件、结论和例外一起交给模型。父片段越大,带入无关内容的机会也越多。

示意图:子片段命中后取回父片段
示意图:子片段命中后取回父片段 · 示意图

排查同一次回答时,可以按现象查找直接证据。

错误现象直接比对的证据优先检查的环节
查询偏离原问题用户原话、改写后的查询问题理解和指令
有规定却没命中完整文件、切片、候选列表范围、切分、召回和排序
命中了旧版返回片段的版本及生效日期版本维护和筛选条件
依据完整却答错实际传入的片段、最终回复上下文传递和生成约束
出处无法支持结论回答中的事实、引用位置、原文来源信息及引用关联

表中的环节提供排查起点,实际错因以文件和本次运行记录的差异为据。

旧版留在库里会被检索取回

检索按相关性找材料,新旧文件措辞相近,都能进入候选。文件名写了“最新”,旧片段只要还在当前范围内,就有混用版本的机会。

版本控制通过状态、日期、标签和查询范围生效。重复文件按有效版本去重并保留出处,现行资料进入当前问答范围,历史资料归档。检索前的身份校验限制可访问内容;从返回片段的版本和适用范围,可以核实筛选是否生效。访问限制在系统中配置,提示词负责说明回答要求。

生成时仍会漏掉原文限制

模型根据问题、指令和取回片段组织语言,生成时仍会遗漏、误读和推测。检索结果完整,回答却扩大了承诺范围,错误便发生在材料传入之后。提示词可以限定按依据回答、保留条件,并说明资料不足时怎样处理。

核查时,将结论逐项对应到片段;没有依据的部分标为无法确认,并列明缺哪项条款,交给内容负责人补核。教学示例:原文写“收到寄回商品后安排换货”,回答写成“马上寄出新货”,漏掉了办理前提。

切分策略改变取回的上下文

按长度切分或自动识别段落可以作为初始方案;按标题或分隔符切分沿原文结构拆段;重叠切分在相邻片段重复保留部分文字,减少边界处的信息断裂,也增加重复内容。

召回数量控制候选规模,相关性阈值控制筛选门槛。增加数量会带入更多内容,提高门槛会排除弱相关内容,也会漏掉有用片段。比较方法见 A05 任务编排:工作流 Workflow、智能体 Agent 与技能 Skills,本处记录命中片段、重排顺序、答案、耗时及词元消耗。

多轮检索按依据缺口继续查找

多轮检索 Agentic RAG 由应用调度模型反复查找。应用把问题交给模型拆解,按模型提出的查询取回片段,再将片段交给模型核对缺口。缺少依据时,模型调整问法、关键词或资料范围,应用据此继续检索,最后将查到的依据交给模型组合回答。这适合条件分散、需跨文档核对的问题。

依据齐全时结束检索;资料冲突、缺口无法补齐、重复检索没有新增依据或达到上限时,应用停止补查,返回已知部分和待核项。应用预设轮次、耗时及词元消耗上限,因为每轮检索和模型处理都会增加等待与用量。结束前,将结论对应到出处、适用范围及原文条件,保留无法确认的部分。

示意图:多轮检索按依据缺口推进
示意图:多轮检索按依据缺口推进 · 示意图

基础课 A03 · 03

3、微调学到的内容留在参数里,不随文件更新

微调用训练示例调整模型参数

A01 模型原理:大模型 LLM 的生成方式 已解释参数及指令微调。这里的监督微调简称 SFT,是其中一种做法。训练也会让模型学到示例中的事实;要改变参数里的旧内容,需要重新训练,修改文件不会自动更新参数。

知识库查询替换本次参考材料,微调改变后续使用的参数版本。两者可以配合:训练保持相对稳定的回答方式,检索送入当前适用的资料。

格式表现可以同事实准确性分开核

格式检查关注栏目、顺序和语气,事实检查关注现行依据及适用条件。提示词、模板和少量范例可以约束写法;微调使用成批示例训练回答方式。

测试微调后的写法,使用未参加训练的新材料;测试知识引用,替换参考资料,核对条款和出处。分别保存结果,可以判断改进发生在回答方式还是资料引用。

资料更新同写法训练分开选择

事实常变、需逐条查证的内容放在知识库里更新;固定格式和语气先用提示词与范例试,仍不稳定再考虑微调。

基础课 A03 · 04

4、改版之后复查原来的问法

资料标签保存生效日期等信息

负责人、生效日期和适用范围可以随原文保存。负责人确认内容,日期说明何时适用,范围说明覆盖哪些对象。支持这些字段的应用,可以将它们展示在检索结果旁,并按条件筛选资料。

改版涉及原文件、片段和索引。旧片段退出当前检索,新文件完成解析、切分和索引,再查受影响的条款。多数知识库中,只替换原文件,已有片段不会自动改变,需要重新解析入库。

同题复查能看出改版是否生效

同一问题在改版前后各查一次,对照返回文件、切片和最终回答。上传成功、索引完成、回答引用新版,分别对应不同环节;逐项保存状态,便能判断改动停在哪里。

复查覆盖受影响的老问题、常见换说法及资料没有依据的情形。保存问题、预期依据、实际片段、错因、调整动作和复测结果;反复出现的同类错误归入切分、版本或检索策略检查。外发前的删减和回复核对见 A06 数据安全:资料外发与出错处理,这里检查改版后的片段和结论。

工具:资料上架检查覆盖处理全程

首次上架和每次改版均可直接复制使用以下清单。

  1. 负责人:核对内容确认人及联系方式。
  2. 生效日期:核对生效和失效日期,尚未生效的资料放在当前问答范围之外。
  3. 适用范围:核对对象及权限范围,抽查标签筛选后的返回资料。
  4. 条款完整性:打开解析文本及切片,核对标题、对象、条件、结论和例外,表格保留表头及单位。
  5. 旧版撤下:归档旧版,检查旧片段是否移除、禁用或被筛选排除,同步更新关联标准问答。
  6. 新版可查:确认解析与索引完成,查询新版条款,点开出处核对版本、日期及范围。
  7. 老问题复查:复用受改版影响的原有问题,记录预期依据、实际片段及回复结论。
  8. 换说法及缺依据检查:使用别称和口语表达复查,核对资料不足时的说明及缺项处理人。

最终回复逐句对照原文,核实限制条件是否完整。

一句话记住查错沿文件、切片、检索结果和回复比对,修正最早出现差异的环节。

下一单元A04 系统操作:工具调用 Tool Use 与 MCP。知识库解释规定,实时状态查业务记录;下一讲说明调用请求怎样变成系统操作。

基础课 A03 · 05

参考文献

以下为中文官方技术文档及课程。第 1 至 5 项访问日期为 2026-10-24,第 7 项访问日期为 2026-10-27。

  1. 《切片与向量化》,阿里云百炼,更新日期:2026-10-10。网址:https://help.aliyun.com/zh/model-studio/rag/chunking
  2. 《知识检索》,阿里云百炼,更新日期:2026-10-10。网址:https://help.aliyun.com/zh/model-studio/rag-knowledge-retrieval
  3. 《知识问答》,阿里云百炼,更新日期:2026-10-10。网址:https://help.aliyun.com/zh/model-studio/rag-knowledge-qa
  4. 《模型调优简介》,阿里云百炼,更新日期:2026-10-21。网址:https://help.aliyun.com/zh/model-studio/model-training-overview
  5. 《文档管理与解析》,阿里云百炼,更新日期:2026-10-10。网址:https://help.aliyun.com/zh/model-studio/rag/documents
  6. 《ADP 前沿部署工程师(FDE)认证课程》,腾讯云。对应章节:1.2 大语言模型的进化之路,https://cloud.tencent.com/edu/learning/course-4742-84527-84532 ;2.2 中 知识与连接能力,https://cloud.tencent.com/edu/learning/course-4742-84528-84536 ;3.2 标准模式实战,https://cloud.tencent.com/edu/learning/course-4742-84529-84540 ;3.3 单工作流模式实战,https://cloud.tencent.com/edu/learning/course-4742-84529-84541 ;3.4 Multi-Agent 模式实战,https://cloud.tencent.com/edu/learning/course-4742-84529-84542 ;4.1 智能体调试与评测基础,https://cloud.tencent.com/edu/learning/course-4742-84530-84545 ;4.2 Prompt 调优,https://cloud.tencent.com/edu/learning/course-4742-84530-84546 ;4.3 知识库质量与 RAG 调优,https://cloud.tencent.com/edu/learning/course-4742-84530-84547 。课程更新日期未标明。
  7. 《知识问答》接口文档,阿里云百炼。网址:https://help.aliyun.com/zh/model-studio/knowledgechat ,页面未标明更新日期,访问日期:2026-10-27。

想把课里的做法用到你们公司?

从选第一件交给AI的事,到备资料、拆流程、接系统、上线试用,我们可以和你一起梳理、一起落地。扫码加微信咨询,也可发邮件至 fuyuanhui@kexinjinke.com。

微信咨询二维码

微信扫码 / 长按识别