什么是 Source-Grounded AI？原理、RAG 与实践指南

当 AI 用一种很确定的语气给出答案时，我们最应该问的不是“它听起来对不对”，而是“这个结论来自哪里”。Source-Grounded AI（基于来源的 AI）正是为了回答这个问题：让 AI 的输出受指定资料约束，并让关键主张可以回到具体证据。

什么是 Source-Grounded AI？

大语言模型会根据统计模式生成文本。这种能力可以产生流畅而有用的结果，也可能产生缺少依据、已经过时或与上下文矛盾的内容。NIST 将这类现象称为 confabulation（常被称为“幻觉”）。

Grounding 会在模型之外增加一层事实约束。这些来源可以是用户上传的 PDF、企业知识库、产品数据库、已审批的网页、搜索结果，或通过受控工具查到的实时数据。系统把与当前问题相关的证据放入生成上下文，再要求模型基于它们回答并附上可追溯引用。

基于来源的 AI 如何工作

1. 定义可信边界。先确定哪些文档、站点、数据表或工具可以作为事实来源，并应用用户权限、租户隔离和数据保留规则。

2. 准备与索引。对资料进行解析、分块、元数据标记和索引。此处的版本、日期、作者和权限等元数据，会直接影响后面的可追溯性。

3. 检索与重排。根据用户问题找到候选片段，再按相关性、权威性、时效性和权限筛选。检索错了，后续写得再流畅也无法构成高质量答案。

4. 在证据范围内生成。模型获得问题、指令与检索上下文，并被要求不要引入无法由来源支持的事实。当证据不足时，好的系统应该追问、降低确定程度或拒答。

5. 引用、检查与反馈。系统将主张对应到原文片段，记录检索与生成过程，并通过人工审核和自动评估继续改进。

Source-Grounded AI 与 RAG、微调有什么不同？

这些概念常被混用，但它们解决的问题不完全相同。Grounding 是“结果是否依据指定来源”的系统属性；RAG 是在生成前为模型召回相关外部信息的常用机制；微调则通过训练样本调整模型的行为和风格。

Source grounding：定义可验证的结果

目标：让事实性主张可由指定证据支持。
知识入口：文档、搜索、数据库、工具或固定上下文。
关键限制：来源、检索、生成和引用质量缺一不可。

RAG：在生成前召回证据

目标：找到与当前问题相关的外部知识。
知识入口：检索器将候选片段加入模型上下文。
关键限制：召回的片段可能不相关、过时或被污染。

微调：调整模型行为

目标：改变任务表现、输出格式或领域行为。
知识入口：训练样本会改变模型参数。
关键限制：不适合作为需频繁更新的事实库，也不天然提供引用。

长上下文提示：一次提供资料

目标：在单次请求中为模型直接提供大量资料。
知识入口：文本整体放入提示上下文。
关键限制：成本、延迟和注意力分配可能成为瓶颈。

为什么基于来源很重要？

减少无根据的事实性内容

当模型只能在经审批的上下文内回答，并且在证据不足时显式说明，用户更容易识别哪些是已知信息，哪些是推断或未知。但这是降低风险，不是消除风险。

让审核和更新更容易

引用链让审核者可以直接检查原文，而不是重新搜索答案的每个细节。当政策、产品规格或研究更新时，团队也可以更换来源或重建索引，而不是必须重新训练整个模型。

把私有知识变成可用上下文

通用模型不会自然掌握企业最新的 SOP、客户项目资料或内部数据。Grounding 能在权限边界内将这些信息带入当前任务，支持客服、研究、合规、销售和内容生产等工作流。

如何评估 Grounded AI 的质量

只检查“答案中有没有引用”远远不够。引用可能指向真实页面，却没有支持相邻的主张。完整的评估应拆开检索和生成两个阶段：

• 检索质量：是否召回了回答所需的证据？结果是否被权限、日期、版本和来源等级正确过滤？

• Groundedness / faithfulness：答案的事实性主张是否都能由给定上下文推出？

• 引用正确性：每条引用是否真的支持它附近的主张？链接是否能访问原始片段？

• 引用完整性：所有需要证据的关键主张是否都已覆盖？

• 相关性与完整性：答案是否回到用户问题，并覆盖必要内容，而不是只做了安全但无用的摘要？

• 拒答与不确定性：来源不足、冲突或过时时，系统能否正确停下、追问或标注冲突？

常见应用场景

• 企业知识助手：基于已授权的政策、手册和项目文档回答员工问题。

• 客户支持：使用最新的帮助中心、产品规格和订单状态生成答复。

• 研究与学习：汇总论文、报告和课程资料，并把摘要、比较或教学材料连回原始文献。

• 合规与专业审阅：根据指定法规、合同或内部政策进行初步比对，再由专业人员复核。

• 基于资料的内容创作：将一组 PDF、文档、网页和演示稿转化为文章、Slides、信息图、播客或视频，同时保留证据线索。

局限与安全风险

OWASP 指出，RAG 和微调并不能完全缓解提示注入。外部文档可能包含企图改变模型行为的恶意指令。因此，文档必须被当作数据而不是系统指令，同时需要权限过滤、来源白名单、内容扫描、工具调用边界和安全测试。

实施检查清单

1. 用真实业务问题定义清晰范围，并标出高风险场景。

2. 只纳入有负责人、版本和更新规则的来源，不要把网络上的任意内容默认为事实。

3. 在检索前应用用户权限，在日志中避免泄露敏感片段。

4. 使用混合检索、重排、元数据过滤和多轮检索改善证据覆盖。

5. 明确要求模型只基于证据陈述事实，区分来源事实、合理推断和未知信息。

6. 使用可点击的精细引用，并评估引用正确性，不只评估引用数量。

7. 为证据不足、来源冲突和高风险回答设计拒答、追问与人工升级路径。

8. 建立固定测试集，持续监测召回、groundedness、引用、完整性、延迟和成本。

从来源到多格式内容

对内容团队来说，grounding 的价值不应止于问答。IvyCraft 允许用户从文档、文章、Slides 和网页链接出发，在同一来源库上进行理解、组织和创作，再将内容变成演示、信息图、播客、视频、漫画等多种格式。

这种工作流的关键是：来源并不会在“生成一次”后失去作用。团队可以回到原始资料核对，再继续修改结构、受众、语气和视觉表达，把同一套受来源约束的洞察复用为不同成果。

结论

Source-Grounded AI 并不是在模型后面加几个链接那么简单。它要求整个系统围绕“来源边界—证据召回—受约束生成—主张引用—持续评估”设计。当一个系统能在证据不足时停下，在来源冲突时说清差异，并让用户快速核对原文，它才真正从“会生成”走向“可信任地工作”。