一句话定义
对于本指南，来源验证意味着检查来源是否存在、是否真实和相关，并且确实支持与其关联的具体声明。
快速回答
来源验证并不等同于看到一个链接。引用、URL、DOI、看起来官方的标题或自信的句子只是一个起点。用户仍需要打开来源，确定谁发布了它，检查它是否足够新，并确认该段落确实支持该主张。
对于生成式AI来说，这一点尤其重要，因为答案可以将看似真实的引用附加到薄弱的、不相关的、过时的或虚构的支持上。联合国教科文组织围绕负责任使用和批判性判断AI解决方案来定义学生的AI素养[1]。对Richbay而言，实际版本很简单：不要让一个经过润色的答案借用你未检查的来源的权威。
为什么重要
AI工具可以是有用的研究助手，但生成的输出不是经过验证的证据。模型可能会错误地总结页面，为错误的主张引用真实来源，混合新旧规则，或编造一个听起来合理的出版物[2]。源验证可以保护用户免于将这些错误传递到学校、工作、支持、政策或公共内容中。
风险随着声明而变化。对于一个随意的旅行想法，一个薄弱的来源可能风险较低。但对于一个医疗声明、就业规则、安全设置、财务假设或客户政策，一个薄弱的来源可能会造成真正的伤害。NIST将生成式AI的风险视为与上下文相关，并需要治理、测量和监控[2]。这使得声明级别的检查成为负责任的AI使用的一部分，而不是一种装饰性的引用习惯。
验证也改善了思考。它迫使用户将“源存在”与“源可信”、“源新鲜”和“源支持此句子”区分开来。这些都是四个不同的检查。通过一个检查并不自动通过其他检查。
如何工作
从存在性开始。通过出版商、机构、图书馆数据库、官方文档网站、标准机构或其他可追溯的位置直接打开来源。如果链接失败，请搜索标题和作者。如果找不到来源，请不要引用它。
下一步验证真实性和可信度。询问来源的创建者是谁，是什么类型的来源，以及它可能有什么动机。原始来源包括法律、标准、官方报告、原始研究论文、该产品的产品文档和直接数据发布。次级来源是对原始材料的解释、总结或解释。次级来源可能有用，但不应无声地取代关键声明的原始证据。
然后检查新鲜度。来源可能是真实且可信的，但可能过时了。产品设置、法律、安全指南、价格、模型功能和政策页面可能会发生变化。稳定的概念可能容忍较旧的来源。当前的操作声明需要更新或官方维护的来源。
最后检查声明级别的支持。找到支持该句子的确切段落、表格、图表或页面。来源可能讨论该主题，但并未说出AI答案所声称的内容。如果文章说“AI系统因情境而异”，这并不支持“某特定产品适用于所有工作场所”的说法。
横向阅读有助于可信度检查。Wineburg和McGrew发现，专业事实核查员通常会迅速离开原始网站并打开其他标签以了解信息背后的来源，而不太专业的读者则倾向于留在页面内并检查表面特征[3]。教训不是随意点击，而是通过检查其他可靠来源对它所说的内容进行验证。
端到端示例
想象一个AI助手说：“2024年联合国教科文组织的报告称，学生应使用AI完成所有作业，只要他们引用来源。”答案中包含一个联合国教科文组织页面的链接。用户不应仅仅因为发布者听起来可信就复制这句话。
一个仔细的检查有四个步骤。首先，打开联合国教科文组织页面并确认其存在。第二，确认它确实是联合国教科文组织的出版物，而不是重新发布或无关的搜索结果。第三，检查该页面是否关于学生AI能力，并且日期是否相关。第四，在源中搜索确切的作业声明。如果该源讨论的是负责任的AI使用和批判性判断，但没有说学生应该用AI完成所有作业，那么AI声明必须重写或删除。
常见误解
一个常见的误解是，官方来源就足够了。官方来源通常是该机构所言的有力证据，但它们可能仍然过时、狭隘、不完整，或者不适用于用户的特定情况。一个国家税务机构的页面无法回答另一个国家的规则。供应商文档可能证明该供应商如何描述一个功能，而不是中立的行业结论。
另一个误解是让同一个模型自我验证就是独立验证。实际上不是。模型可能会以更自信的形式重复同样的错误。独立验证意味着在生成的答案之外进行检查，最好是通过原始或高质量的二次来源。
风险和限制
来源验证需要时间，因此用户需要判断何时应用它。验证对你来说是新的、令人惊讶的、技术性的、有影响的、当前的或可能影响他人的主张。还要验证引语、统计数据、日期、知名人士、法律、医疗声明、安全建议、雇佣规则和产品功能的主张。
验证不能保证正确性。源可能被误解、不完整、有偏见或已被取代。用户也可能检查了错误的段落。目标是减少无支持的依赖，而不是将每个引用变成确定性。
实用判断检查表
在信任引用的AI答案之前，请问：我是否打开了来源？它是原始资料还是可靠的副本？谁发布的？它是哪种类型的来源？它是否足够新？确切段落是否支持确切主张？主张是否比来源允许的更强？是否有更好的原始资料？
对于高后果的工作，保持简短的证据链。保存支持该声明的来源标题、出版商、URL、访问日期以及相关段落或页面。如果答案影响政策、安全、金钱、健康、法律、客户或雇佣，应在采取行动前请合格人员审查证据。