如何识别 AI 幻觉：7 个危险信号

可靠的 AI 回答将声明与证据连接起来。幻觉可以通过润色过的文笔营造出这种连接的假象，但精确的细节和引用在经检查后就会暴露出问题。

假设有一个引用了世界经济论坛“2026 年 Enterprise AI 准确性指数”（2026 Enterprise AI Accuracy Index）并声称 68% 的 AI 生成报告包含事实错误的虚构回答。该组织是真实存在的，但报告和统计数据是凭空捏造的。由于其语言精确且有可靠的归属支撑，它听起来像是经过深入研究的。

什么是 AI 幻觉，为什么会发生幻觉？

当模型用虚假、不受支持或与回答其余部分不一致的信息来填补空白时，就会发生 AI 幻觉。有些错误显而易见，例如引用了一篇并不存在的论文。其他错误则隐藏在看起来很可靠的回答中：日期差了一年，或者解释以错误的前提开头。

语言模型通过根据训练过程中学到的模式来估计哪些词汇最有可能紧随其后，从而构建回答。在拥有充足上下文和可靠信息的情况下，这一过程可以产生非常实用的回答。但当上下文有限或很难找到可靠来源时，模型可能会用听起来貌似合理的内容来填补空白。

特定主题的风险增加

对于冷门或近期主题、模棱两可的提示词、相互冲突的信息以及建立在错误假设之上的问题，这种风险会增加。当可用证据耗尽时，回答可能会继续保持自信、连贯的语气。

如何评估模型同样重要。许多基准测试强调模型是否能产生正确的回答，而较少关注它是否能识别出问题无法回答或证据不足的情况。研究表明，即便是领先的语言模型，在识别自身是否有足够信息来给出可靠回答方面仍然举步维艰。当它无法可靠地标记不确定性时，可能会产生听起来貌似合理的回答，而不是要求澄清。

幻觉的多样化影响

生成式 AI 系统普遍存在幻觉风险，这使得很难指出哪个平台是“罪魁祸首”。结果会因任务、模型版本以及系统是否能够检查当前来源而异。

幻觉的影响取决于回答接下来的走向。头脑风暴中虚构的细节可能会浪费几分钟时间。捏造的法律引文、药物剂量、财务数字或安全指令则可能导致更严重的错误。NIST 将这些输出称为“混淆（confabulations）”，并将其列为需要进行语境适当的测试、监控和控制的风险，尤其是在错误可能导致重大危害的情况下。

表明 AI 回答需要仔细审查的 7 个迹象

当 AI 的回答显得不可靠时，请从以下三个方面入手：可追溯性、一致性和时效性。顺着声明追溯到其来源，检查细节是否吻合，并确保信息具有足够的时效性来回答该问题。

可追溯性

可追溯性始于原始凭证。如果某项声明至关重要，你应该能够找到来源并确认其表述一致。

1. 来源系捏造或无法验证

如果来源本身无法确认，引用就无法支持回答。URL 可能会因临时原因而中断，因此一个失效的链接并不能证明存在幻觉。更有力的警示信号是无迹可寻的来源：出版商没有该文章的记录、数字对象唯一标识符（DOI）解析到了另一篇论文，或者具名的作者与该作品没有可证实的联系。

模型可以凭空捏造出令人信服的标题、作者、期刊和报告，通常只需足够的细节就能显得合情合理。

验证步骤：在引号中搜索确切的标题。检查出版商的档案和作者的出版记录。对于学术著作，在 doi.org 输入 DOI 并确保它能引导你访问被引用的论文。

2. 来源存在，但回答将其误用

正常工作的引用并不能证明其旁边的句子是准确的。来源可能是可信且相关的，但却没有包含回答所归因的引文语言、报告的数字或结论。它也可能只支持比回答所暗示的范围更窄的发现。

这是一个错误归因问题，而不是来源是否存在的问题：证据是真实的，但证据与声明之间的联系是错误的。

验证步骤：打开被引用的页面，找到确切的统计数据、引文或结论。阅读上下文，然后询问该来源是否如文中所述支持该声明，而不仅仅是支持一般性主题。

3. 确切数字缺乏来源或方法

确切的细节往往听起来像是经过深入研究的。诸如“36.4%”之类的数字暗示了测量、数据集和方法。声明越精确，就越容易追溯到有记录的测量结果。

密切关注以数字精确度呈现的百分比、调查结果、价格、排名、收入数据和研究发现。可靠的来源应明确说明谁收集了信息、何时收集、使用了什么总体或数据集，以及他们是如何计算出结果的。

验证步骤：将数字追溯到其原始来源。确认日期、样本或数据集、方法论以及数字本身。如果来源报告的范围、时间范围或计算方法不同，AI 的回答可能夸大了数据所显示的内容。

一致性

当检查各个组成部分时，可靠的回答应当能够立得住脚。某项声明可能会出错，是因为事实被错误地组合在了一起，而不是因为每个单独的事实都是假的。

4. 真实细节组合错误

回答所使用的每个事实可能都真实存在，但其描述的事情却从未发生过。模型可能会把真实的引文张冠李戴给错误的研究人员，将一个产品版本的特性附到另一个版本上，或者将公司公告与几个月后发生的领导层变更混为一谈。

这些是关系错误。名称、日期、产品和来源可能都是合法的；问题在于它们并没有像回答所声称的那样组合在一起。

验证步骤：将声明拆分为其核心部分：人物或组织、事件或功能、以及日期或版本。分别验证每个部分，然后确认原始来源将它们联系在了一起。

5. 回答接受了一个可疑的前提

模型通常会遵循提示词设定的方向。错误的前提可能会让整个回答误入歧途。模型不会去质疑并不存在的报告、想象中的事件或不正确的假设，而是可能围绕它们构建回答。尽管其起点是错误的，但结果可能依然详细且连贯。

验证步骤：提取主要假设并对其进行单独验证。在评估回答对其做出的评价之前，先确认报告、事件、人物或产品是否存在。

6. 对提示词做细微修改会产生不兼容的事实

重新表述问题可能会改变回答的风格、详细程度或示例。核心事实应当保持稳定。

如果某个版本给出了不同的作者、日期、总数或引用，模型可能是在填补缺失的信息，而不是从可靠来源中提取。不同的措辞不应改变可验证的事实。当发生这种情况时，应将不匹配视为需要调查的线索，而不是任何一方回答虚假的证据。

验证步骤：使用中立语言再次提出相同的事实性问题。仅对比可以验证的细节，然后对照独立来源检查这些细节。

时效性

当前的问题需要当前的证据。某些信息可能在历史上是准确的，但已不再适用于当下的决策。

7. 当前的声明依赖于陈旧或缺失的来源

产品功能、法律、价格、领导职务和研究发现可能会迅速变化。基于较旧信息的回答听起来可能很精炼，并且包含真实的事实，但却漏掉了重要的更新。

当来源本身很可靠时，这一点尤其容易被忽视。即便来源可靠，其时效性也必须足以应对当前的具体问题。

验证步骤：查看来源的发布时间和最近更新时间，然后通过官方文档、政府数据库、公司公告或原始研究等当前的原始来源来确认该声明。

Perplexity 如何应对幻觉

Perplexity 将网络搜索与模型推理相结合，并在回答中将声明链接至来源。这些引用为读者提供了检查证据的直接途径，包括来源是否存在、是否支持其旁边的声明、以及其时效性是否足以回答该问题。引用使验证变得更容易，但它们并不能消除对重要声明进行人工审核的需求。

使证据可见

对于使用网络搜索的问题，Perplexity 会提供带编号的引用，链接回回答中使用的来源。这使得应用本指南中的前两个危险信号变得更容易：验证来源是否存在，然后检查它是否支持相关的声明。

训练模型搜索和使用来源

由于搜索质量不仅仅取决于检索链接，Perplexity 设计了一个两阶段的后训练过程。第一阶段培养产品行为，例如遵循指令、使用工具、保持一致性以及识别可靠证据何时不可用；第二阶段则使用更难的搜索任务来提高证据的使用和工具效率。

将事实质量与写作质量分开测试

对于可验证的任务，Perplexity 会将事实准确性与引用质量以及其他产品要求一并进行评估。对于诸如重写或规划等开放式请求，评估的重点则转向模型是否遵循了指令、是否保留了含义以及是否完成了所要求的任务。这种区别至关重要，因为流畅的回答可能文笔很好，但在事实可靠性上却并不可靠。

仅按需进行搜索

检索越多并不自动意味着越好。Perplexity 的研究描述了如何训练搜索agent来解决多步骤问题，同时在回答质量与工具使用效率之间取得平衡。其目标是收集足够的证据来支持回答，而不添加可能引入错误或转移问题注意力的不必要步骤。

Perplexity 不声称具备完美的准确性。当前的检索、后训练、结构化评估和严谨的搜索降低了幻觉风险。可见的引用让剩余的不确定性更容易接受检查，持续的反馈则有助于系统不断改进。

遵循证据

对 AI 回答的信任程度，取决于你能将其最重要的声明追溯到坚实证据的程度。对于会产生实际后果的决策，请打开来源，阅读引用行之外的内容，并在需要时请合格的专家进行权衡。

常见问题解答

所有生成式 AI 工具都会产生幻觉吗？

是的。当前的任何生成式 AI 系统都可能产生不准确或不受支持的回答。风险会随模型版本、任务、提示词、来源访问权限以及测试方法而变化。模型或许能很好地处理熟悉的事实，但在面对近期信息或冷门信息时可能会遇到困难。

更好的提示词能防止 AI 幻觉吗？

通过添加上下文、定义术语以及消除错误假设，更好的提示词有助于降低风险。它们在配合可靠来源、引用、验证以及人工审核时效果最佳。即便是精心编写的提示词也无法保证回答完全符合事实。

AI 幻觉会带来危险吗？

是的。当不受支持的回答影响医疗、法律、金融、网络安全、教育或其他重大决策时，风险就会上升。虚构的头脑风暴细节可能会浪费几分钟时间；而捏造的用药剂量或法律引文则可能造成更严重的危害。

应该首先检查什么？

从既易于验证又能改变回答的细节开始：引用、引文、统计数据、日期、名称和当前声明。对任何可能影响重大决策的事实给予格外关注。