如何識別 AI 幻覺：7 個紅色警戒

可靠的 AI 答案會將主張與證據連結起來。幻覺可以透過流暢的文字創造出這種連結的外觀，但其精確的細節和引文經不起檢驗。

假設有一個虛構的答案，它引述了世界經濟論壇的「2026 企業 Enterprise AI 準確度指數」，並聲稱 68% 的 AI 生成報告包含事實錯誤。該組織是真實存在的。但報告和統計數據是虛構的。它聽起來像是經過研究的，因為其語言精確，且有可靠的歸屬作為支撐。

什麼是 AI 幻覺，為什麼會發生？

當模型用錯誤、不受支援或與其其餘答案不一致的資訊來填補空白時，就會發生 AI 幻覺。有些錯誤是顯而易見的，例如引用了一篇不存在的論文。其他錯誤則隱藏在看起來很可靠的答案中：日期差了一年，或者解釋開頭採用了錯誤的前提。

語言模型透過評估在訓練期間學到的模式，來預測接下來最可能出現的單字，藉此建構答案。在有足夠的上下文和可靠資訊的情況下，這個過程可以產生非常實用的答案。但是，當上下文有限或很難找到可靠來源時，模型可能會用聽起來十分合理的內容來填補空白。

特定主題的風險增加

對於冷門或近期主題、語意不明確的提示詞、互相衝突的資訊，以及建立在錯誤假設上的問題，這種風險會隨之增加。當可用證據用盡時，回應可能會繼續保持原本自信、連貫的語氣。

模型的評估方式也很重要。許多基準測試強調模型是否產生了正確的答案，而較少關注它是否能識別問題何時無法回答或證據何時不足。研究表明，甚至領先的語言模型仍然難以識別它們何時沒有足夠的資訊來給出可靠的答案。當它無法可靠地標記不確定性時，它可能會產生聽起來合理的答案，而不是要求澄清。

幻覺帶來的多樣化影響

幻覺現象在各個生成式 AI 系統中仍然可能發生，這使得我們很難指名哪一個平台表現最差。結果會根據任務、模型版本以及系統是否能檢查當前來源而有所不同。

幻覺的影響取決於答案接下來的走向。腦力激盪中的捏造細節可能會浪費幾分鐘。捏造的法律引文、藥物劑量、財務數字或安全指示可能會導致嚴重得多的錯誤。NIST 將這些輸出稱為「混淆 (confabulations)」，並將其認定為一項需要進行情境適當的測試、監控和控制的風險，特別是在錯誤可能造成重大危害的情況下。

AI 答案需要仔細檢查的 7 個跡象

當 AI 的答案似乎不可靠時，可以從三件事開始著手：可追溯性、一致性和時效性。追溯主張的來源，檢查細節是否吻合，並確保資訊對於該問題而言具有足夠的時效性。

可追溯性

可追溯性始於憑證。如果某個主張很重要，你應該能夠找到來源並確認其內容一致。

1. 來源是虛構的或無法驗證

如果來源本身無法確認，引文就無法支援答案。URL 可能因為暫時的原因而損壞，因此一個失效的連結並不能證明發生了幻覺。更強烈的警告信號是找不到任何痕跡的來源：出版商沒有該文章的記錄、數位物件識別碼 (DOI) 指向不同的論文，或者指定的作者與該作品沒有記錄在案的關聯。

模型可以虛構出令人信服的標題、作者、期刊和報告，通常只需足夠的細節就能看起來合情合理。

驗證步驟：在引號中搜尋確切的標題。檢查出版商的檔案庫和作者的出版記錄。對於學術著作，請在 doi.org 輸入 DOI，並確保它能引導你前往被引用的論文。

2. 來源存在，但答案誤用了它

有效的引文並不能證明它旁邊的句子是準確的。來源可能是可靠且相關的，但卻未能包含答案所歸屬的引述語言、報告數字或結論。它也可能只支援比答案所暗示的還要狹隘的發現。

這是一個錯誤歸屬的問題，而不是來源是否存在的問題：證據是真實的，但證據與主張之間的連結是錯誤的。

驗證步驟：開啟被引用的頁面，找出確切的統計數據、引言或結論。閱讀周邊的上下文，然後詢問該來源是否如實支援該主張，而不僅僅是支援一般主題。

3. 確切的數字缺乏來源或方法

確切的細節往往聽起來像是經過研究的。像「36.4%」這樣的數字暗示了測量、資料集和方法。主張越精確，就越容易追溯到有記錄的測量結果。

密切關注以數字精確度呈現的百分比、調查結果、價格、排名、營收數字和研究發現。可靠的來源應該清楚說明誰收集了資訊、何時收集、他們使用了哪種族群或資料集，以及他們是如何計算出結果的。

驗證步驟：將數字追溯到其原始來源。確認日期、樣本或資料集、方法論以及數字本身。如果來源報告了不同的範圍、時間範圍或計算方式，AI 答案可能誇大了數據所顯示的內容。

一致性

當檢查其各個組成部分時，可靠的答案應該能夠站得住腳。某個主張可能會失敗，是因為事實被錯誤地組合在一起，而不是因為每一個個別的事實都是假的。

4. 錯誤地結合了真實細節

答案可能會使用個別真實的事實，卻仍然描述了從未發生過的事情。模型可能會將真實的引言指派給錯誤的研究人員，將某個產品發布的功用附加到另一個產品上，或將公司公告與幾個月後才發生的領導層變動結合在一起。

這些是關係錯誤。名稱、日期、產品和來源可能全部都是合法的；問題在於它們並不像答案所聲稱的那樣屬於彼此。

驗證步驟：將主張拆分為其核心部分：人物或組織、事件或功能，以及日期或版本。分別驗證每個部分，然後確認原始來源將它們連結在一起。

5. 答案接受了有疑問的前提

模型通常會遵循提示詞設定的方向。錯誤的前提會讓整個回應走上錯誤的方向。與其質疑不存在的報告、想像中的事件或不正確的假設，模型可能會圍繞著它建構答案。其結果可能詳細且連貫，即使它的起點是錯的。

驗證步驟：抽出主要假設並獨立進行驗證。在評估答案對其說法之前，先確認報告、事件、人物或產品確實存在。

6. 對提示詞進行微小的更改會產生不相容的事實

重新措辭問題可能會改變答案的風格、詳細程度或範例。核心事實應該保持穩定。

如果某個版本寫了不同的作者、日期、總數或引文，模型可能是在填補缺失的資訊，而不是從可靠的來源中提取。不同的措辭不應該改變可驗證的事實。當它發生改變時，請將不匹配的情況視為一條需要調查的線索，而不是任何一方回應為假的證明。

驗證步驟：使用中立的語言再次詢問相同的實質問題。僅比較可以驗證的細節，然後將這些細節與獨立來源進行核對。

時效性

當前的問題需要當前的證據。資訊可能在歷史上是準確的，但已不再適用於當前的決策。

7. 當前的主張依賴陳舊或缺失的來源

產品功能、法律、價格、領導職位和研究發現可能會迅速變化。基於舊資訊的答案聽起來可能很流暢，並且包含真實的事實，但卻遺漏了重要的更新。

當來源本身就很可靠時，這點特別容易被忽略。可靠的來源仍然需要具備足夠的時效性，才能適用於當前的問題。

驗證步驟：查看來源的發布與最後更新時間，然後使用官方文件、政府資料庫、公司公告或原始研究等當前的第一手來源來確認該主張。

Perplexity 如何處理幻覺

Perplexity 將網路搜尋與模型推理相結合，並將答案中的主張連結至來源。這些引文為讀者提供了檢查證據的直接途徑，包括來源是否存在、是否支援其旁側的主張，以及對於該問題而言是否具有足夠的時效性。引文讓驗證變得更容易；但它們並不能免除審查重要主張的需求。

讓證據清晰可見

對於使用網路搜尋的問題，Perplexity 會提供編號引文，連結回回應中使用的來源。這讓人們更容易套用本指南中的前兩個紅色警戒：驗證來源是否存在，然後檢查它是否支援相關的主張。

訓練模型搜尋並使用來源

由於搜尋品質不僅取決於檢索連結，Perplexity 設計了兩階段的後訓練流程。第一階段發展產品行為，例如遵循指示、使用工具、保持一致性，以及識別何時無法取得可靠證據；第二階段則使用更困難的搜尋任務來改善證據使用與工具效率。

將事實品質與寫作品質分開測試

對於可驗證的任務，Perplexity 會評估事實準確度以及引文品質和其他產品要求。對於諸如重寫或規劃等開放式請求，評估重點則在於模型是否遵循了指示、保留了語意，以及是否完成了要求的任務。這種區別很重要，因為流暢的答案可能寫得很好，卻不一定在事實上可靠。

只需要搜尋到必要的程度

更多的檢索並不代表自動就會更好。Perplexity 的研究描述了如何訓練搜尋代理來解決多步驟問題，同時在答案品質與工具使用效率之間取得平衡。其目標是收集足夠的證據來支援答案，而不會增加不必要的步驟，以免引入錯誤或分散對問題的注意力。

Perplexity 不會聲稱達到百分之百的準確度。當前的檢索、後訓練、結構化評估和嚴謹的搜尋降低了幻覺的風險。清晰可見的引文讓剩餘的不確定性更容易檢查，而持續的反饋則有助於系統改進。

追隨證據

信任 AI 答案的前提，在於你能將其最重要的主張追溯到堅實的證據。對於具有實際後果的決策，請開啟來源、閱讀引文以外的內容，並在需要時請合格的專家來權衡評估。

常見問題

所有生成式 AI 工具都會產生幻覺嗎？

會。任何現行的生成式 AI 系統都可能產生不準確或缺乏支援的答案。風險會隨著模型版本、任務、提示詞、來源存取權限與測試方法而有所不同。模型可能很擅長處理熟悉的事實，但對於近期或冷門的資訊則可能會感到力不從心。

更好的提示詞可以預防 AI 幻覺嗎？

更好的提示詞透過新增上下文、定義術語以及消除錯誤假設，有助於降低風險。它們與可靠的來源、引文、驗證和人工審查搭配使用時效果最好。即使是精心撰寫的提示詞，也無法保證能獲得符合事實的回應。

AI 幻覺會造成危險嗎？

會。當不受支援的答案影響醫療、法律、金融、網路安全、教育或其他重大決策時，風險就會上升。一個捏造的腦力激盪細節可能會浪費幾分鐘；但一個捏造的劑量或法律引文可能會造成嚴重得多的危害。

應該優先檢查什麼？

從既容易驗證又能改變答案的細節開始：引文、引言、統計數據、日期、名稱和當前的主張。特別注意任何可能影響重要決策的事實。