如何識別 AI 幻覺：7 個危險信號
了解 AI 幻覺的七個跡象、模型為何會虛構事實，以及用於驗證引文、主張、日期和來源的五分鐘檢查清單。
可靠的 AI 答案將主張與證據連結起來。幻覺可以透過流暢的文字創造出這種連結的假象，但精確的細節和引文經不起檢驗。
假設有一個虛構的答案，它引用了世界經濟論壇（World Economic Forum）的「2026 企業 AI 準確度指數」（2026 Enterprise AI Accuracy Index），並聲稱 68% 的 AI 生成報告包含事實錯誤。這個組織是真實存在的。但該報告和統計數據是虛構的。它聽起來經過深入研究，是因為其語言精確且有可信的權威出處作為支撐。
什麼是 AI 幻覺，為什麼會發生？
當模型用虛假、不受支援或與其答案其餘部分不一致的資訊來填補空白時，就會發生 AI 幻覺。有些錯誤顯而易見，例如引用了一篇並不存在的論文。其他錯誤則隱藏在其他看起來可信的答案中：日期差了一年，或者解釋以錯誤的前提開頭。
語言模型透過評估在訓練期間學到的模式，來預測接下來最可能出現的單字，以此建構答案。在有足夠上下文和可靠資訊的情況下，這個過程可以產生非常實用的答案。但當上下文有限或很難找到可靠來源時，模型可能會用聽起來僅僅合理的內容來填補空白。
特定主題的風險增加
這種風險在面對冷門或近期主題、模稜兩可的提示詞、互相衝突的資訊，以及建立在錯誤假設之上的問題時會增加。當可用的證據耗盡時，回應可能會繼續保持原本自信且連貫的語氣。
模型的評估方式也很重要。許多基準測試強調模型是否能產生正確的答案，卻較少關注它是否能識別出問題無法回答或證據不足的情況。研究表明，即便是領先的語言模型，在識別自身是否有足夠資訊來給出可靠答案這方面仍然力不從心。當它無法可靠地標記不確定性時，可能會產生聽起來合理的答案，而不是要求進一步澄清。
幻覺的多樣化影響
生成式 AI 系統普遍仍有可能發生幻覺現象，這使得我們很難指名某個特定平台是表現最差的。結果會根據任務、模型版本以及系統是否能檢查最新來源而有所不同。
幻覺的影響取決於答案接下來的走向。腦力激盪中的虛構細節可能會浪費幾分鐘。捏造的法律引文、藥物劑量、財務數字或安全指示可能會導致嚴重得多的錯誤。美國國家標準暨技術研究院（NIST）將這些輸出稱為「混淆（confabulations）」，並將其認定為需要根據情境進行適當測試、監控和控制的風險，特別是在錯誤可能造成重大危害的情況下。
答案將如何被使用 | 可能出什麼問題 | 適當的審查 |
腦力激盪或早期探索 | 薄弱的想法會使工作朝錯誤的方向發展 | 在將任何事實細節用於實際用途之前先進行驗證。 |
已發布或共軍的事實內容 | 讀者收到不正確的統計數據、引言或歸因 | 完成五分鐘檢查清單並開啟每一則重要的引文。 |
具時間敏感性的研究 | 舊的價格、法律、功能或領導層資訊形塑了答案 | 使用當前的第一手來源確認該主張。 |
法律、醫療、財務或安全決策 | 錯誤導致傷害、損失或法律責任 | 審查原始證據、新增獨立的佐證，並納入合格的專家。 |
7 個需要仔細審查 AI 答案的跡象
當 AI 答案似乎不可靠時，請從三點著手：可追溯性、一致性和時效性。將主張追溯回其來源，檢查細節是否一致，並確保資訊足夠新以回答該問題。
測試 | 危險信號 | 最快的檢查方式 |
可追溯性 | 無法驗證來源 | 搜尋確切的標題，然後檢查出版商、作者記錄或數位物件識別碼 (DOI)。 |
可追溯性 | 來源是真的但遭到誤用 | 找到確切的引文、統計數據或結論，並閱讀其周邊的上下文。 |
可追溯性 | 確切的數字沒有明確的來源 | 將其追溯到原始研究並檢查樣本、時間範圍和方法。 |
一致性 | 真實的細節被錯誤地結合在一起 | 將主張拆分為實體、動作以及日期或版本；驗證每個部分。 |
一致性 | 答案接受了有疑問的前提 | 確認該報告、事件、人物或產品確實存在。 |
一致性 | 重新措辭會改變核心事實 | 使用中立的語言再次提問，然後比較可驗證的細節。 |
時效性 | 當前的主張依賴舊資訊 | 檢查來源何時更新，並尋找最新的第一手來源。 |
可追溯性
可追溯性始於憑證。如果某個主張很重要，你應該能夠找到來源並確認它表達的是相同的內容。
1. 來源是虛構的或無法驗證
如果來源本身無法被證實，引文就無法支援答案。URL 可能因暫時的原因而中斷，因此一個失效的連結並不能證明發生了幻覺。更強烈的警告信號是找不到任何痕跡的來源：出版商沒有該文章的記錄、數位物件識別碼 (DOI) 對應到不同的論文，或者具名的作者與該工作沒有任何有記錄的連結。
模型可以虛構出令人信服的標題、作者、期刊和報告，通常只需足夠的細節就能看起來合情合理。
驗證步驟：用引號搜尋確切的標題。檢查出版商的檔案庫和作者的出版紀錄。對於學術作品，請在 doi.org 輸入 DOI，並確保它能引導你前往被引用的論文。
2. 來源存在，但答案誤用了它
有效的引文並不證明其旁邊的句子是準確的。來源可能是可信且相關的，但卻未能包含答案所歸因的引述語言、回報的數字或結論。它也可能僅支援比答案所暗示的還要狹隘的發現。
這是一個錯誤歸因的問題，而非來源是否存在的問題：證據是真實的，但證據與主張之間的連結是錯誤的。
驗證步驟：開啟被引用的頁面並找到確切的統計數據、引言或結論。閱讀周邊的上下文，然後詢問該來源是否如實支援所寫的主張，而不僅僅是支援一般主題。
3. 確切的數字缺乏來源或方法
確切的細節往往給人一種經過深入研究的印象。「36.4%」這樣的數字暗示了測量、資料集和方法的背後支援。主張越精確，就越容易追溯到有文獻記錄的測量結果。
密切關注以數字精確度呈現的百分比、調查結果、價格、排名、營收數據和研究發現。可靠的來源應該清楚說明誰收集了資訊、何時收集、他們使用了哪種族群或資料集，以及他們是如何計算出該結果的。
驗證步驟：將數字追溯至其原始來源。確認日期、樣本或資料集、方法論以及數字本身。如果來源回報了不同的範圍、時間範圍或計算方式，AI 答案可能誇大了數據所顯示的內容。
一致性
當檢查其各個組成部分時，可靠的答案應該能夠站得住腳。某個主張可能會出錯，是因為事實被錯誤地組合在一起，而不是因為每個個別的事實都是假的。
4. 錯誤地結合真實細節
答案可能會使用個別真實的事實，卻仍然描述了從未發生過的事情。模型可能會將真實的引文安錯給其他研究人員，將某個產品發布的功能附在另一個產品上，或者將公司公告與幾個月後才發生的領導層變動結合在一起。
這些是關係錯誤。名稱、日期、產品和來源可能都是合法的；問題在於它們並不像答案所聲稱的那樣屬於彼此。
驗證步驟：將主張拆分為其核心部分：人物或組織、事件或功能，以及日期或版本。分別驗證每個部分，然後確認原始來源將它們連結在一起。
5. 答案接受了有疑問的前提
模型通常會遵循提示詞設定的方向。錯誤的前提可能會使整個回應走入歧途。模型可能不會質疑不存在的報告、想像中的事件或不正確的假設，而是會圍繞著它建構答案。其結果可能詳細且連貫，即使它的出發點是錯的。
驗證步驟：抽出主要假設並單獨進行驗證。在評估答案對其內容的說法之前，先確認報告、事件、人物或產品是否存在。
6. 對提示詞進行微小修改會產生不相容的事實
重新措辭問題可能會改變答案中的風格、詳細程度或範例。核心事實應該保持穩定。
如果某個版本列出了不同的作者、日期、總數或引文，則該模型可能是在填補缺失的資訊，而不是從可靠的來源中汲取。不同的措辭不應該改變可驗證的事實。當它發生改變時，應將不匹配之處視為需要調查的線索，而不是任何一方回應為假的證明。
驗證步驟：使用中立的語言再次詢問相同的實質問題。僅比較可以被驗證的細節，然後將這些細節與獨立來源進行比對。
時效性
當前問題需要當前的證據。資訊可能在歷史上是準確的，但已不再適用於當前的決策。
7. 當前的主張依賴陳舊或缺失的來源
產品功能、法律、價格、領導職位和研究發現可能會迅速改變。基於較舊資訊的答案聽起來可能很流暢，並且包含真實的事實，但卻漏掉了重要的更新。
當來源本身就很可信時，這點特別容易被忽略。即便來源可信，對於手邊的問題而言，它依然需要足夠新。
驗證步驟：查看來源的發布與最近更新時間，然後使用官方文件、政府資料庫、公司公告或原始研究等當前的第一手來源來確認該主張。
5 分鐘 AI 驗證檢查清單 在決定 AI 答案是否有用之前，你不需要驗證每一句話。從份量最重的主題開始，然後完成以下的五項檢查。 | |
第 1 分鐘：標記重要的主張突顯統計數據、引言、日期、具名的來源、產品功能、建議以及高風險的指引。 第 2 分鐘：測試引文開啟連結的來源。確認每個來源都存在，且與答案中的標題、作者、出版商和日期相符。 第 3 分鐘：將主張與證據進行比對在來源中找到確切的細節。檢查來源是否支援該主張的措辭、範圍和確信程度。 第 4 分鐘：檢查原始紀錄與當前紀錄優先選擇第一手證據：原始研究、官方文件、政府紀錄、法院文件、公司公告或來源數據。對於具時間敏感性的主張，請確認沒有任何更新的資訊改變了答案。 第 5 分鐘：移除假設並再次提問在沒有假設的情況下重新措辭問題。僅在兩個答案之間比較可驗證的細節，然後獨立檢查任何衝突或新的主張。 |
Perplexity 如何應對幻覺
Perplexity 將網路搜尋與模型推理相結合，並在答案中將主張連結至來源。這些引文為讀者提供了檢視證據的直接途徑，包括來源是否存在、是否支援其旁邊的主張，以及對於該問題而言是否夠新。引文使驗證變得更容易，但它們並不能取代審查重大主張的需求。
使證據透明可見
對於使用網路搜尋的問題，Perplexity 會提供編號引文，連結回回應中使用的來源。這讓人們更容易套用本指南中的前兩個危險信號：驗證來源是否存在，然後檢查它是否支援相關的主張。
訓練模型搜尋並使用來源
由於搜尋品質不僅取決於檢索連結，Perplexity 設計了兩階段的後訓練流程。第一階段開發產品行為，例如遵循指示、使用工具、保持一致性，以及識別何時無法取得可靠證據；第二階段則使用更困難的搜尋任務來改善證據使用和工具效率。
分開測試事實品質與寫作品質
對於可驗證的任務，Perplexity 會評估事實準確度以及引文品質和其他產品需求。對於像是重寫或規劃這類開放式請求，評估則著重於模型是否遵循了指示、保留了含意，以及是否完成了要求的任務。這種區別很重要，因為流暢的答案可能寫得很好，卻不一定在事實上可靠。
只需進行必要的搜尋
更多的檢索並不等於自動更好。Perplexity 的研究描述了如何訓練搜尋代理程式來解決多步驟問題，同時在答案品質與工具使用效率之間取得平衡。其目標是收集足夠的證據來支援答案，而不會增加不必要的步驟，以免引入錯誤或轉移對問題本身的注意力。
Perplexity 不宣稱完美的準確度。當前的檢索、後訓練、結構化評估和嚴謹的搜尋降低了幻覺風險。可見的引文讓剩餘的不確定性更容易檢視，持續的回饋則有助於系統改善。
追隨證據
對 AI 答案的信任程度，取決於你能將其最重要的主張追溯到多麼扎實的證據。對於具有實際後果的決策，請開啟來源、閱讀引文以外的內容，並在需要時請合格的專家來權衡評估。
常見問題集
所有的生成式 AI 工具都會產生幻覺嗎？
會。任何現行的生成式 AI 系統都可能產生不正確或缺乏支援的答案。風險會隨著模型版本、任務、提示詞、來源存取權限和測試方法而改變。模型可能對熟悉的常規事實處理得很好，但在處理近期或冷門資訊時則會遇到困難。
更好的提示詞能預防 AI 幻覺嗎？
更好的提示詞透過新增上下文、定義術語以及移除錯誤假設來降低風險。它們與可靠的來源、引用、驗證和人工審查搭配使用時效果最好。即使是精心撰寫的提示詞，也無法保證回應完全符合事實。
AI 幻覺會帶來危險嗎？
會。當未受支援的答案影響醫療保健、法律、金融、網路安全、教育或其他重大決策時，風險就會升高。一個虛構的腦力激盪細節可能會浪費幾分鐘；而一個捏造的劑量或法律引文則可能導致嚴重得多的危害。
首先應該檢查什麼？
從既容易驗證又能改變答案的細節開始：引文、引言、統計數據、日期、名稱和當前的主張。請特別注意任何可能影響重要決策的事實。