Cách nhận biết hiện tượng ảo giác AI: 7 dấu hiệu cảnh báo

Các câu trả lời AI đáng tin cậy kết nối các khẳng định với bằng chứng. Ảo giác có thể tạo ra sự xuất hiện của kết nối đó thông qua văn phong trau chuốt, nhưng các chi tiết chính xác và trích dẫn sẽ thất bại khi bị kiểm tra.

Hãy lấy một câu trả lời giả định trích dẫn “Chỉ số độ chính xác AI doanh nghiệp 2026” của Diễn đàn Kinh tế Thế giới và khẳng định rằng 68% các báo cáo do AI tạo ra chứa lỗi thực tế. Tổ chức này là có thật. Báo cáo và số liệu thống kê là do bịa đặt. Nó nghe có vẻ đã qua nghiên cứu vì ngôn ngữ chính xác và được neo giữ bởi một sự quy kết đáng tin cậy.

Ảo giác AI là gì và tại sao nó lại xảy ra?

Ảo giác AI xảy ra khi một mô hình lấp đầy các khoảng trống bằng thông tin sai sự thật, không được hỗ trợ hoặc không nhất quán với phần còn lại của câu trả lời. Một số lỗi rất rõ ràng, chẳng hạn như trích dẫn một bài báo không tồn tại. Những lỗi khác ẩn trong các câu trả lời trông có vẻ đáng tin cậy: một ngày tháng bị lệch một năm hoặc lời giải thích bắt đầu bằng một tiền đề sai.

Các mô hình ngôn ngữ xây dựng câu trả lời bằng cách ước tính từ nào có khả năng xuất hiện tiếp theo cao nhất, dựa trên các mẫu học được trong quá trình huấn luyện. Với đủ ngữ cảnh và thông tin đáng tin cậy, quá trình đó có thể tạo ra các câu trả lời cực kỳ hữu ích. Nhưng khi ngữ cảnh bị hạn chế hoặc khó tìm thấy các nguồn đáng tin cậy, mô hình có thể lấp đầy khoảng trống bằng thứ chỉ nghe có vẻ hợp lý.

Rủi ro tăng lên với một số chủ đề nhất định

Rủi ro đó tăng lên với các chủ đề tối nghĩa hoặc gần đây, các câu lệnh mơ hồ, thông tin xung đột và các câu hỏi được xây dựng dựa trên các giả định sai. Khi các bằng chứng có sẵn cạn kiệt, phản hồi có thể tiếp tục với giọng điệu tự tin, mạch lạc tương tự.

Cách các mô hình được đánh giá cũng rất quan trọng. Nhiều tiêu chuẩn đánh giá nhấn mạnh việc liệu một mô hình có tạo ra câu trả lời chính xác hay không, và ít chú ý hơn đến việc liệu nó có nhận ra khi nào một câu hỏi không thể trả lời hoặc bằng chứng là không đủ hay không. Nghiên cứu cho thấy ngay cả các mô hình ngôn ngữ hàng đầu vẫn gặp khó khăn trong việc nhận ra khi nào chúng không có đủ thông tin để đưa ra câu trả lời đáng tin cậy. Khi nó không gắn cờ sự không chắc chắn một cách đáng tin cậy, nó có thể tạo ra một câu trả lời nghe có vẻ hợp lý thay vì yêu cầu làm rõ.

Tác động đa dạng của hiện tượng ảo giác

Ảo giác vẫn có thể xảy ra trên các hệ thống AI tạo sinh, khiến việc nêu tên một nền tảng tệ nhất trở nên khó khăn. Kết quả thay đổi tùy thuộc vào tác vụ, phiên bản mô hình và việc hệ thống có thể kiểm tra các nguồn hiện tại hay không.

Tác động của hiện tượng ảo giác phụ thuộc vào việc câu trả lời sẽ đi đến đâu tiếp theo. Một chi tiết bịa đặt trong buổi động não có thể lãng phí vài phút. Một trích dẫn pháp lý, liều lượng thuốc, số liệu tài chính hoặc hướng dẫn bảo mật được bịa đặt có thể dẫn đến sai lầm nghiêm trọng hơn nhiều. NIST gọi những kết quả đầu ra này là “sựa bịa đặt trí nhớ” và xác định chúng là rủi ro đòi hỏi phải kiểm thử, giám sát và kiểm soát phù hợp với ngữ cảnh, đặc biệt là ở những nơi sai sót có thể gây ra tác hại đáng kể.

7 dấu hiệu cho thấy câu trả lời của AI cần được xem xét kỹ hơn

Khi câu trả lời của AI có vẻ không đáng tin cậy, hãy bắt đầu với ba yếu tố: tính có thể truy nguyên, tính nhất quán và tính cập nhật. Lần theo khẳng định để quay lại nguồn của nó, kiểm tra xem các chi tiết có trùng khớp hay không, và đảm bảo thông tin đủ cập nhật cho câu hỏi.

Tính có thể truy nguyên

Tính có thể truy nguyên bắt đầu từ các tài liệu tham khảo. Nếu một khẳng định quan trọng, bạn phải có khả năng tìm ra nguồn và xác nhận nguồn đó nói cùng một điều.

1. Nguồn thông tin bị bịa đặt hoặc không thể xác minh

Một trích dẫn không thể hỗ trợ cho câu trả lời nếu bản thân nguồn đó không thể được xác nhận. URL có thể bị hỏng do lý do tạm thời, vì vậy một liên kết bị hỏng không phải là bằng chứng của hiện tượng ảo giác. Dấu hiệu cảnh báo mạnh mẽ hơn là một nguồn không để lại dấu vết: nhà xuất bản không có hồ sơ về bài viết, mã định danh tài liệu kỹ thuật số (DOI) trỏ đến một bài báo khác, hoặc tác giả được nêu tên không có mối liên hệ nào được ghi nhận với công trình này.

Các mô hình có thể bịa ra các tiêu đề, tác giả, tạp chí và báo cáo mang tính thuyết phục, thường chỉ với đầy đủ chi tiết để trông có vẻ hợp pháp.

Bước xác minh: Tìm kiếm chính xác tiêu đề trong dấu ngoặc kép. Kiểm tra kho lưu trữ của nhà xuất bản và hồ sơ xuất bản của tác giả. Đối với công trình học thuật, hãy nhập DOI tại doi.org và đảm bảo nó đưa bạn đến bài báo được trích dẫn.

2. Nguồn tồn tại, nhưng câu trả lời sử dụng sai

Một trích dẫn hoạt động không chứng minh được rằng câu văn bên cạnh nó là chính xác. Một nguồn có thể đáng tin cậy và có liên quan nhưng lại không chứa ngôn ngữ được trích dẫn, số liệu được báo cáo hoặc kết luận mà câu trả lời quy cho nó. Nó cũng có thể hỗ trợ một phát hiện hẹp hơn so với gợi ý của câu trả lời.

Đây là vấn đề quy kết sai, không phải là vấn đề tồn tại nguồn: bằng chứng có thật, nhưng mối liên hệ giữa bằng chứng và khẳng định là sai.

Bước xác minh: Mở trang được trích dẫn và tìm chính xác số liệu, câu trích dẫn hoặc kết luận. Đọc ngữ cảnh xung quanh, sau đó tự hỏi liệu nguồn đó có thực sự hỗ trợ cho khẳng định được viết hay không, chứ không chỉ hỗ trợ chủ đề chung.

3. Các con số chính xác thiếu nguồn hoặc phương pháp

Các chi tiết chính xác thường có vẻ như đã qua nghiên cứu. Một số liệu chẳng hạn như “36,4%” ngụ ý một phép đo, một tập dữ liệu và một phương pháp. Khẳng định càng chính xác, thì việc lần ngược lại một phép đo có tài liệu chứng minh càng dễ dàng hơn.

Hãy chú ý kỹ đến tỷ lệ phần trăm, kết quả khảo sát, giá cả, bảng xếp hạng, số liệu doanh thu và các phát hiện nghiên cứu được trình bày với độ chính xác bằng số. Một nguồn đáng tin cậy phải làm rõ ai là người thu thập thông tin, thời điểm thu thập, quần thể hoặc tập dữ liệu nào đã được sử dụng và cách họ tính toán kết quả.

Bước xác minh: Lần theo con số đến nguồn gốc của nó. Xác nhận ngày tháng, mẫu hoặc tập dữ liệu, phương pháp luận và chính con số đó. Nếu nguồn báo cáo phạm vi, khung thời gian hoặc cách tính toán khác, câu trả lời của AI có thể đang phóng đại những gì dữ liệu thể hiện.

Tính nhất quán

Một câu trả lời đáng tin cậy phải vững vàng khi các bộ phận riêng lẻ của nó được kiểm tra. Một khẳng định có thể thất bại vì các sự thật được lắp ráp không chính xác, chứ không phải vì mọi sự thật riêng lẻ đều sai.

4. Các chi tiết thực tế được kết hợp không chính xác

Một câu trả lời có thể sử dụng các sự thật có thật riêng lẻ nhưng vẫn mô tả một điều chưa từng xảy ra. Một mô hình có thể gán một câu trích dẫn có thật cho sai nhà nghiên cứu, đính kèm một tính năng từ bản phát hành sản phẩm này sang bản phát hành sản phẩm khác, hoặc kết hợp thông báo của công ty với việc thay đổi lãnh đạo diễn ra sau đó nhiều tháng.

Đây là những lỗi quan hệ. Tên, ngày tháng, sản phẩm và nguồn đều có thể hợp pháp; vấn đề là chúng không thuộc về nhau theo cách mà câu trả lời khẳng định.

Bước xác minh: Chia khẳng định thành các phần thiết yếu của nó: con người hoặc tổ chức, sự kiện hoặc tính năng, và ngày tháng hoặc phiên bản. Xác minh từng phần một cách riêng biệt, sau đó xác nhận rằng nguồn gốc kết nối chúng.

5. Câu trả lời chấp nhận một tiền đề đáng ngờ

Các mô hình thường tuân theo hướng dẫn được thiết lập bởi câu lệnh. Một tiền đề sai có thể đặt toàn bộ phản hồi đi chệch hướng. Thay vì thách thức một báo cáo không có thực, sự kiện tưởng tượng hoặc giả định không chính xác, mô hình có thể xây dựng câu trả lời xung quanh nó. Kết quả có thể chi tiết và mạch lạc, mặc dù điểm khởi đầu của nó đã sai.

Bước xác minh: Tách giả định chính ra và tự xác minh nó. Xác nhận rằng báo cáo, sự kiện, con người hoặc sản phẩm có tồn tại trước khi đánh giá những gì câu trả lời nói về nó.

6. Các thay đổi nhỏ đối với câu lệnh tạo ra các sự thật không tương thích

Viết lại một câu hỏi có thể làm thay đổi văn phong, mức độ chi tiết hoặc các ví dụ trong câu trả lời. Các sự thật cốt lõi phải giữ nguyên ổn định.

Nếu một phiên bản nêu tên một tác giả, ngày tháng, tổng số hoặc trích dẫn khác, mô hình có thể đang lấp đầy thông tin còn thiếu thay vì rút ra từ một nguồn đáng tin cậy. Từ ngữ khác nhau không được làm thay đổi các sự thật có thể xác minh. Khi có sự thay đổi, hãy coi sự sai lệch đó là manh mối để điều tra chứ không phải là bằng chứng cho thấy phản hồi nào là sai.

Bước xác minh: Đặt lại cùng một câu hỏi thực tế bằng ngôn ngữ trung lập. Chỉ so sánh các chi tiết có thể xác minh, sau đó kiểm tra các chi tiết đó dựa trên một nguồn độc lập.

Tính cập nhật

Các câu hỏi hiện tại cần bằng chứng hiện tại. Thông tin có thể chính xác về mặt lịch sử nhưng không còn dùng được cho một quyết định hiện tại.

7. Một khẳng định hiện tại dựa vào các nguồn lỗi thời hoặc thiếu sót

Các tính năng sản phẩm, luật pháp, giá cả, vai trò lãnh đạo và kết quả nghiên cứu có thể thay đổi nhanh chóng. Một câu trả lời dựa trên thông tin cũ có thể nghe có vẻ trau chuốt và bao gồm các sự thật có thật nhưng lại bỏ sót một bản cập nhật quan trọng.

Điều này đặc biệt dễ bỏ qua khi bản thân nguồn thông tin đó đáng tin cậy. Tuy nhiên, một nguồn đáng tin cậy vẫn cần phải đủ mới để phục vụ cho câu hỏi đang đặt ra.

Bước xác minh: Xem thời điểm nguồn được xuất bản và cập nhật lần cuối, sau đó xác nhận khẳng định bằng một nguồn sơ cấp hiện tại như tài liệu chính thức, cơ sở dữ liệu của chính phủ, thông báo của công ty hoặc nghiên cứu gốc.

Cách Perplexity xử lý hiện tượng ảo giác

Perplexity kết hợp tìm kiếm web với khả năng suy luận của mô hình và liên kết các khẳng định với các nguồn trong câu trả lời. Những trích dẫn đó cung cấp cho người đọc con đường trực tiếp để kiểm tra bằng chứng, bao gồm việc liệu một nguồn có tồn tại hay không, có hỗ trợ khẳng định bên cạnh nó hay không, và có đủ mới cho câu hỏi đó hay không. Các trích dẫn giúp việc xác minh trở nên dễ dàng hơn; chúng không loại bỏ nhu cầu xem xét các khẳng định quan trọng.

Làm cho bằng chứng hiển thị rõ ràng

Đối với các câu hỏi sử dụng tìm kiếm web, Perplexity trình bày các trích dẫn được đánh số liên kết ngược lại các nguồn được sử dụng trong phản hồi. Điều đó giúp áp dụng hai dấu hiệu cảnh báo đầu tiên trong hướng dẫn này dễ dàng hơn: xác minh rằng một nguồn tồn tại, sau đó kiểm tra xem nguồn đó có hỗ trợ khẳng định liên quan hay không.

Huấn luyện các mô hình tìm kiếm và sử dụng nguồn

Vì chất lượng tìm kiếm phụ thuộc vào nhiều yếu tố hơn là việc truy xuất các liên kết, Perplexity đã thiết kế một quy trình hậu huấn luyện hai giai đoạn. Giai đoạn đầu phát triển các hành vi sản phẩm như tuân theo hướng dẫn, sử dụng công cụ, duy trì tính nhất quán và nhận ra khi nào bằng chứng đáng tin cậy không có sẵn; giai đoạn thứ hai sử dụng các tác vụ tìm kiếm khó hơn để cải thiện việc sử dụng bằng chứng và hiệu quả của công cụ.

Kiểm tra chất lượng thực tế tách biệt với chất lượng viết

Đối với các tác vụ có thể xác minh, Perplexity đánh giá độ chính xác thực tế bên cạnh chất lượng trích dẫn và các yêu cầu khác của sản phẩm. Đối với các yêu cầu mở như viết lại hoặc lên kế hoạch, việc đánh giá thay vào đó sẽ tập trung vào việc liệu mô hình có tuân theo hướng dẫn, bảo tồn ý nghĩa và hoàn thành tác vụ được yêu cầu hay không. Sự phân biệt này rất quan trọng vì một câu trả lời trôi chảy có thể được viết hay mà không đáng tin cậy về mặt thực tế.

Chỉ tìm kiếm ở mức độ cần thiết

Truy xuất nhiều hơn không tự động tốt hơn. Nghiên cứu của Perplexity mô tả việc huấn luyện các tác nhân tìm kiếm để giải quyết các câu hỏi nhiều bước đồng thời cân bằng chất lượng câu trả lời với hiệu quả sử dụng công cụ. Mục tiêu là thu thập đủ bằng chứng để hỗ trợ câu trả lời mà không cần thêm các bước không cần thiết có thể gây ra lỗi hoặc làm sao lãng câu hỏi.

Perplexity không cam kết độ chính xác tuyệt đối. Quá trình truy xuất hiện tại, hậu huấn luyện, đánh giá có cấu trúc và tìm kiếm có kỷ luật giúp giảm nguy cơ ảo giác. Các trích dẫn hiển thị giúp việc kiểm tra những điểm chưa chắc chắn còn lại trở nên dễ dàng hơn, và phản hồi liên tục giúp hệ thống cải thiện.

Lần theo bằng chứng

Chỉ tin tưởng câu trả lời của AI trong giới hạn mà bạn có thể lần theo các khẳng định quan trọng nhất của nó trở lại bằng chứng vững chắc. Đối với các quyết định có hậu quả thực tế, hãy mở các nguồn, đọc vượt ra ngoài dòng được trích dẫn và yêu cầu một chuyên gia có trình độ tham gia khi cần thiết.

Các câu hỏi thường gặp

Có phải tất cả các công cụ AI tạo sinh đều bị ảo giác?

Có. Bất kỳ hệ thống AI tạo sinh nào hiện nay cũng có thể đưa ra câu trả lời không chính xác hoặc không có cơ sở. Rủi ro thay đổi tùy theo phiên bản mô hình, tác vụ, câu lệnh, quyền truy cập nguồn và phương pháp kiểm thử. Một mô hình có thể xử lý tốt các sự kiện quen thuộc nhưng lại gặp khó khăn với thông tin gần đây hoặc ít người biết.

Các câu lệnh tốt hơn có thể ngăn chặn ảo giác của AI không?

Các câu lệnh tốt hơn giúp giảm thiểu rủi ro bằng cách bổ sung ngữ cảnh, định nghĩa thuật ngữ và loại bỏ các giả định sai lầm. Chúng hoạt động tốt nhất cùng với các nguồn đáng tin cậy, trích dẫn, xác minh và sự đánh giá của con người. Ngay cả một câu lệnh được viết cẩn thận cũng không thể đảm bảo một phản hồi chính xác về mặt thực tế.

Ảo giác của AI có thể nguy hiểm không?

Có. Các mối lo ngại sẽ tăng lên khi một câu trả lời không có cơ sở ảnh hưởng đến y tế, luật pháp, tài chính, an ninh mạng, giáo dục hoặc một quyết định quan trọng khác. Một chi tiết động não được bịa ra có thể lãng phí vài phút; một liều lượng thuốc hoặc trích dẫn pháp lý đượca bịa đặt có thể gây ra tác hại nghiêm trọng hơn nhiều.

Nên kiểm tra điều gì trước tiên?

Bắt đầu với các chi tiết vừa dễ xác minh vừa có khả năng làm thay đổi câu trả lời: trích dẫn, câu nói, số liệu thống kê, ngày tháng, tên và các khẳng định hiện tại. Hãy chú ý đặc biệt đến bất kỳ sự thật nào có thể ảnh hưởng đến một quyết định quan trọng.