วิธีสังเกตอาการหลอนของ AI: 7 สัญญาณเตือน

เรียนรู้ 7 สัญญาณของอาการหลอนใน AI เหตุผลที่โมเดลสร้างข้อเท็จจริงขึ้นมา และรายการตรวจสอบ 5 นาทีสำหรับการตรวจสอบการอ้างอิง คำกล่าวอ้าง วันที่ และแหล่งข้อมูล

Diagram showing how an AI model writes an answer: early statements are anchored to sources, but after the evidence ends, later predictions become distorted and unsupported, illustrating how plausible claims can replace truth.

คำตอบ AI ที่น่าเชื่อถือจะเชื่อมโยงคำกล่าวอ้างเข้ากับหลักฐาน อาการหลอนสามารถสร้างภาพลักษณ์ของความเชื่อมโยงดังกล่าวผ่านการเขียนที่เรียบเรียงมาอย่างดี แต่รายละเอียดที่แม่นยำและการอ้างอิงจะล้มเหลวเมื่อถูกตรวจสอบ

ลองดูตัวอย่างสมมติของคำตอบที่อ้างอิงจาก "ดัชนีความถูกต้องของ AI ระดับองค์กรปี 2026" (2026 Enterprise AI Accuracy Index) ของ World Economic Forum และอ้างว่า 68% ของรายงานที่สร้างโดย AI มีข้อผิดพลาดทางข้อเท็จจริง องค์กรนั้นมีอยู่จริง แต่รายงานและสถิตินั้นถูกกุขึ้นมา ฟังดูเหมือนผ่านการค้นคว้ามาเพราะใช้ภาษาที่แม่นยำและมีที่มาที่น่าเชื่อถือรองรับ

ไดอะแกรมของคำตอบ AI สมมติที่อ้างอิงรายงานของ World Economic Forum ที่ไม่มีอยู่จริง พร้อมไฮไลต์สัญญาณเตือน 4 ประการ: การอ้างอิงความน่าเชื่อถือผู้อื่น รายงานที่หาไม่พบ คำกล่าวอ้างที่แม่นยำโดยไม่มีวิธีที่ชัดเจน และลิงก์อ้างอิงที่ไม่สนับสนุนคำกล่าวอ้างนั้น

อาการหลอนของ AI คืออะไร และเกิดขึ้นเพราะเหตุใด

อาการหลอนของ AI เกิดขึ้นเมื่อโมเดลเติมเต็มช่องว่างด้วยข้อมูลที่เป็นเท็จ ไม่ได้รับการสนับสนุน หรือไม่สอดคล้องกับส่วนที่เหลือของคำตอบ ข้อผิดพลาดบางอย่างเห็นได้ชัด เช่น การอ้างอิงบทความที่ไม่มีอยู่จริง ข้อผิดพลาดอื่นๆ ซ่อนอยู่ในคำตอบที่ดูน่าเชื่อถือ: วันที่คลาดเคลื่อนไปหนึ่งปีหรือคำอธิบายเริ่มต้นด้วยข้อสมมติที่ผิด

โมเดลภาษาจะสร้างคำตอบโดยการประเมินว่าคำใดมีแนวโน้มที่จะตามมามากที่สุด โดยอ้างอิงจากแพทเทิร์นที่เรียนรู้ระหว่างการฝึก หากมีบริบทที่เพียงพอและข้อมูลที่เชื่อถือได้ กระบวนการนั้นจะสามารถให้คำตอบที่มีประโยชน์อย่างน่าทึ่ง แต่เมื่อบริบทมีจำกัดหรือหาแหล่งข้อมูลที่เชื่อถือได้ยาก โมเดลอาจเติมเต็มช่องว่างด้วยสิ่งที่ฟังดูเข้าทีเท่านั้น

ความเสี่ยงที่เพิ่มขึ้นในบางหัวข้อ

ความเสี่ยงดังกล่าวจะเพิ่มขึ้นเมื่อเจาะจงหัวข้อที่ไม่ค่อยเป็นที่รู้จักหรือเป็นหัวข้อใหม่ พรอมต์ที่คลุมเครือ ข้อมูลที่ขัดแย้งกัน และคำถามที่สร้างขึ้นจากข้อสมมติที่ผิด เมื่อหลักฐานที่มีอยู่หมดลง คำตอบอาจดำเนินต่อไปด้วยน้ำเสียงที่มั่นใจและสอดคล้องกันเช่นเดิม

วิธีการประเมินโมเดลก็มีความสำคัญเช่นกัน เกณฑ์มาตรฐานจำนวนมากเน้นย้ำว่าโมเดลให้คำตอบที่ถูกต้องหรือไม่ โดยให้ความสนใจน้อยลงว่าโมเดลตระหนักหรือไม่ว่าคำถามนั้นไม่สามารถตอบได้หรือหลักฐานไม่เพียงพอ การวิจัยระบุว่าแม้แต่โมเดลภาษาชั้นนำก็ยังคงประสบปัญหาในการตระหนักว่าตนเองมีข้อมูลไม่เพียงพอที่จะให้คำตอบที่น่าเชื่อถือ เมื่อไม่สามารถแจ้งเตือนความไม่แน่นอนได้อย่างน่าเชื่อถือ โมเดลอาจสร้างคำตอบที่ฟังดูสมเหตุสมผลขึ้นมาแทนที่จะขอคำชี้แจง

ผลกระทบที่หลากหลายของอาการหลอน

อาการหลอนยังคงเกิดขึ้นได้ในทุกระบบ AI เชิงสร้างสรรค์ ซึ่งทำให้ยากที่จะระบุว่าแพลตฟอร์มใดแย่ที่สุด ผลลัพธ์จะเปลี่ยนไปตามลักษณะงาน เวอร์ชันของโมเดล และการที่ระบบสามารถตรวจสอบแหล่งข้อมูลปัจจุบันได้หรือไม่

ผลกระทบของอาการหลอนขึ้นอยู่กับว่าคำตอบจะถูกนำไปใช้อย่างไรต่อไป รายละเอียดที่กุขึ้นในการระดมความคิดอาจทำให้เสียเวลาไปไม่กี่นาที การอ้างอิงทางกฎหมาย ขนาดยา ตัวเลขทางการเงิน หรือคำแนะนำด้านความปลอดภัยที่กุขึ้นอาจนำไปสู่ความผิดพลาดที่ร้ายแรงกว่ามาก NIST เรียกผลลัพธ์เหล่านี้ว่า "ความเข้าใจผิดที่คลาดเคลื่อน (confabulations)" และระบุว่าเป็นความเสี่ยงที่ต้องมีการทดสอบ การตรวจสอบ และการควบคุมที่เหมาะสมกับบริบท โดยเฉพาะอย่างยิ่งในจุดที่ข้อผิดพลาดอาจทำให้เกิดอันตรายอย่างมีนัยสำคัญ

วิธีที่จะนำคำตอบไปใช้

สิ่งที่อาจผิดพลาด

การตรวจสอบที่เหมาะสม

การระดมความคิดหรือการสำรวจเบื้องต้น

ไอเดียที่อ่อนแอส่งผลให้งานไปในทิศทางที่ผิด

ตรวจสอบรายละเอียดข้อเท็จจริงใดๆ ก่อนนำไปใช้

เนื้อหาข้อเท็จจริงที่เผยแพร่หรือแชร์

ผู้อ่านได้รับสถิติ คำพูด หรือการอ้างอิงที่ไม่ถูกต้อง

ทำรายการตรวจสอบ 5 นาทีให้เสร็จสิ้นและเปิดการอ้างอิงที่สำคัญทุกรายการ

การวิจัยที่ต้องแข่งกับเวลา

ราคา กฎหมาย ฟีเจอร์ หรือข้อมูลผู้นำรุ่นเก่าหล่อหลอมคำตอบ

ยืนยันคำกล่าวอ้างด้วยแหล่งข้อมูลปฐมภูมิปัจจุบัน

การตัดสินใจทางกฎหมาย การแพทย์ การเงิน หรือความปลอดภัย

ข้อผิดพลาดทำให้เกิดอันตราย ความเสียหาย หรือความรับผิดชอบ

ตรวจสอบหลักฐานต้นฉบับ เพิ่มการสนับสนุนที่เป็นอิสระ และให้ผู้เชี่ยวชาญที่มีคุณสมบัติเหมาะสมเข้ามามีส่วนร่วม

7 สัญญาณที่บ่งบอกว่าคำตอบจาก AI จำเป็นต้องได้รับการตรวจสอบอย่างใกล้ชิด

เมื่อคำตอบจาก AI ดูไม่น่าเชื่อถือ ให้เริ่มต้นด้วย 3 สิ่ง ได้แก่ ความสามารถในการตรวจสอบย้อนกลับ ความสอดคล้อง และความทันปัจจุบัน ติดตามคำกล่าวอ้างกลับไปยังแหล่งที่มา ตรวจสอบว่ารายละเอียดสอดคล้องกัน และตรวจสอบให้แน่ใจว่าข้อมูลมีความเป็นปัจจุบันเพียงพอสำหรับคำถามนั้น

ทดสอบ

สัญญาณเตือน

การตรวจสอบที่เร็วที่สุด

ความสามารถในการตรวจสอบย้อนกลับ

ไม่สามารถตรวจสอบแหล่งข้อมูลได้

ค้นหาชื่อเรื่องที่แน่นอน จากนั้นตรวจสอบสำนักพิมพ์ บันทึกของผู้แต่ง หรือรหัสระบุทรัพยากรดิจิทัล (DOI)

ความสามารถในการตรวจสอบย้อนกลับ

แหล่งข้อมูลมีจริงแต่ถูกนำไปใช้ในทางที่ผิด

ค้นหาข้อความอ้างอิง สถิติ หรือข้อสรุปที่แน่นอน และอ่านบริบทโดยรอบ

ความสามารถในการตรวจสอบย้อนกลับ

ตัวเลขที่แน่นอนไม่มีที่มาที่ชัดเจน

ติดตามไปยังการศึกษาต้นฉบับและตรวจสอบกลุ่มตัวอย่าง กรอบเวลา และวิธีการ

ความสอดคล้อง

มีการรวมรายละเอียดจริงเข้าด้วยกันอย่างไม่ถูกต้อง

แยกคำกล่าวอ้างออกเป็นเอนทิตี การกระทำ และวันที่หรือเวอร์ชัน ตรวจสอบแต่ละส่วน

ความสอดคล้อง

คำตอบยอมรับข้อสมมติที่น่าสงสัย

ยืนยันว่ารายงาน เหตุการณ์ บุคคล หรือผลิตภัณฑ์นั้นมีอยู่จริง

ความสอดคล้อง

การเรียบเรียงใหม่ทำให้ข้อเท็จจริงหลักเปลี่ยนแปลงไป

ถามอีกครั้งด้วยภาษาที่เป็นกลาง จากนั้นเปรียบเทียบรายละเอียดที่ตรวจสอบได้

ความทันปัจจุบัน

คำกล่าวอ้างปัจจุบันพึ่งพาข้อมูลเก่า

ตรวจสอบว่าแหล่งข้อมูลได้รับการอัปเดตเมื่อใดและค้นหาแหล่งข้อมูลปฐมพลล่าสุด

ความสามารถในการตรวจสอบย้อนกลับ

ความสามารถในการตรวจสอบย้อนกลับเริ่มต้นจากหลักฐาน หากคำกล่าวอ้างมีความสำคัญ คุณควรจะสามารถหาแหล่งที่มาและยืนยันได้ว่ามีเนื้อหาตรงกัน

1. แหล่งข้อมูลถูกกุขึ้นมาหรือ0ม่สามารถตรวจสอบได้

การอ้างอิงไม่สามารถสนับสนุนคำตอบได้หากไม่สามารถยืนยันแหล่งข้อมูลได้ URL อาจเสียชั่วคราว ดังนั้นลิงก์ที่ล้มเหลวหนึ่งลิงก์จึงไม่ใช่ข้อพิสูจน์ของอาการหลอน สัญญาณเตือนที่รุนแรงกว่าคือแหล่งข้อมูลที่ไม่ทิ้งร่องรอยไว้เลย: สำนักพิมพ์ไม่มีบันทึกเกี่ยวกับบทความนั้น รหัสระบุทรัพยากรดิจิทัล (DOI) นำไปสู่เอกสารอื่น หรือผู้แต่งที่มีชื่อไม่มีความเชื่อมโยงกับงานนั้นตามที่มีการบันทึกไว้

โมเดลสามารถกุชื่อเรื่อง ผู้แต่ง วารสาร และรายงานที่ดูน่าเชื่อถือขึ้นมาได้ โดยมักจะมีรายละเอียดที่พอเหมาะพอดีเพื่อให้ดูสมจริง

ขั้นตอนการตรวจสอบ: ค้นหาชื่อที่แน่นอนในเครื่องหมายคำพูด ตรวจสอบคลังข้อมูลของสำนักพิมพ์และบันทึกการตีพิมพ์ของผู้แต่ง สำหรับงานวิชาการ ให้ป้อน DOI ที่ doi.org และตรวจสอบให้แน่ใจว่านำคุณไปยังเอกสารที่อ้างอิง

2. แหล่งข้อมูลมีอยู่จริง แต่คำตอบนำไปใช้ในทางที่ผิด

การอ้างอิงที่ใช้งานได้ไม่ได้พิสูจน์ว่าประโยคที่อยู่ข้างๆ นั้นถูกต้อง แหล่งข้อมูลอาจมีความน่าเชื่อถือและตรงประเด็นแต่กลับไม่มีข้อความที่อ้างอิง ตัวเลขที่รายงาน หรือข้อสรุปที่คำตอบระบุว่าเป็นของแหล่งข้อมูลนั้น นอกจากนี้ยังอาจสนับสนุนการค้นพบที่แคบกว่าที่คำตอบระบุไว้ด้วย

นี่คือปัญหาการระบุแหล่งที่มาผิด ไม่ใช่ปัญหาการมีอยู่ของแหล่งข้อมูล: หลักฐานมีจริง แต่ความเชื่อมโยงระหว่างหลักฐานกับคำกล่าวอ้างนั้นไม่ถูกต้อง

ขั้นตอนการตรวจสอบ: เปิดหน้าที่มีการอ้างอิงและค้นหาสถิติ ใบเสนอราคา หรือข้อสรุปที่แน่นอน อ่านบริบทโดยรอบ จากนั้นถามว่าแหล่งข้อมูลนั้นสนับสนุนคำกล่าวอ้างตามที่เขียนไว้หรือไม่ ไม่ใช่แค่สนับสนุนในหัวข้อทั่วไปเท่านั้น

3. ตัวเลขที่แน่นอนไม่มีแหล่งที่มาหรือวิธีที่ชัดเจน

รายละเอียดที่แม่นยำมักจะฟังดูเหมือนผ่านการค้นคว้ามา ตัวเลขเช่น "36.4%" บ่งบอกถึงการวัด ชุดข้อมูล และวิธีการ ยิ่งคำกล่าวอ้างมีความแม่นยำมากเท่าไหร่ ก็ยิ่งควรตรวจสอบย้อนกลับไปยังการวัดผลที่มีการบันทึกไว้ได้ง่ายขึ้นเท่านั้น

ให้ความสนใจเป็นพิเศษกับเปอร์เซ็นต์ ผลการสำรวจ ราคา การจัดอันดับ ตัวเลขรายได้ และผลการศึกษาที่นำเสนอด้วยความแม่นยำทางตัวเลข แหล่งข้อมูลที่น่าเชื่อถือควรระบุให้ชัดเจนว่าใครเป็นผู้รวบรวมข้อมูล รวบรวมเมื่อใด ใช้ประชากรหรือชุดข้อมูลใด และคำนวณผลลัพธ์อย่างไร

ขั้นตอนการตรวจสอบ: ติดตามตัวเลขไปยังแหล่งที่มาต้นฉบับ ยืนยันวันที่ กลุ่มตัวอย่างหรือชุดข้อมูล ระเบียบวิธี และตัวเลขนั้นๆ หาก1หล่งข้อมูลรายงานขอบเขต กรอบเวลา หรือการคำนวณที่แตกต่างออกไป คำตอบของ AI อาจกล่าวเกินจริงจากสิ่งที่ข้อมูลแสดง

ความสอดคล้อง

คำตอบที่น่าเชื่อถือควรมีความสอดคล้องกันเมื่อตรวจสอบส่วนประกอบแต่ละส่วน คำกล่าวอ้างอาจล้มเหลวเนื่องจากข้อเท็จจริงถูกประกอบเข้าด้วยกันอย่างไม่ถูกต้อง ไม่ใช่เพราะข้อเท็จจริงแต่ละรายการเป็นเท็จ

4. มีการนำรายละเอียดจริงมาผสมผสานกันอย่างไม่ถูกต้อง

คำตอบสามารถใช้ข้อเท็จจริงที่เป็นจริงทีละรายการ และยังคงอธิบายถึงสิ่งที่ไม่ได้เกิดขึ้นจริงได้ โมเดลอาจกำหนดคำพูดจริงให้กับนักวิจัยผิดคน แนบฟีเจอร์จากการเปิดตัวผลิตภัณฑ์หนึ่งไปยังอีกผลิตภัณฑ์หนึ่ง หรือรวมประกาศของบริษัทเข้ากับการเปลี่ยนแปลงความเป็นผู้นำที่เกิดขึ้นในอีกหลายเดือนต่อมา

นี่คือข้อผิดพลาดเกี่ยวกับความสัมพันธ์ ชื่อ วันที่ ผลิตภัณฑ์ และแหล่งข้อมูลอาจถูกต้องทั้งหมด ปัญหาคือสิ่งเหล่านี้ไม่ได้อยู่ร่วมกันในลักษณะที่คำตอบอ้าง

ขั้นตอนการตรวจสอบ: แบ่งคำกล่าวอ้างออกเป็นส่วนสำคัญ: บุคคลหรือองค์กร เหตุการณ์หรือฟีเจอร์ และวันที่หรือเวอร์ชัน ตรวจสอบแต่ละส่วนแยกกัน จากนั้นยืนยันว่าแหล่งข้อมูลต้นฉบับเชื่อมโยงเข้าด้วยกัน

5. คำตอบยอมรับข้อสมมติที่น่าสงสัย

โมเดลมักจะทำตามทิศทางที่กำหนดโดยพรอมต์ ข้อสมมติที่ผิดสามารถทำให้การตอบสนองทั้งหมดผิดเพี้ยนไปได้ แทนที่จะท้าทายรายงานที่ไม่มีอยู่จริง เหตุการณ์ที่จินตนาการขึ้น หรือข้อสมมติที่ไม่ถูกต้อง โมเดลอาจสร้างคำตอบขึ้นมารอบๆ สิ่งนั้น ผลลัพธ์ที่ได้อาจมีรายละเอียดและสอดคล้องกัน แม้ว่าจุดเริ่มต้นจะผิดก็ตาม

ขั้นตอนการตรวจสอบ: ดึงข้อสมมติหลักออกมาและตรวจสอบด้วยตัวเอง ยืนยันว่ารายงาน เหตุการณ์ บุคคล หรือผลิตภัณฑ์มีอยู่จริงก่อนที่จะประเมินสิ่งที่คำตอบพูดถึงสิ่งนั้น

6. การเปลี่ยนแปลงเล็กน้อยในพรอมต์ทำให้เกิดข้อเท็จจริงที่เข้ากันไม่ได้

การเรียบเรียงคำถามใหม่สามารถเปลี่ยนรูปแบบ ระดับรายละเอียด หรือตัวอย่างในคำตอบได้ แต่ข้อเท็จจริงหลักควรจะยังคงที่

หากเวอร์ชันหนึ่งระบุผู้แต่ง วันที่ ยอดรวม หรือการอ้างอิงที่แตกต่างออกไป โมเดลอาจกำลังเติมข้อมูลที่ขาดหายไปแทนที่จะดึงข้อมูลจากแหล่งที่เชื่อถือได้ การใช้คำที่แตกต่างไม่ควรเปลี่ยนข้อเท็จจริงที่ตรวจสอบได้ เมื่อมีการเปลี่ยนแปลง ให้ถือว่าความไม่ตรงกันนั้นเป็นเบาะแสในการตรวจสอบ แทนที่จะเป็นข้อพิสูจน์ว่าคำตอบใดคำตอบหนึ่งเป็นเท็จ

ขั้นตอนการตรวจสอบ: ถามคำถามเชิงข้อเท็จจริงเดิมอีกครั้งโดยใช้ภาษาที่เป็นกลาง เปรียบเทียบเฉพาะรายละเอียดที่สามารถตรวจสอบได้ จากนั้นตรวจสอบรายละเอียดเหล่านั้นกับแหล่งข้อมูลที่เป็นอิสระ

ความทันปัจจุบัน

คำถามปัจจุบันย่อมต้องการหลักฐานปัจจุบัน ข้อมูลอาจมีความถูกต้องทางประวัติศาสตร์แต่ไม่สามารถนำมาใช้ในการตัดสินใจในปัจจุบันได้อีกต่อไป

7. คำกล่าวอ้างปัจจุบันพึ่งพาแหล่งข้อมูลที่ล้าสมัยหรือไม่ครบถ้วน

ฟีเจอร์ผลิตภัณฑ์ กฎหมาย ราคา บทบาทผู้นำ และผลการวิจัยสามารถเปลี่ยนแปลงได้อย่างรวดเร็ว คำตอบที่อ้างอิงข้อมูลเก่าอาจฟังดูเรียบร้อยและรวมถึงข้อเท็จจริงจริงไว้ด้วยในขณะที่พลาดการอัปเดตที่สำคัญ

เรื่องนี้มองข้ามได้ง่ายมากโดยเฉพาะเมื่อแหล่งข้อมูลมีความน่าเชื่อถือในตัวเอง แต่แหล่งข้อมูลที่น่าเชื่อถือก็ยังต้องมีความใหม่อยู่เสมอเพื่อให้เหมาะกับคำถามในขณะนั้น

ขั้นตอนการตรวจสอบ: ดูว่าแหล่งข้อมูลได้รับการเผยแพร่และอัปเดตครั้งล่าสุดเมื่อใด จากนั้นยืนยันคำกล่าวอ้างด้วยแหล่งข้อมูลปฐมภูมิปัจจุบัน เช่น เอกสารอย่างเป็นทางการ ฐานข้อมูลของรัฐบาล ประกาศของบริษัท หรือการวิจัยต้นฉบับ

รายการตรวจสอบการตรวจสอบ AI 5 นาที

คุณไม่จำเป็นต้องตรวจสอบทุกประโยคก่อนที่จะตัดสินใจว่าคำตอบของ AI มีประโยชน์หรือไม่ ให้เริ่มต้นด้วยคำกล่าวอ้างที่มีน้ำหนักมากที่สุด จากนั้นทำตามการตรวจสอบ 5 ข้อด้านล่าง

นาทีที่ 1: ทำเครื่องหมายคำกล่าวอ้างที่สำคัญไฮไลต์สถิติ คำพูด วันที่ แหล่งข้อมูลที่มีชื่อ ความสามารถของผลิตภัณฑ์ คำแนะนำ และคำแนะนำที่มีความเสี่ยงสูง

นาทีที่ 2: ทดสอบการอ้างอิงเปิดแหล่งข้อมูลที่ลิงก์ไว้ ยืนยันว่าแหล่งข้อมูลแต่ละรายการมีอยู่จริงและตรงกับชื่อ ผู้แต่ง สำนักพิมพ์ และวันที่ในคำตอบ

นาทีที่ 3: จับคู่คำกล่าวอ้างกับหลักฐานค้นหารายละเอียดที่แน่นอนในแหล่งข้อมูล ตรวจสอบว่าแหล่งข้อมูลสนับสนุนการใช้คำ ขอบเขต และระดับความแน่นอนของคำกล่าวอ้างนั้น

นาทีที่ 4: ตรวจสอบบันทึกต้นฉบับและปัจจุบันให้ความสำคัญกับหลักฐานปฐมภูมิ: การวิจัยต้นฉบับ เอกสารอย่างเป็นทางการ บันทึกของรัฐบาล การยื่นฟ้องศาล ประกาศของบริษัท หรือข้อมูลดิบ สำหรับคำกล่าวอ้างที่คำนึงถึงเวลา ให้ยืนยันว่าไม่มีสิ่งใหม่กว่าที่เปลี่ยนแปลงคำตอบ

นาทีที่ 5: ลบข้อสมมติออกแล้วถามอีกครั้งเรียบเรียงคำถามใหม่โดยไม่มีข้อสมมติ เปรียบเทียบเฉพาะรายละเอียดที่ตรวจสอบได้จากคำตอบทั้งสอง จากนั้นตรวจสอบความขัดแย้งหรือคำกล่าวอ้างใหม่ๆ อย่างอิสระ

รายการตรวจสอบการตรวจสอบข้อมูลด้วย AI ฉบับ 5 นาที: ทำเครื่องหมายคำกล่าวอ้างสำคัญ ทดสอบการอ้างอิง จับคู่คำกล่าวอ้างกับหลักฐานสนับสนุน ตรวจสอบแหล่งข้อมูลต้นฉบับและแหล่งข้อมูลปัจจุบัน จากนั้นลบข้อสมมติออกแล้วถามคำถามนั้นอีกครั้ง

วิธีที่ Perplexity รับมือกับอาการหลอน

Perplexity ผสมผสานการค้นหาเว็บเข้ากับการให้เหตุผลของโมเดล และเชื่อมโยงคำกล่าวอ้างกับแหล่งข้อมูลในคำตอบ การอ้างอิงเหล่านั้นช่วยให้ผู้อ่านมีเส้นทางโดยตรงในการตรวจสอบหลักฐาน รวมถึงว่ามีแหล่งข้อมูลนั้นอยู่จริงหรือไม่ สนับสนุนคำกล่าวอ้างที่อยู่ข้างๆ หรือไม่ และมีความใหม่พอสำหรับคำถามนั้นหรือไม่ การอ้างอิงช่วยให้ตรวจสอบได้ง่ายขึ้น แต่ไม่ได้ขจัดความจำเป็นในการตรวจสอบคำกล่าวอ้างที่มีผลตามมา

ทำให้หลักฐานมองเห็นได้ชัดเจน

สำหรับคำถามที่ใช้การค้นหาเว็บ Perplexity จะแสดงการอ้างอิงที่มีหมายเลขซึ่งเชื่อมโยงกลับไปยังแหล่งข้อมูลที่ใช้ในการตอบ ทำให้ง่ายต่อการนำสัญญาณเตือนสองข้อแรกในคู่มือนี้ไปใช้: ตรวจสอบว่ามีแหล่งข้อมูลอยู่จริง จากนั้นตรวจสอบว่าสนับสนุนคำกล่าวอ้างที่เกี่ยวข้อง

ฝึกอบรมโมเดลให้ค้นหาและใช้แหล่งข้อมูล

เนื่องจากคุณภาพการค้นหาไม่ได้ขึ้นอยู่กับการดึงลิงก์เพียงอย่างเดียว Perplexity จึงได้ออกแบบกระบวนการหลังการฝึกฝนแบบสองขั้นตอน ขั้นตอนแรกพัฒนาพฤติกรรมของผลิตภัณฑ์ เช่น การปฏิบัติตามคำแนะนำ การใช้เครื่องมือ การรักษาความสอดคล้อง และการตระหนักว่าเมื่อใดไม่มีหลักฐานที่เชื่อถือได้ ขั้นตอนที่สองใช้งานค้นหาที่ยากขึ้นเพื่อปรับปรุงการใช้หลักฐานและประสิทธิภาพของเครื่องมือ

ทดสอบคุณภาพเชิงข้อเท็จจริงแยกจากคุณภาพการเขียน

สำหรับงานที่ตรวจสอบได้ Perplexity จะประเมินความถูกต้องของข้อเท็จจริงควบคู่ไปกับคุณภาพการอ้างอิงและข้อกำหนดอื่นๆ ของผลิตภัณฑ์ สำหรับคำขอแบบปลายเปิด เช่น การเรียบเรียงใหม่หรือการวางแผน การประเมินจะมุ่งเน้นไปที่ว่าโมเดลทำตามคำแนะนำ รักษาความหมายเดิมไว้ และทำงานที่ร้องขอสำเร็จหรือไม่ ความแตกต่างนี้มีความสำคัญเนื่องจากคำตอบที่ไหลลื่นสามารถเขียนออกมาได้ดีโดยไม่มีความน่าเชื่อถือในแง่ของข้อเท็จจริง

ค้นหาเฉพาะเท่าที่จำเป็น

การดึงข้อมูลที่มากขึ้นไม่ได้ดีกว่าโดยอัตโนมัติ การวิจัยของ Perplexity อธิบายถึงการฝึกอบรมตัวแทนค้นหาเพื่อแก้ปัญหาคำถามหลายขั้นตอนพร้อมทั้งสร้างความสมดุลระหว่างคุณภาพคำตอบและประสิทธิภาพการใช้เครื่องมือ เป้าหมายคือการรวบรวมหลักฐานให้เพียงพอเพื่อสนับสนุนคำตอบโดยไม่ต้องเพิ่มขั้นตอนที่ไม่จำเป็นซึ่งอาจแนะนำข้อผิดพลาดหรือเบี่ยงเบนความสนใจจากคำถาม

Perplexity ไม่ได้อ้างว่ามีความถูกต้องสมบูรณ์แบบ การดึงข้อมูลปัจจุบัน การหลังการฝึกฝน การประเมินแบบมีโครงสร้าง และการค้นหาอย่างมีระเบียบวินัยช่วยลดความเสี่ยงในการเกิดอาการหลอน การอ้างอิงที่มองเห็นได้ช่วยให้ตรวจสอบความไม่แน่นอนที่เหลืออยู่ได้ง่ายขึ้น และความคิดเห็นต่อเนื่องช่วยให้ระบบปรับปรุงให้ดีขึ้น

ติดตามหลักฐาน

เชื่อคำตอบของ AI ได้เท่าที่คุณสามารถตรวจสอบย้อนกลับคำกล่าวอ้างที่สำคัญที่สุดไปยังหลักฐานที่แน่นหนาได้ สำหรับการตัดสินใจที่มีผลกระทบจริง ให้เปิดแหล่งข้อมูล อ่านให้พ้นจากบรรทัดที่มีการอ้างอิง และขอให้ผู้เชี่ยวชาญที่มีคุณสมบัติเหมาะสมช่วยพิจารณาเมื่อจำเป็น

คำถามที่พบบ่อย

เครื่องมือ AI เชิงสร้างสรรค์ทั้งหมดมีอาการหลอนหรือไม่

ใช่ ระบบ AI เชิงสร้างสรรค์ปัจจุบันสามารถให้คำตอบที่ไม่ถูกต้องหรือไม่ได้รับการสนับสนุนได้ ความเสี่ยงจะเปลี่ยนไปตามเวอร์ชันของโมเดล งาน พรอมต์ การเข้าถึงแหล่งข้อมูล และวิธีการทดสอบ โมเดลอาจจัดการกับข้อเท็จจริงที่คุ้นเคยได้ดีแต่ต้องเผชิญกับความยากลำบากเมื่อเจอข้อมูลล่าสุดหรือข้อมูลที่ไม่ค่อยเป็นที่รู้จัก

พรอมต์ที่ดีขึ้นสามารถป้องกันอาการหลอนของ AI ได้หรือไม่

พรอมต์ที่ดีกว่าจะช่วยลดความเสี่ยงลงได้ด้วยการเพิ่มบริบท กำหนดคำศัพท์ และตัดข้อสมมติที่ผิดพลาดออก ทำงานได้ดีที่สุดควบคู่ไปกับแหล่งข้อมูลที่เชื่อถือได้ การอ้างอิง การตรวจสอบ และการตรวจสอบโดยมนุษย์ แม้แต่พรอมต์ที่เขียนขึ้นอย่างรอบคอบก็ไม่สามารถรับประกันคำตอบที่เป็นข้อเท็จจริงได้

อาการหลอนของ AI สามารถเป็นอันตรายได้หรือไม่

ใช่ เดิมพันจะสูงขึ้นเมื่อคำตอบที่ไม่ได้รับการสนับสนุนส่งผลต่อการดูแลสุขภาพ กฎหมาย การเงิน ความปลอดภัยทางไซเบอร์ การศึกษา หรือการตัดสินใจอื่นที่มีผลตามมา รายละเอียดการระดมความคิดที่สร้างขึ้นอาจทำให้เสียเวลาไปสักครู่ การอ้างอิงขนาดยาหรือกฎหมายที่กุขึ้นอาจสร้างความเสียหายที่ร้ายแรงกว่ามาก

ควรตรวจสอบสิ่งใดก่อน

เริ่มต้นด้วยรายละเอียดที่ตรวจสอบได้ง่ายและสามารถเปลี่ยนคำตอบได้: การอ้างอิง คำพูด สถิติ วันที่ ชื่อ และคำกล่าวอ้างปัจจุบัน ให้ความสนใจเป็นพิเศษกับข้อเท็จจริงใดๆ ที่อาจมีอิทธิพลต่อการตัดสินใจที่สำคัญ