วิธีสังเกตอาการหลอนของ AI: 7 สัญญาณเตือน
เรียนรู้ 7 สัญญาณของอาการหลอนใน AI เหตุผลที่โมเดลสร้างข้อเท็จจริงขึ้นมา และรายการตรวจสอบ 5 นาทีสำหรับการตรวจสอบการอ้างอิง คำกล่าวอ้าง วันที่ และแหล่งข้อมูล

คำตอบ AI ที่น่าเชื่อถือจะเชื่อมโยงคำกล่าวอ้างเข้ากับหลักฐาน อาการหลอนสามารถสร้างภาพลักษณ์ของความเชื่อมโยงดังกล่าวผ่านการเขียนที่เรียบเรียงมาอย่างดี แต่รายละเอียดที่แม่นยำและการอ้างอิงจะล้มเหลวเมื่อถูกตรวจสอบ
ลองดูตัวอย่างสมมติของคำตอบที่อ้างอิงจาก "ดัชนีความถูกต้องของ AI ระดับองค์กรปี 2026" (2026 Enterprise AI Accuracy Index) ของ World Economic Forum และอ้างว่า 68% ของรายงานที่สร้างโดย AI มีข้อผิดพลาดทางข้อเท็จจริง องค์กรนั้นมีอยู่จริง แต่รายงานและสถิตินั้นถูกกุขึ้นมา ฟังดูเหมือนผ่านการค้นคว้ามาเพราะใช้ภาษาที่แม่นยำและมีที่มาที่น่าเชื่อถือรองรับ

อาการหลอนของ AI คืออะไร และเกิดขึ้นเพราะเหตุใด
อาการหลอนของ AI เกิดขึ้นเมื่อโมเดลเติมเต็มช่องว่างด้วยข้อมูลที่เป็นเท็จ ไม่ได้รับการสนับสนุน หรือไม่สอดคล้องกับส่วนที่เหลือของคำตอบ ข้อผิดพลาดบางอย่างเห็นได้ชัด เช่น การอ้างอิงบทความที่ไม่มีอยู่จริง ข้อผิดพลาดอื่นๆ ซ่อนอยู่ในคำตอบที่ดูน่าเชื่อถือ: วันที่คลาดเคลื่อนไปหนึ่งปีหรือคำอธิบายเริ่มต้นด้วยข้อสมมติที่ผิด
โมเดลภาษาจะสร้างคำตอบโดยการประเมินว่าคำใดมีแนวโน้มที่จะตามมามากที่สุด โดยอ้างอิงจากแพทเทิร์นที่เรียนรู้ระหว่างการฝึก หากมีบริบทที่เพียงพอและข้อมูลที่เชื่อถือได้ กระบวนการนั้นจะสามารถให้คำตอบที่มีประโยชน์อย่างน่าทึ่ง แต่เมื่อบริบทมีจำกัดหรือหาแหล่งข้อมูลที่เชื่อถือได้ยาก โมเดลอาจเติมเต็มช่องว่างด้วยสิ่งที่ฟังดูเข้าทีเท่านั้น
ความเสี่ยงที่เพิ่มขึ้นในบางหัวข้อ
ความเสี่ยงดังกล่าวจะเพิ่มขึ้นเมื่อเจาะจงหัวข้อที่ไม่ค่อยเป็นที่รู้จักหรือเป็นหัวข้อใหม่ พรอมต์ที่คลุมเครือ ข้อมูลที่ขัดแย้งกัน และคำถามที่สร้างขึ้นจากข้อสมมติที่ผิด เมื่อหลักฐานที่มีอยู่หมดลง คำตอบอาจดำเนินต่อไปด้วยน้ำเสียงที่มั่นใจและสอดคล้องกันเช่นเดิม
วิธีการประเมินโมเดลก็มีความสำคัญเช่นกัน เกณฑ์มาตรฐานจำนวนมากเน้นย้ำว่าโมเดลให้คำตอบที่ถูกต้องหรือไม่ โดยให้ความสนใจน้อยลงว่าโมเดลตระหนักหรือไม่ว่าคำถามนั้นไม่สามารถตอบได้หรือหลักฐานไม่เพียงพอ การวิจัยระบุว่าแม้แต่โมเดลภาษาชั้นนำก็ยังคงประสบปัญหาในการตระหนักว่าตนเองมีข้อมูลไม่เพียงพอที่จะให้คำตอบที่น่าเชื่อถือ เมื่อไม่สามารถแจ้งเตือนความไม่แน่นอนได้อย่างน่าเชื่อถือ โมเดลอาจสร้างคำตอบที่ฟังดูสมเหตุสมผลขึ้นมาแทนที่จะขอคำชี้แจง
ผลกระทบที่หลากหลายของอาการหลอน
อาการหลอนยังคงเกิดขึ้นได้ในทุกระบบ AI เชิงสร้างสรรค์ ซึ่งทำให้ยากที่จะระบุว่าแพลตฟอร์มใดแย่ที่สุด ผลลัพธ์จะเปลี่ยนไปตามลักษณะงาน เวอร์ชันของโมเดล และการที่ระบบสามารถตรวจสอบแหล่งข้อมูลปัจจุบันได้หรือไม่
ผลกระทบของอาการหลอนขึ้นอยู่กับว่าคำตอบจะถูกนำไปใช้อย่างไรต่อไป รายละเอียดที่กุขึ้นในการระดมความคิดอาจทำให้เสียเวลาไปไม่กี่นาที การอ้างอิงทางกฎหมาย ขนาดยา ตัวเลขทางการเงิน หรือคำแนะนำด้านความปลอดภัยที่กุขึ้นอาจนำไปสู่ความผิดพลาดที่ร้ายแรงกว่ามาก NIST เรียกผลลัพธ์เหล่านี้ว่า "ความเข้าใจผิดที่คลาดเคลื่อน (confabulations)" และระบุว่าเป็นความเสี่ยงที่ต้องมีการทดสอบ การตรวจสอบ และการควบคุมที่เหมาะสมกับบริบท โดยเฉพาะอย่างยิ่งในจุดที่ข้อผิดพลาดอาจทำให้เกิดอันตรายอย่างมีนัยสำคัญ
วิธีที่จะนำคำตอบไปใช้ | สิ่งที่อาจผิดพลาด | การตรวจสอบที่เหมาะสม |
การระดมความคิดหรือการสำรวจเบื้องต้น | ไอเดียที่อ่อนแอส่งผลให้งานไปในทิศทางที่ผิด | ตรวจสอบรายละเอียดข้อเท็จจริงใดๆ ก่อนนำไปใช้ |
เนื้อหาข้อเท็จจริงที่เผยแพร่หรือแชร์ | ผู้อ่านได้รับสถิติ คำพูด หรือการอ้างอิงที่ไม่ถูกต้อง | ทำรายการตรวจสอบ 5 นาทีให้เสร็จสิ้นและเปิดการอ้างอิงที่สำคัญทุกรายการ |
การวิจัยที่ต้องแข่งกับเวลา | ราคา กฎหมาย ฟีเจอร์ หรือข้อมูลผู้นำรุ่นเก่าหล่อหลอมคำตอบ | ยืนยันคำกล่าวอ้างด้วยแหล่งข้อมูลปฐมภูมิปัจจุบัน |
การตัดสินใจทางกฎหมาย การแพทย์ การเงิน หรือความปลอดภัย | ข้อผิดพลาดทำให้เกิดอันตราย ความเสียหาย หรือความรับผิดชอบ | ตรวจสอบหลักฐานต้นฉบับ เพิ่มการสนับสนุนที่เป็นอิสระ และให้ผู้เชี่ยวชาญที่มีคุณสมบัติเหมาะสมเข้ามามีส่วนร่วม |
7 สัญญาณที่บ่งบอกว่าคำตอบจาก AI จำเป็นต้องได้รับการตรวจสอบอย่างใกล้ชิด
เมื่อคำตอบจาก AI ดูไม่น่าเชื่อถือ ให้เริ่มต้นด้วย 3 สิ่ง ได้แก่ ความสามารถในการตรวจสอบย้อนกลับ ความสอดคล้อง และความทันปัจจุบัน ติดตามคำกล่าวอ้างกลับไปยังแหล่งที่มา ตรวจสอบว่ารายละเอียดสอดคล้องกัน และตรวจสอบให้แน่ใจว่าข้อมูลมีความเป็นปัจจุบันเพียงพอสำหรับคำถามนั้น
ทดสอบ | สัญญาณเตือน | การตรวจสอบที่เร็วที่สุด |
ความสามารถในการตรวจสอบย้อนกลับ | ไม่สามารถตรวจสอบแหล่งข้อมูลได้ | ค้นหาชื่อเรื่องที่แน่นอน จากนั้นตรวจสอบสำนักพิมพ์ บันทึกของผู้แต่ง หรือรหัสระบุทรัพยากรดิจิทัล (DOI) |
ความสามารถในการตรวจสอบย้อนกลับ | แหล่งข้อมูลมีจริงแต่ถูกนำไปใช้ในทางที่ผิด | ค้นหาข้อความอ้างอิง สถิติ หรือข้อสรุปที่แน่นอน และอ่านบริบทโดยรอบ |
ความสามารถในการตรวจสอบย้อนกลับ | ตัวเลขที่แน่นอนไม่มีที่มาที่ชัดเจน | ติดตามไปยังการศึกษาต้นฉบับและตรวจสอบกลุ่มตัวอย่าง กรอบเวลา และวิธีการ |
ความสอดคล้อง | มีการรวมรายละเอียดจริงเข้าด้วยกันอย่างไม่ถูกต้อง | แยกคำกล่าวอ้างออกเป็นเอนทิตี การกระทำ และวันที่หรือเวอร์ชัน ตรวจสอบแต่ละส่วน |
ความสอดคล้อง | คำตอบยอมรับข้อสมมติที่น่าสงสัย | ยืนยันว่ารายงาน เหตุการณ์ บุคคล หรือผลิตภัณฑ์นั้นมีอยู่จริง |
ความสอดคล้อง | การเรียบเรียงใหม่ทำให้ข้อเท็จจริงหลักเปลี่ยนแปลงไป | ถามอีกครั้งด้วยภาษาที่เป็นกลาง จากนั้นเปรียบเทียบรายละเอียดที่ตรวจสอบได้ |
ความทันปัจจุบัน | คำกล่าวอ้างปัจจุบันพึ่งพาข้อมูลเก่า | ตรวจสอบว่าแหล่งข้อมูลได้รับการอัปเดตเมื่อใดและค้นหาแหล่งข้อมูลปฐมพลล่าสุด |
ความสามารถในการตรวจสอบย้อนกลับ
ความสามารถในการตรวจสอบย้อนกลับเริ่มต้นจากหลักฐาน หากคำกล่าวอ้างมีความสำคัญ คุณควรจะสามารถหาแหล่งที่มาและยืนยันได้ว่ามีเนื้อหาตรงกัน
1. แหล่งข้อมูลถูกกุขึ้นมาหรือ0ม่สามารถตรวจสอบได้
การอ้างอิงไม่สามารถสนับสนุนคำตอบได้หากไม่สามารถยืนยันแหล่งข้อมูลได้ URL อาจเสียชั่วคราว ดังนั้นลิงก์ที่ล้มเหลวหนึ่งลิงก์จึงไม่ใช่ข้อพิสูจน์ของอาการหลอน สัญญาณเตือนที่รุนแรงกว่าคือแหล่งข้อมูลที่ไม่ทิ้งร่องรอยไว้เลย: สำนักพิมพ์ไม่มีบันทึกเกี่ยวกับบทความนั้น รหัสระบุทรัพยากรดิจิทัล (DOI) นำไปสู่เอกสารอื่น หรือผู้แต่งที่มีชื่อไม่มีความเชื่อมโยงกับงานนั้นตามที่มีการบันทึกไว้
โมเดลสามารถกุชื่อเรื่อง ผู้แต่ง วารสาร และรายงานที่ดูน่าเชื่อถือขึ้นมาได้ โดยมักจะมีรายละเอียดที่พอเหมาะพอดีเพื่อให้ดูสมจริง
ขั้นตอนการตรวจสอบ: ค้นหาชื่อที่แน่นอนในเครื่องหมายคำพูด ตรวจสอบคลังข้อมูลของสำนักพิมพ์และบันทึกการตีพิมพ์ของผู้แต่ง สำหรับงานวิชาการ ให้ป้อน DOI ที่ doi.org และตรวจสอบให้แน่ใจว่านำคุณไปยังเอกสารที่อ้างอิง
2. แหล่งข้อมูลมีอยู่จริง แต่คำตอบนำไปใช้ในทางที่ผิด
การอ้างอิงที่ใช้งานได้ไม่ได้พิสูจน์ว่าประโยคที่อยู่ข้างๆ นั้นถูกต้อง แหล่งข้อมูลอาจมีความน่าเชื่อถือและตรงประเด็นแต่กลับไม่มีข้อความที่อ้างอิง ตัวเลขที่รายงาน หรือข้อสรุปที่คำตอบระบุว่าเป็นของแหล่งข้อมูลนั้น นอกจากนี้ยังอาจสนับสนุนการค้นพบที่แคบกว่าที่คำตอบระบุไว้ด้วย
นี่คือปัญหาการระบุแหล่งที่มาผิด ไม่ใช่ปัญหาการมีอยู่ของแหล่งข้อมูล: หลักฐานมีจริง แต่ความเชื่อมโยงระหว่างหลักฐานกับคำกล่าวอ้างนั้นไม่ถูกต้อง
ขั้นตอนการตรวจสอบ: เปิดหน้าที่มีการอ้างอิงและค้นหาสถิติ ใบเสนอราคา หรือข้อสรุปที่แน่นอน อ่านบริบทโดยรอบ จากนั้นถามว่าแหล่งข้อมูลนั้นสนับสนุนคำกล่าวอ้างตามที่เขียนไว้หรือไม่ ไม่ใช่แค่สนับสนุนในหัวข้อทั่วไปเท่านั้น
3. ตัวเลขที่แน่นอนไม่มีแหล่งที่มาหรือวิธีที่ชัดเจน
รายละเอียดที่แม่นยำมักจะฟังดูเหมือนผ่านการค้นคว้ามา ตัวเลขเช่น "36.4%" บ่งบอกถึงการวัด ชุดข้อมูล และวิธีการ ยิ่งคำกล่าวอ้างมีความแม่นยำมากเท่าไหร่ ก็ยิ่งควรตรวจสอบย้อนกลับไปยังการวัดผลที่มีการบันทึกไว้ได้ง่ายขึ้นเท่านั้น
ให้ความสนใจเป็นพิเศษกับเปอร์เซ็นต์ ผลการสำรวจ ราคา การจัดอันดับ ตัวเลขรายได้ และผลการศึกษาที่นำเสนอด้วยความแม่นยำทางตัวเลข แหล่งข้อมูลที่น่าเชื่อถือควรระบุให้ชัดเจนว่าใครเป็นผู้รวบรวมข้อมูล รวบรวมเมื่อใด ใช้ประชากรหรือชุดข้อมูลใด และคำนวณผลลัพธ์อย่างไร
ขั้นตอนการตรวจสอบ: ติดตามตัวเลขไปยังแหล่งที่มาต้นฉบับ ยืนยันวันที่ กลุ่มตัวอย่างหรือชุดข้อมูล ระเบียบวิธี และตัวเลขนั้นๆ หาก1หล่งข้อมูลรายงานขอบเขต กรอบเวลา หรือการคำนวณที่แตกต่างออกไป คำตอบของ AI อาจกล่าวเกินจริงจากสิ่งที่ข้อมูลแสดง
ความสอดคล้อง
คำตอบที่น่าเชื่อถือควรมีความสอดคล้องกันเมื่อตรวจสอบส่วนประกอบแต่ละส่วน คำกล่าวอ้างอาจล้มเหลวเนื่องจากข้อเท็จจริงถูกประกอบเข้าด้วยกันอย่างไม่ถูกต้อง ไม่ใช่เพราะข้อเท็จจริงแต่ละรายการเป็นเท็จ
4. มีการนำรายละเอียดจริงมาผสมผสานกันอย่างไม่ถูกต้อง
คำตอบสามารถใช้ข้อเท็จจริงที่เป็นจริงทีละรายการ และยังคงอธิบายถึงสิ่งที่ไม่ได้เกิดขึ้นจริงได้ โมเดลอาจกำหนดคำพูดจริงให้กับนักวิจัยผิดคน แนบฟีเจอร์จากการเปิดตัวผลิตภัณฑ์หนึ่งไปยังอีกผลิตภัณฑ์หนึ่ง หรือรวมประกาศของบริษัทเข้ากับการเปลี่ยนแปลงความเป็นผู้นำที่เกิดขึ้นในอีกหลายเดือนต่อมา
นี่คือข้อผิดพลาดเกี่ยวกับความสัมพันธ์ ชื่อ วันที่ ผลิตภัณฑ์ และแหล่งข้อมูลอาจถูกต้องทั้งหมด ปัญหาคือสิ่งเหล่านี้ไม่ได้อยู่ร่วมกันในลักษณะที่คำตอบอ้าง
ขั้นตอนการตรวจสอบ: แบ่งคำกล่าวอ้างออกเป็นส่วนสำคัญ: บุคคลหรือองค์กร เหตุการณ์หรือฟีเจอร์ และวันที่หรือเวอร์ชัน ตรวจสอบแต่ละส่วนแยกกัน จากนั้นยืนยันว่าแหล่งข้อมูลต้นฉบับเชื่อมโยงเข้าด้วยกัน
5. คำตอบยอมรับข้อสมมติที่น่าสงสัย
โมเดลมักจะทำตามทิศทางที่กำหนดโดยพรอมต์ ข้อสมมติที่ผิดสามารถทำให้การตอบสนองทั้งหมดผิดเพี้ยนไปได้ แทนที่จะท้าทายรายงานที่ไม่มีอยู่จริง เหตุการณ์ที่จินตนาการขึ้น หรือข้อสมมติที่ไม่ถูกต้อง โมเดลอาจสร้างคำตอบขึ้นมารอบๆ สิ่งนั้น ผลลัพธ์ที่ได้อาจมีรายละเอียดและสอดคล้องกัน แม้ว่าจุดเริ่มต้นจะผิดก็ตาม
ขั้นตอนการตรวจสอบ: ดึงข้อสมมติหลักออกมาและตรวจสอบด้วยตัวเอง ยืนยันว่ารายงาน เหตุการณ์ บุคคล หรือผลิตภัณฑ์มีอยู่จริงก่อนที่จะประเมินสิ่งที่คำตอบพูดถึงสิ่งนั้น
6. การเปลี่ยนแปลงเล็กน้อยในพรอมต์ทำให้เกิดข้อเท็จจริงที่เข้ากันไม่ได้
การเรียบเรียงคำถามใหม่สามารถเปลี่ยนรูปแบบ ระดับรายละเอียด หรือตัวอย่างในคำตอบได้ แต่ข้อเท็จจริงหลักควรจะยังคงที่
หากเวอร์ชันหนึ่งระบุผู้แต่ง วันที่ ยอดรวม หรือการอ้างอิงที่แตกต่างออกไป โมเดลอาจกำลังเติมข้อมูลที่ขาดหายไปแทนที่จะดึงข้อมูลจากแหล่งที่เชื่อถือได้ การใช้คำที่แตกต่างไม่ควรเปลี่ยนข้อเท็จจริงที่ตรวจสอบได้ เมื่อมีการเปลี่ยนแปลง ให้ถือว่าความไม่ตรงกันนั้นเป็นเบาะแสในการตรวจสอบ แทนที่จะเป็นข้อพิสูจน์ว่าคำตอบใดคำตอบหนึ่งเป็นเท็จ
ขั้นตอนการตรวจสอบ: ถามคำถามเชิงข้อเท็จจริงเดิมอีกครั้งโดยใช้ภาษาที่เป็นกลาง เปรียบเทียบเฉพาะรายละเอียดที่สามารถตรวจสอบได้ จากนั้นตรวจสอบรายละเอียดเหล่านั้นกับแหล่งข้อมูลที่เป็นอิสระ
ความทันปัจจุบัน
คำถามปัจจุบันย่อมต้องการหลักฐานปัจจุบัน ข้อมูลอาจมีความถูกต้องทางประวัติศาสตร์แต่ไม่สามารถนำมาใช้ในการตัดสินใจในปัจจุบันได้อีกต่อไป
7. คำกล่าวอ้างปัจจุบันพึ่งพาแหล่งข้อมูลที่ล้าสมัยหรือไม่ครบถ้วน
ฟีเจอร์ผลิตภัณฑ์ กฎหมาย ราคา บทบาทผู้นำ และผลการวิจัยสามารถเปลี่ยนแปลงได้อย่างรวดเร็ว คำตอบที่อ้างอิงข้อมูลเก่าอาจฟังดูเรียบร้อยและรวมถึงข้อเท็จจริงจริงไว้ด้วยในขณะที่พลาดการอัปเดตที่สำคัญ
เรื่องนี้มองข้ามได้ง่ายมากโดยเฉพาะเมื่อแหล่งข้อมูลมีความน่าเชื่อถือในตัวเอง แต่แหล่งข้อมูลที่น่าเชื่อถือก็ยังต้องมีความใหม่อยู่เสมอเพื่อให้เหมาะกับคำถามในขณะนั้น
ขั้นตอนการตรวจสอบ: ดูว่าแหล่งข้อมูลได้รับการเผยแพร่และอัปเดตครั้งล่าสุดเมื่อใด จากนั้นยืนยันคำกล่าวอ้างด้วยแหล่งข้อมูลปฐมภูมิปัจจุบัน เช่น เอกสารอย่างเป็นทางการ ฐานข้อมูลของรัฐบาล ประกาศของบริษัท หรือการวิจัยต้นฉบับ
รายการตรวจสอบการตรวจสอบ AI 5 นาที คุณไม่จำเป็นต้องตรวจสอบทุกประโยคก่อนที่จะตัดสินใจว่าคำตอบของ AI มีประโยชน์หรือไม่ ให้เริ่มต้นด้วยคำกล่าวอ้างที่มีน้ำหนักมากที่สุด จากนั้นทำตามการตรวจสอบ 5 ข้อด้านล่าง | |
นาทีที่ 1: ทำเครื่องหมายคำกล่าวอ้างที่สำคัญไฮไลต์สถิติ คำพูด วันที่ แหล่งข้อมูลที่มีชื่อ ความสามารถของผลิตภัณฑ์ คำแนะนำ และคำแนะนำที่มีความเสี่ยงสูง นาทีที่ 2: ทดสอบการอ้างอิงเปิดแหล่งข้อมูลที่ลิงก์ไว้ ยืนยันว่าแหล่งข้อมูลแต่ละรายการมีอยู่จริงและตรงกับชื่อ ผู้แต่ง สำนักพิมพ์ และวันที่ในคำตอบ นาทีที่ 3: จับคู่คำกล่าวอ้างกับหลักฐานค้นหารายละเอียดที่แน่นอนในแหล่งข้อมูล ตรวจสอบว่าแหล่งข้อมูลสนับสนุนการใช้คำ ขอบเขต และระดับความแน่นอนของคำกล่าวอ้างนั้น นาทีที่ 4: ตรวจสอบบันทึกต้นฉบับและปัจจุบันให้ความสำคัญกับหลักฐานปฐมภูมิ: การวิจัยต้นฉบับ เอกสารอย่างเป็นทางการ บันทึกของรัฐบาล การยื่นฟ้องศาล ประกาศของบริษัท หรือข้อมูลดิบ สำหรับคำกล่าวอ้างที่คำนึงถึงเวลา ให้ยืนยันว่าไม่มีสิ่งใหม่กว่าที่เปลี่ยนแปลงคำตอบ นาทีที่ 5: ลบข้อสมมติออกแล้วถามอีกครั้งเรียบเรียงคำถามใหม่โดยไม่มีข้อสมมติ เปรียบเทียบเฉพาะรายละเอียดที่ตรวจสอบได้จากคำตอบทั้งสอง จากนั้นตรวจสอบความขัดแย้งหรือคำกล่าวอ้างใหม่ๆ อย่างอิสระ |

วิธีที่ Perplexity รับมือกับอาการหลอน
Perplexity ผสมผสานการค้นหาเว็บเข้ากับการให้เหตุผลของโมเดล และเชื่อมโยงคำกล่าวอ้างกับแหล่งข้อมูลในคำตอบ การอ้างอิงเหล่านั้นช่วยให้ผู้อ่านมีเส้นทางโดยตรงในการตรวจสอบหลักฐาน รวมถึงว่ามีแหล่งข้อมูลนั้นอยู่จริงหรือไม่ สนับสนุนคำกล่าวอ้างที่อยู่ข้างๆ หรือไม่ และมีความใหม่พอสำหรับคำถามนั้นหรือไม่ การอ้างอิงช่วยให้ตรวจสอบได้ง่ายขึ้น แต่ไม่ได้ขจัดความจำเป็นในการตรวจสอบคำกล่าวอ้างที่มีผลตามมา
ทำให้หลักฐานมองเห็นได้ชัดเจน
สำหรับคำถามที่ใช้การค้นหาเว็บ Perplexity จะแสดงการอ้างอิงที่มีหมายเลขซึ่งเชื่อมโยงกลับไปยังแหล่งข้อมูลที่ใช้ในการตอบ ทำให้ง่ายต่อการนำสัญญาณเตือนสองข้อแรกในคู่มือนี้ไปใช้: ตรวจสอบว่ามีแหล่งข้อมูลอยู่จริง จากนั้นตรวจสอบว่าสนับสนุนคำกล่าวอ้างที่เกี่ยวข้อง
ฝึกอบรมโมเดลให้ค้นหาและใช้แหล่งข้อมูล
เนื่องจากคุณภาพการค้นหาไม่ได้ขึ้นอยู่กับการดึงลิงก์เพียงอย่างเดียว Perplexity จึงได้ออกแบบกระบวนการหลังการฝึกฝนแบบสองขั้นตอน ขั้นตอนแรกพัฒนาพฤติกรรมของผลิตภัณฑ์ เช่น การปฏิบัติตามคำแนะนำ การใช้เครื่องมือ การรักษาความสอดคล้อง และการตระหนักว่าเมื่อใดไม่มีหลักฐานที่เชื่อถือได้ ขั้นตอนที่สองใช้งานค้นหาที่ยากขึ้นเพื่อปรับปรุงการใช้หลักฐานและประสิทธิภาพของเครื่องมือ
ทดสอบคุณภาพเชิงข้อเท็จจริงแยกจากคุณภาพการเขียน
สำหรับงานที่ตรวจสอบได้ Perplexity จะประเมินความถูกต้องของข้อเท็จจริงควบคู่ไปกับคุณภาพการอ้างอิงและข้อกำหนดอื่นๆ ของผลิตภัณฑ์ สำหรับคำขอแบบปลายเปิด เช่น การเรียบเรียงใหม่หรือการวางแผน การประเมินจะมุ่งเน้นไปที่ว่าโมเดลทำตามคำแนะนำ รักษาความหมายเดิมไว้ และทำงานที่ร้องขอสำเร็จหรือไม่ ความแตกต่างนี้มีความสำคัญเนื่องจากคำตอบที่ไหลลื่นสามารถเขียนออกมาได้ดีโดยไม่มีความน่าเชื่อถือในแง่ของข้อเท็จจริง
ค้นหาเฉพาะเท่าที่จำเป็น
การดึงข้อมูลที่มากขึ้นไม่ได้ดีกว่าโดยอัตโนมัติ การวิจัยของ Perplexity อธิบายถึงการฝึกอบรมตัวแทนค้นหาเพื่อแก้ปัญหาคำถามหลายขั้นตอนพร้อมทั้งสร้างความสมดุลระหว่างคุณภาพคำตอบและประสิทธิภาพการใช้เครื่องมือ เป้าหมายคือการรวบรวมหลักฐานให้เพียงพอเพื่อสนับสนุนคำตอบโดยไม่ต้องเพิ่มขั้นตอนที่ไม่จำเป็นซึ่งอาจแนะนำข้อผิดพลาดหรือเบี่ยงเบนความสนใจจากคำถาม
Perplexity ไม่ได้อ้างว่ามีความถูกต้องสมบูรณ์แบบ การดึงข้อมูลปัจจุบัน การหลังการฝึกฝน การประเมินแบบมีโครงสร้าง และการค้นหาอย่างมีระเบียบวินัยช่วยลดความเสี่ยงในการเกิดอาการหลอน การอ้างอิงที่มองเห็นได้ช่วยให้ตรวจสอบความไม่แน่นอนที่เหลืออยู่ได้ง่ายขึ้น และความคิดเห็นต่อเนื่องช่วยให้ระบบปรับปรุงให้ดีขึ้น
ติดตามหลักฐาน
เชื่อคำตอบของ AI ได้เท่าที่คุณสามารถตรวจสอบย้อนกลับคำกล่าวอ้างที่สำคัญที่สุดไปยังหลักฐานที่แน่นหนาได้ สำหรับการตัดสินใจที่มีผลกระทบจริง ให้เปิดแหล่งข้อมูล อ่านให้พ้นจากบรรทัดที่มีการอ้างอิง และขอให้ผู้เชี่ยวชาญที่มีคุณสมบัติเหมาะสมช่วยพิจารณาเมื่อจำเป็น
คำถามที่พบบ่อย
เครื่องมือ AI เชิงสร้างสรรค์ทั้งหมดมีอาการหลอนหรือไม่
ใช่ ระบบ AI เชิงสร้างสรรค์ปัจจุบันสามารถให้คำตอบที่ไม่ถูกต้องหรือไม่ได้รับการสนับสนุนได้ ความเสี่ยงจะเปลี่ยนไปตามเวอร์ชันของโมเดล งาน พรอมต์ การเข้าถึงแหล่งข้อมูล และวิธีการทดสอบ โมเดลอาจจัดการกับข้อเท็จจริงที่คุ้นเคยได้ดีแต่ต้องเผชิญกับความยากลำบากเมื่อเจอข้อมูลล่าสุดหรือข้อมูลที่ไม่ค่อยเป็นที่รู้จัก
พรอมต์ที่ดีขึ้นสามารถป้องกันอาการหลอนของ AI ได้หรือไม่
พรอมต์ที่ดีกว่าจะช่วยลดความเสี่ยงลงได้ด้วยการเพิ่มบริบท กำหนดคำศัพท์ และตัดข้อสมมติที่ผิดพลาดออก ทำงานได้ดีที่สุดควบคู่ไปกับแหล่งข้อมูลที่เชื่อถือได้ การอ้างอิง การตรวจสอบ และการตรวจสอบโดยมนุษย์ แม้แต่พรอมต์ที่เขียนขึ้นอย่างรอบคอบก็ไม่สามารถรับประกันคำตอบที่เป็นข้อเท็จจริงได้
อาการหลอนของ AI สามารถเป็นอันตรายได้หรือไม่
ใช่ เดิมพันจะสูงขึ้นเมื่อคำตอบที่ไม่ได้รับการสนับสนุนส่งผลต่อการดูแลสุขภาพ กฎหมาย การเงิน ความปลอดภัยทางไซเบอร์ การศึกษา หรือการตัดสินใจอื่นที่มีผลตามมา รายละเอียดการระดมความคิดที่สร้างขึ้นอาจทำให้เสียเวลาไปสักครู่ การอ้างอิงขนาดยาหรือกฎหมายที่กุขึ้นอาจสร้างความเสียหายที่ร้ายแรงกว่ามาก
ควรตรวจสอบสิ่งใดก่อน
เริ่มต้นด้วยรายละเอียดที่ตรวจสอบได้ง่ายและสามารถเปลี่ยนคำตอบได้: การอ้างอิง คำพูด สถิติ วันที่ ชื่อ และคำกล่าวอ้างปัจจุบัน ให้ความสนใจเป็นพิเศษกับข้อเท็จจริงใดๆ ที่อาจมีอิทธิพลต่อการตัดสินใจที่สำคัญ