كيفية اكتشاف هلوسة الذكاء الاصطناعي: 7 علامات حمراء

تربط إجابات الذكاء الاصطناعي الموثوقة الادعاءات بالأدلة. يمكن أن تخلق الهلوسة مظهراً لذلك الاتصال من خلال الكتابة المصقولة، لكن التفاصيل الدقيقة والاستشهادات ستفشل عند الفحص.

خذ إجابة افتراضية تشير إلى "مؤشر دقة الذكاء الاصطناعي للمؤسسات لعام 2026" الصادر عن المنتدى الاقتصادي العالمي وتدعي أن 68% من التقارير التي ينتجها الذكاء الاصطناعي تحتوي على خطأ واقعي. المنظمة حقيقية. التقرير والإحصاء مختلقان. تبدو الإجابة مبنية على أبحاث لأن اللغة دقيقة ومستندة إلى إسناد موثوق.

ما هي هلوسة الذكاء الاصطناعي ولماذا تحدث؟

تحدث هلوسة الذكاء الاصطناعي عندما يملأ النموذج الفراغات بمعلومات خاطئة أو غير مدعومة أو غير متسقة مع بقية إجابته. بعض الأخطاء واضحة، مثل الاستشهاد بورقة بحثية غير موجودة. والبعض الآخر يختبئ في إجابات تبدو موثوقة لولا ذلك: يكون التاريخ خاطئاً بسنة أو يبدأ الشرح بفرضية خاطئة.

تبني نماذج اللغات الإجابات من خلال تقدير الكلمات الأكثر ترجيحاً للظهور لاحقاً، بناءً على الأنماط المستفادة أثناء التدريب. مع توفر سياق كافٍ ومعلومات موثوقة، يمكن لهذه العملية أن تنتج إجابات مفيدة بشكل ملحوظ. ولكن عندما يكون السياق محدوداً أو يصعب العثور على مصادر موثوقة، يمكن للنموذج ملء الفراغ بشيء يبدو منطقياً فقط.

زيادة المخاطر مع مواضيع معينة

تزداد هذه المخاطر مع المواضيع الغامضة أو الحديثة، والأوامر الغامضة، والمعلومات المتضاربة، والأسئلة المستندة إلى افتراضات خاطئة. عندما تنفد الأدلة المتاحة، قد تستمر الإجابة بنفس الصوت الواثق والمتماسك.

كيفية تقييم النماذج أمر مهم أيضاً. تؤكد العديد من معايير القياس على ما إذا كان النموذج ينتج الإجابة الصحيحة، مع إيلاء اهتمام أقل لما إذا كان يتعرف على متى يكون السؤال غير قابل للإجابة أو الأدلة غير كافية. تشير الأبحاث إلى أن حتى نماذج اللغات الرائدة لا تزال تكافح للتعرف على متى لا تملك ما يكفي من معلومات لتقديم إجابة موثوقة. عندما لا يُشير النموذج إلى عدم اليقين بشكل موثوق، فقد ينتج إجابة تبدو معقولة بدلاً من طلب توضيح.

التأثير المتنوع للهلوسة

لا تزال الهلوسة ممكنة عبر أنظمة الذكاء الاصطناعي التوليدي، مما يجعل من الصعب تسمية منصة واحدة باعتبارها الأسوأ. تتغير النتائج اعتماداً على المهمة وإصدار النموذج وما إذا كان النظام يمكنه التحقق من المصادر الحالية.

يعتمد تأثير الهلوسة على المكان الذي تذهب إليه الإجابة بعد ذلك. قد يؤدي تفصيل ملفق في جلسة عصف ذهني إلى إضاعة بضع دقائق. يمكن أن يؤدي استشهاد قانوني ملفق أو جرعة دواء أو رقم مالي أو تعليمات أمنية إلى خطأ أكثر خطورة بكثير. يطلق المعهد الوطني للمعايير والتقنية (NIST) على هذه المخرجات اسم "النسج الخيالي للمعلومات" ويحددها كخطر يتطلب اختباراً ومراقبة وضوابط مناسبة للسياق، خاصة حيث يمكن أن تتسبب الأخطاء في ضرر كبير.

7 علامات تدل على أن إجابة الذكاء الاصطناعي تحتاج إلى نظرة فحص أدق

عندما تبدو إجابة الذكاء الاصطناعي غير موثوقة، ابدأ بثلاثة أمور: إمكانية التتبع الاتساق والحداثة. تتبع الادعاء وصولاً إلى مصادره وتأكد من تناسق التفاصيل وتأكد من أن المعلومات حديثة بما يكفي للسؤال.

إمكانية التتبع

تبدأ إمكانية التتبع بالإيصالات. إذا كان الادعاء مهمًا، يجب أن تكون قادرًا على العثور على المصدر والتأكد من أنه يقول الشيء نفسه.

1. المصدر مختلق أو لا يمكن التحقق منه

لا يمكن للاستشهاد دعم الإجابة إذا كان المصدر نفسه لا يمكن تأكيده. قد يكون عنوان URL معطلاً لسبب مؤقت، لذا فإن رابطاً واحداً فاشلاً ليس دليلاً على وجود هلوسة. علامة التحذير الأقوى هي مصدر لا يترك أي أثر: ليس لدى الناشر أي سجل للمقالة، أو أن معرف الكائن الرقمي (DOI) يؤدي إلى بحث مختلف، أو أن المؤلف المسمى ليس لديه اتصال موثق بالعمل.

يمكن للنماذج ابتكار عناوين ومؤلفين ومجلات وتقارير مقنعة، وغالباً ما يكون ذلك بتفاصيل كافية لتظهر بشكل شرعي.

خطوة التحقق: ابحث عن العنوان الدقيق بين علامات التنصيص. تحقق من أرشيف الناشر وسجل نشر المؤلف. للأعمال الأكاديمية، أدخل معرف DOI على doi.org وتأكد من أنه يأخذك إلى الورقة المستشهد بها.

2. المصدر موجود، لكن الإجابة تسيء استخدامه

الاستشهاد العامل لا يثبت أن الجملة الموجودة بجانبه دقيقة. قد يكون المصدر موثوقاً وذو صلة ومع ذلك يفشل في احتواء اللغة المقتباة أو الرقم المبلغ عنه أو الاستنتاج الذي تنسبه الإجابة إليه. قد يدعم أيضاً نتيجة أضيق مما تقترحه الإجابة.

هذه مشكلة إسناد خاطئ وليست مشكلة وجود مصدر: الأدلة حقيقية، لكن العلاقة بين الأدلة والادعاء خاطئة.

خطوة التحقق: افتح الصفحة المستشهد بها وحدد الإحصاء أو الاقتباس أو الاستنتاج الدقيق. اقرأ السياق المحيط، ثم اسأل عما إذا كان المصدر يدعم الادعاء كما هو مكتوب، وليس فقط الموضوع العام.

3. الأرقام الدقيقة تفتقر إلى مصدر أو طريقة

تميل التفاصيل الدقيقة إلى أن تبدو وكأنها مبنية على أبحاث. يشير رقم مثل "36.4%" إلى قياس ومجموعة بيانات وطريقة. وكلما كان الادعاء أكثر دقة، كان من الأسهل تتبعه وصولاً إلى قياس موثق.

انتبه جيداً للنسب المئوية ونتائج الاستطلاعات والأسعار والتصنيفات وأرقام الإيرادات ونتائج الدراسات المقدمة بدقة عددية. يجب أن يوضح المصدر الموثوق من قام بجمع المعلومات ومتى جمعوها وما هو المجتمع أو مجموعة البيانات التي استخدموها وكيف قاموا بحساب النتيجة.

خطوة التحقق: تتبع الرقم وصولاً إلى مصدره الأصلي. تأكد من التاريخ أو العينة أو مجموعة البيانات أو المنهجية والرقم نفسه. إذا أبلغ المصدر عن نطاق أو إطار زمني أو حساب مختلف، فقد تكون إجابة الذكاء الاصطناعي تبالغ فيما توضحه البيانات.

الاتساق

يجب أن تتماسك الإجابة الموثوقة عندما يتم التحقق من أجزائها الفردية. يمكن أن يفشل الادعاء لأن الحقائق قد تم تجميعها بشكل غير صحيح، وليس لأن كل حقيقة فردية خاطئة.

4. يتم الجمع بين التفاصيل الحقيقية بشكل غير صحيح

يمكن أن تستخدم الإجابة حقائق حقيقية بشكل فردي ومع ذلك تصف شيئاً لم يحدث قط. قد يُسند النموذج اقتباساً حقيقياً إلى الباحث الخطأ، أو يربط ميزة من إصدار منتج بآخر، أو يجمع بين إعلان لشركة وتغيير في القيادة حدث بعد أشهر.

هذه أخطاء في العلاقة. قد تكون الأسماء والتواريخ والمنتجات والمصادر كلها شرعية؛ المشكلة هي أنها لا تنتمي لبعضها البعض بالطريقة التي تدعيها الإجابة.

خطوة التحقق: قسّم الادعاء إلى أجزائه الأساسية: الشخص أو المنظمة، والحدث أو الميزة، والتاريخ أو الإصدار. تحقق من كل جزء على حدة، ثم تأكد من أن المصدر الأصلي يربط بينهم.

5. تقبل الإجابة فرضية مشكوكاً فيها

غالباً ما تتبع النماذج الاتجاه الذي يحدده الأمر. يمكن لفرضية خاطئة أن تضع الاستجابة بأكملها على المسار الخطأ. بدلاً من تحدي تقرير غير موجود أو حدث متخيل أو افتراض غير صحيح، قد يبني النموذج إجابة حوله. قد تكون النتيجة مفصلة ومتماسكة، على الرغم من أن نقطة بدايتها كانت خاطئة.

خطوة التحقق: استخرج الافتراض الرئيسي وتأكد منه بنفسك. تأكد من أن التقرير أو الحدث أو الشخص أو المنتج موجود قبل تقييم ما تقوله الإجابة عنه.

6. تنتج التغييرات الصغيرة في الأمر حقائق غير متوافقة

يمكن إعادة صياغة السؤال أن تغير النمط أو مستوى التفصيل أو الأمثلة في الإجابة. يجب أن تظل الحقائق الأساسية مستقرة.

إذا ذكرت إحدى النسخ مؤلفاً أو تاريخاً أو إجمالياً أو استشهاداً مختلفاً، فقد يملأ النموذج معلومات مفقودة بدلاً من الرسم من مصدر موثوق. لا ينبغي أن تغير الصياغة المختلفة الحقائق القابلة للتحقق. عندما يحدث ذلك، اعتبر عدم التطابق دليلاً يجب التحقق منه بدلاً من دليل على أن أي من الإجابتين خاطئة.

خطوة التحقق: اطرح نفس السؤال الواقعي مرة أخرى باستخدام لغة محايدة. قارن فقط التفاصيل التي يمكن التحقق منها، ثم تحقق من هذه التفاصيل مقابل مصدر مستقل.

الحداثة

تحتاج الأسئلة الحالية إلى أدلة حالية. قد تكون المعلومات دقيقة تاريخياً ولم تعد قابلة للاستخدام في اتخاذ قرار حالي.

7. يعتمد ادعاء حالي على مصادر قديمة أو مفقودة

يمكن أن تتغير ميزات المنتج والقوانين والأسعار وأدوار القيادة ونتائج الأبحاث بسرعة. قد تبدو الإجابة المستندة إلى معلومات أقدم مصقولة وتتضمن حقائق حقيقية بينما تفوت تحديثاً مهمًا.

من السهل جداً التغاضي عن ذلك عندما يكون المصدر نفسه موثوقاً. لا يزال المصدر الموثوق بحاجة إلى أن يكون حديثاً بما يكفي للسؤال المطروح.

خطوة التحقق: تحقق من متى تم نشر المصدر وتحديثه آخر مرة، ثم أكد الادعاء باستخدام مصدر أولي حالي مثل الوثائق الرسمية أو قاعدة بيانات حكومية أو إعلان لشركة أو البحث الأصلي.

كيف يتعامل Perplexity مع الهلوسة

يجمع Perplexity بين البحث على الويب والاستدلال بالنماذج ويربط الادعاءات بالمصادر في الإجابة. تمنح هذه الاستشهادات القراء مساراً مباشراً لفحص الأدلة، بما في ذلك ما إذا كان المصدر موجوداً، ويدعم الادعاء الموجود بجانبه، وحديثاً بما يكفي للسؤال. تجعل الاستشهادات التحقق أسهل؛ لكنها لا تزيل الحاجة إلى مراجعة الادعاءات ذات النتائج الهامة.

اجعل الأدلة مرئية

بالنسبة للأسئلة التي تستخدم بحث الويب، يعرض Perplexity استشهادات مرقمة ترتبط بالمصادر المستخدمة في الاستجابة. وهذا يسهل تطبيق العلامتين الحمراوين الأوليين في هذا الدليل: تحقق من وجود المصدر، ثم تأكد من أنه يدعم الادعاء المرتبط.

تدريب النماذج على البحث واستخدام المصادر

نظراً لأن جودة البحث تعتمد على أكثر من مجرد استرجاع الروابط، فقد صمم Perplexity عملية ما بعد التدريب من مرحلتين. تطور المرحلة الأولى سلوكيات المنتج مثل اتباع التعليمات واستخدام الأدوات والحفاظ على الاتساق والتعرف على متى لا تكون الأدلة الموثوقة متاحة؛ وتستخدم المرحلة الثانية مهام بحث أصعب لتحسين استخدام الأدلة وكفاءة الأدوات.

اختبر الجودة الواقعية بشكل منفصل عن جودة الكتابة

بالنسبة للمهام القابلة للتحقق، يقيم Perplexity الدقة الواقعية إلى جانب جودة الاستشهاد ومتطلبات المنتج الأخرى. بالنسبة للطلبات المفتوحة مثل إعادة الكتابة أو التخطيط، يركز التقيم بدلاً من ذلك على ما إذا كان النموذج قد اتبع التعليمات وحافظ على المعنى وأكمل المهمة المطلوبة. هذا التمييز مهم لأن الإجابة السلسة يمكن أن تكون مكتوبة جيداً دون أن تكون موثوقة واقعياً.

ابحث بالقدر اللازم فقط

المزيد من الاسترجاع ليس أفضل تلقائياً. تصف أبحاث Perplexity تدريب وكلاء البحث لحل الأسئلة متعددة الخطوات مع موازنة جودة الإجابة وكفاءة استخدام الأدوات. الهدف هو جمع أدلة كافية لدعم الإجابة دون إضافة خطوات غير ضرورية يمكن أن تودخل أخطاء أو تشتت الانتباه عن السؤال.

لا يدعي Perplexity دقة مثالية. تقلل عملية الاسترجاع الحالية وما بعد التدريب والتقييم المنظم والبحث الانضباطي من مخاطر الهلوسة. تجعل الاستشهادات المرئية عدم اليقين المتبقي أسهل للفحص، وتساعد التعليقات المستمرة النظام على التحسن.

اتبع الأدلة

ثق بإجابة الذكاء الاصطناعي بقدر ما يمكنك تتبع أهم ادعاءاتها وصولاً إلى أدلة صلبة. للقرارات ذات التبعات الحقيقية، افتح المصادر واقرأ ما بعد السطر المقتبس واطلب من خبير مؤهل إبداء رأيه عند الحاجة.

أسئلة متكررة

هل تهلوس جميع أدوات الذكاء الاصطناعي التوليدي؟

نعم. يمكن لأي نظام ذكاء اصطناعي توليدي حالي أن ينتج إجابة غير دقيقة أو غير مدعومة. تتغير المخاطر وفقاً لإصدار النموذج والمهمة والأمر والوصول إلى المصادر وطريقة الاختبار. قد يتعامل النموذج مع الحقائق المألوفة بشكل جيد ويكافح مع المعلومات الحديثة أو الغامضة.

هل يمكن للأوامر الأفضل أن تمنع هلوسة الذكاء الاصطناعي؟

تساعد الأوامر الأفضل في تقليل المخاطر عن طريق إضافة السياق وتحديد المصطلحات وإزالة الافتراضات الخاطئة. وهي تعمل بشكل أفضل جنباً إلى جنب مع المصادر الموثوقة والاستشهادات والتحقق والمراجعة البشرية. حتى الأمر المكتوب بعناية لا يمكنه ضمان استجابة واقعية.

هل يمكن أن تكون هلوسة الذكاء الاصطناعي خطيرة؟

نعم. ترتفع المخاطر عندما تؤثر إجابة غير مدعومة على الرعاية الصحية أو القانون أو التمويل أو الأمن السيبراني أو التعليم أو أي قرار آخر ذي تبعات هامة. قد يؤدي تفاصيل العصف الذهني الملفقة إلى إضاعة بضع دقائق؛ بينما يمكن أن تتسبب جرعة دواء ملفقة أو استشهاد قانوني مزيف في ضرر أكثر خطورة بكثير.

ما الذي يجب التحقق منه أولاً؟

ابدأ بالتفاصيل التي يسهل التحقق منها وقادرة على تغيير الإجابة: الاستشهادات، والاقتباسات، والإحصاءات، والتواريخ، والأسماء، والادعاءات الحالية. أولِ اهتماماً إضافياً لأي حقيقة قد تؤثر على قرار مهم.