هلوسة الذكاء الاصطناعي (AI Hallucination)

آلية العمل والسياق

تنشأ هلوسات الذكاء الاصطناعي في المقام الأول لأن نماذج اللغات الكبيرة (LLMs) هي محركات احتمالية مصممة للتنبؤ بالرمز التالي في تسلسل بناءً على الأنماط التي تم تعلمها أثناء التدريب، بدلاً من قواعد بيانات الحقائق التي تم التحقق منها. عندما يفتقر النموذج إلى بيانات تدريب كافية حول موضوع معين أو يتم توجيهه لتوليد معلومات تتجاوز تاريخ قطع معرفته، فقد 'يملأ الفجوات' من خلال بناء محتوى يبدو معقولاً ولكنه ملفق تماماً. هذا السلوك هو قيد أساسي للهياكل الحالية القائمة على المحولات (Transformer). يمكن أن تظهر الهلوسات كاستشهادات مزيفة، أو أحداث تاريخية غير موجودة، أو حسابات رياضية غير صحيحة. ولأن هذه النماذج محسنة للطلاقة والتماسك، فإنها غالباً ما تخفي أخطاءها خلف لغة موثوقة، مما يجعل من الصعب على المستخدمين التمييز بين المعلومات الدقيقة والتلفيق الإبداعي دون تحقق خارجي.

لماذا هو مهم

تشكل الهلوسات مخاطر كبيرة في المجالات عالية المخاطر مثل الطب والقانون وهندسة البرمجيات، حيث تكون الدقة أمراً بالغ الأهمية. فهي تقوض ثقة المستخدم ويمكن أن تؤدي إلى انتشار المعلومات المضللة. يعد فهم هذا القيد أمراً ضرورياً للمطورين الذين يبنون أنظمة مدمجة بالذكاء الاصطناعي، لأنه يستلزم تنفيذ طبقات تحقق قوية، مثل التوليد المعزز بالاسترجاع (RAG) أو سير العمل الذي يتضمن تدخلاً بشرياً، لضمان موثوقية المخرجات التي يولدها الذكاء الاصطناعي.

مثال واقعي

يستخدم باحث قانوني روبوت دردشة يعمل بالذكاء الاصطناعي لصياغة مذكرة، ويستشهد النموذج بثلاث قضايا محكمة تبدو شرعية. ومع ذلك، عند التحقق اليدوي، يكتشف الباحث أن أسماء القضايا والتواريخ والقضاة المترأسين كانت ملفقة بالكامل من قبل الذكاء الاصطناعي. لقد نجح النموذج في محاكاة هيكل ونبرة وثيقة قانونية ولكنه فشل في استرجاع سوابق قانونية فعلية وموجودة.

أخطاء شائعة

• افتراض أنه نظراً لأن الذكاء الاصطناعي بليغ للغاية، فإن مخرجاته دقيقة واقعياً.
• الفشل في التحقق من الاستشهادات أو نقاط البيانات المقدمة من قبل LLM مقابل مصادر موثوقة وأولية.
• معاملة الذكاء الاصطناعي التوليدي كقاعدة معرفية موثوقة أو محرك بحث دون تنفيذ تقنيات التأريض مثل RAG.
• الاعتماد المفرط على الذكاء الاصطناعي للمهام التي تتطلب دقة عالية دون إشراف بشري.

الأسئلة الشائعة