يواجه ChatGPT انتقادات متزايدة بسبب تقديمه معلومات خاطئة بثقة عالية ، وهي ظاهرة تُعرف باسم "هلوسة الذكاء الاصطناعي". 

ووفقًا لاختبارات داخلية أجرتها OpenAI، فإن النماذج الأحدث من ChatGPT أصبحت أكثر عرضة لهذه الأخطاء، حيث أظهرت البيانات أن أحد النماذج اختلق معلومات بنسبة 33% ، بينما بلغت نسبة الأخطاء في نموذج آخر 48%.

تعود هذه المشكلة إلى الطريقة التي يعمل بها الذكاء الاصطناعي، حيث يعتمد على التنبؤ بالكلمات بناءً على الأنماط بدلاً من استرجاع الحقائق الدقيقة. هذا يجعل بعض الإجابات تبدو صحيحة رغم أنها غير دقيقة.

هذا بالإضافة إلى أن التحسينات التي أُدخلت على GPT-4o جعلته أكثر طلاقة في الحديث، مما أدى إلى تقليل استخدام العبارات التحذيرية مثل "لست متأكدًا" ، وهو ما يزيد من احتمالية تقديم معلومات غير صحيحة دون إظهار شكوك.

وتثير هذه الظاهرة مخاوف بشأن موثوقية الذكاء الاصطناعي في المجالات الحساسة مثل القانون والطب، حيث يمكن أن تؤدي المعلومات غير الدقيقة إلى عواقب خطيرة.

و في إحدى الحالات، تم فصل موظف قانوني بعد أن استخدم ChatGPT لإنشاء مستند قانوني يحتوي على مراجع قانونية غير موجودة ، مما أدى إلى فرض عقوبات على الشركة⁽²⁾.

وللتقليل من هذه الأخطاء، ينصح الخبراء المستخدمين بـ التحقق من المعلومات المقدمة من الذكاء الاصطناعي وعدم الاعتماد عليها بشكل كامل دون مراجعة مصادر موثوقة. كما تعمل OpenAI على تحسين نماذجها لتقليل معدل "الهلاوس" وضمان دقة أكبر في الإجابات المستقبلية.