هلوسة الذكاءالاصطناعي | ChatGPT يواجه انتقادات بسبب زيادة الأخطاء

هلوسة الذكاءالاصطناعي | ChatGPT يواجه انتقادات بسبب زيادة الأخطاء 


حسبان يكشف تفاصيل برنامجه الانتخابي لرئاسة الرجاء في ندوة صحفية

حسبان يعلّق بتأثر على الحكم الصادر بحق بودريقة: مايستالهش الحبس وأنا مصدوم من الحكم عليه بـ 5سنوات

أخنوش: المناظرة الوطنية حول الذكاء الاصطناعي محطة هامة في مسار ترسيخ السيادة التكنولوجية لبلادنا

أخنوش : المغرب بقيادة جلالة الملك، يواصل تعزيز إصلاحاته الهيكلية في المجالات ذات الأولوية

تشييع جثمان دركي لقي حتفه في حادث دهس بدراجة نارية بإيموزار إداوتنان خلال أيام عيد الأضحى

محكمة الاستئناف بطنجة تشهد تنصيب الرئيس الأول الجديد في مراسم مميزة

هلوسة الذكاءالاصطناعي | ChatGPT يواجه انتقادات بسبب زيادة الأخطاء

هلوسة الذكاءالاصطناعي | ChatGPT يواجه انتقادات بسبب زيادة الأخطاء

أخبارنا المغربية-وكالات

يواجه ChatGPT انتقادات متزايدة بسبب تقديمه معلومات خاطئة بثقة عالية ، وهي ظاهرة تُعرف باسم "هلوسة الذكاء الاصطناعي". 

ووفقًا لاختبارات داخلية أجرتها OpenAI، فإن النماذج الأحدث من ChatGPT أصبحت أكثر عرضة لهذه الأخطاء، حيث أظهرت البيانات أن أحد النماذج اختلق معلومات بنسبة 33% ، بينما بلغت نسبة الأخطاء في نموذج آخر 48%.

تعود هذه المشكلة إلى الطريقة التي يعمل بها الذكاء الاصطناعي، حيث يعتمد على التنبؤ بالكلمات بناءً على الأنماط بدلاً من استرجاع الحقائق الدقيقة. هذا يجعل بعض الإجابات تبدو صحيحة رغم أنها غير دقيقة.

هذا بالإضافة إلى أن التحسينات التي أُدخلت على GPT-4o جعلته أكثر طلاقة في الحديث، مما أدى إلى تقليل استخدام العبارات التحذيرية مثل "لست متأكدًا" ، وهو ما يزيد من احتمالية تقديم معلومات غير صحيحة دون إظهار شكوك.

وتثير هذه الظاهرة مخاوف بشأن موثوقية الذكاء الاصطناعي في المجالات الحساسة مثل القانون والطب، حيث يمكن أن تؤدي المعلومات غير الدقيقة إلى عواقب خطيرة.

و في إحدى الحالات، تم فصل موظف قانوني بعد أن استخدم ChatGPT لإنشاء مستند قانوني يحتوي على مراجع قانونية غير موجودة ، مما أدى إلى فرض عقوبات على الشركة⁽²⁾.

وللتقليل من هذه الأخطاء، ينصح الخبراء المستخدمين بـ التحقق من المعلومات المقدمة من الذكاء الاصطناعي وعدم الاعتماد عليها بشكل كامل دون مراجعة مصادر موثوقة. كما تعمل OpenAI على تحسين نماذجها لتقليل معدل "الهلاوس" وضمان دقة أكبر في الإجابات المستقبلية.

 


هل ترغب بالتعليق على الموضوع؟

*
*
*
ملحوظة
  • التعليقات المنشورة لا تعبر بالضرورة عن رأي الموقع
  • من شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات

المغرب      |      المصدر: اخبارنا المغربية    (منذ: 2 أسابيع | 1 قراءة)
.