هلوسة الذكاءالاصطناعي | ChatGPT يواجه انتقادات بسبب زيادة الأخطاء

هلوسة الذكاءالاصطناعي | ChatGPT يواجه انتقادات بسبب زيادة الأخطاء 


حسبان: الرجاء للرجاويين.. وأحترم قرار الكورفا سود برفض ترؤسي مجددًا

تسعيرة جديدة لطاكسيات طنجة: 7 دراهم تشعل نقاشات النقل وتثير ارتياح السائقين

انتهى زمن العبث.. الجرافة تهدم عددا من واجهات المنازل المخالفة للقانون بمنطقة الداخلة بالحي المحمدي

حسبان يكشف تفاصيل برنامجه الانتخابي لرئاسة الرجاء في ندوة صحفية

حسبان يعلّق بتأثر على الحكم الصادر بحق بودريقة: مايستالهش الحبس وأنا مصدوم من الحكم عليه بـ 5سنوات

أخنوش: المناظرة الوطنية حول الذكاء الاصطناعي محطة هامة في مسار ترسيخ السيادة التكنولوجية لبلادنا

هلوسة الذكاءالاصطناعي | ChatGPT يواجه انتقادات بسبب زيادة الأخطاء

هلوسة الذكاءالاصطناعي | ChatGPT يواجه انتقادات بسبب زيادة الأخطاء

أخبارنا المغربية-وكالات

يواجه ChatGPT انتقادات متزايدة بسبب تقديمه معلومات خاطئة بثقة عالية ، وهي ظاهرة تُعرف باسم "هلوسة الذكاء الاصطناعي". 

ووفقًا لاختبارات داخلية أجرتها OpenAI، فإن النماذج الأحدث من ChatGPT أصبحت أكثر عرضة لهذه الأخطاء، حيث أظهرت البيانات أن أحد النماذج اختلق معلومات بنسبة 33% ، بينما بلغت نسبة الأخطاء في نموذج آخر 48%.

تعود هذه المشكلة إلى الطريقة التي يعمل بها الذكاء الاصطناعي، حيث يعتمد على التنبؤ بالكلمات بناءً على الأنماط بدلاً من استرجاع الحقائق الدقيقة. هذا يجعل بعض الإجابات تبدو صحيحة رغم أنها غير دقيقة.

هذا بالإضافة إلى أن التحسينات التي أُدخلت على GPT-4o جعلته أكثر طلاقة في الحديث، مما أدى إلى تقليل استخدام العبارات التحذيرية مثل "لست متأكدًا" ، وهو ما يزيد من احتمالية تقديم معلومات غير صحيحة دون إظهار شكوك.

وتثير هذه الظاهرة مخاوف بشأن موثوقية الذكاء الاصطناعي في المجالات الحساسة مثل القانون والطب، حيث يمكن أن تؤدي المعلومات غير الدقيقة إلى عواقب خطيرة.

و في إحدى الحالات، تم فصل موظف قانوني بعد أن استخدم ChatGPT لإنشاء مستند قانوني يحتوي على مراجع قانونية غير موجودة ، مما أدى إلى فرض عقوبات على الشركة⁽²⁾.

وللتقليل من هذه الأخطاء، ينصح الخبراء المستخدمين بـ التحقق من المعلومات المقدمة من الذكاء الاصطناعي وعدم الاعتماد عليها بشكل كامل دون مراجعة مصادر موثوقة. كما تعمل OpenAI على تحسين نماذجها لتقليل معدل "الهلاوس" وضمان دقة أكبر في الإجابات المستقبلية.

 


هل ترغب بالتعليق على الموضوع؟

*
*
*
ملحوظة
  • التعليقات المنشورة لا تعبر بالضرورة عن رأي الموقع
  • من شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات
المقالات الأكثر مشاهدة

المغرب      |      المصدر: اخبارنا المغربية    (منذ: 2 أسابيع | 2 قراءة)
.