الهلوسة ليست قاصرة على الذكاء الاصطناعي وحده
المصدر: جون ثورنهيل التاريخ: 29 أبريل 2024 ت + ت - الحجم الطبيعي أقر هنا واعترف بأن ذاكرتي ليست ممتازة، فقد أنسى بعض الأشياء، ويختلط علي الأمر في أمور أخرى، وأحياناً ما أتذكر أحداثاً لم تقع قط.
كذلك، اعتقد أن بعض قراء «فايننشال تايمز» ربما يكونون أحياناً مشوشي الذهن مثلي، هذا هو ما يوصف بأنه هلوسة بشرية.
نتحدث كثيراً عن هلوسة نماذج الذكاء الاصطناعي التوليدي في بيان الحقائق.
ننفر من المحامي الذي يرفع مستندات في قضية ما إلى هيئة المحكمة لكن تحتوي على قضايا مختلقة من بنات أفكار «تشات جي بي تي».
ذُهِلَ أحد الزملاء في «فايننشال تايمز» عندما طلب إلى روبوت الدردشة إنتاج رسم بياني يفصل تكاليف تدريب نماذج الذكاء الاصطناعي التوليدي، فوجد أن أكثرها تكلفة ليس موجوداً من الأساس، ما لم يكن على اطلاع على معلومات داخلية.
ومثلما يكتشف كل مستخدم، فإن هذه النماذج ليست موثوقة، شأنها شأن البشر.
لكن السؤال المثير للاهتمام هو: هل الآلات قابلة للإصلاح أكثر منا؟ نعم، ربما تكون إعادة كتابة الكود أسهل من إعادة تشكيل المخ البشري.
إن واحدة من أفضل الأمثلة على كون الذاكرة البشرية غير قبلة للخطأ هي الشهادة التي أدلى بها جون دين، المستشار القانوني للبيت الأبيض إبان إدارة ريتشارد نيكسون.
وفي جلسات الاستماع ذات الصلة بـ «ووترغيت» عام 1973، كان دين معروفاً باسم «جهاز التسجيل البشري» بفضل ذاكرته الاستثنائية.
لكن لم يكن دين على علم بأن نيكسون ذاته كان قد ركب جهاز تسجيل حقيقي في المكتب البيضاوي.
وتمكن الباحثون بفضل هذا من مقارنة الروايات التي أدلى بها دين عن محادثات حاسمة بالنسخ المكتوبة.
وفي ورقة بحثية تعرضت بالتحليل لشهادة دين صدرت في 1981، سلط عالم النفس أولريك نيسير، الضوء على عدة هفوات جسيمة وإعادة تفسير للمحادثات التي وردت بحديث المحامي، وأشار إلى صعوبة تحديد الحقيقة والدقة.
وفي ورقته، ميز نيسير بين الذاكرتين الدلالية والعرضية.
أصاب دين تقريباً في تذكر الفحوى العامة لمحادثاته ونيكسون، وكذلك طبيعة التستر على «ووترغيت»، حتى وإن كان مخطئاً على وجه الخصوص حيال تفاصيل نقاط بعينها.
يمكن للمرء التحدث عن فعل النماذج اللغوية الكبيرة للعكس، إذ يجب أن تتمتع بذاكرة عرضية جيدة بالنظر إلى استيعابها كافة البيانات، لكن المدخلات الخاطئة ستولد مخرجات خاطئة.
ومع ذلك، تظل هذه النماذج تعاني ذاكرة دلالية ضعيفة.
وفي حين يمكن لنموذج لغوي كبير تلخيص التسجيلات في المكتب البيضاوي على نحو أكثر دقة مقارنة بما استذكره دين عن المحادثات بعد مرور أشهر عليها، لكنها لن يكون لديها فهم سياقي لأهمية هذا المحتوى.
ويعمل الباحثون على طرق تمكنهم من إدخال مزيد من التحسينات على الذاكرة العرضية لنماذج الذكاء الاصطناعي وتقليل هلوساتها.
واقترحت ورقة بحثية صدرت عن باحثي «غوغل ديب مايند»، منهجية جديدة أطلقوا عليها «سيف»، وهي اختصار لعبارة مقيم الوقائع المعزز بالبحث.
وتقسم الاستجابات المولدة عن طريق النماذج إلى جمل تأسيسية تخضع بعد ذلك للتحقق عن طريق بحث «غوغل»، تحققاً من صحة ما تورده من وقائع.
وتدعي الورقة البحثية، أن هذا النظام التجريبي يتخطى في أدائه متقصيي الوقائع من البشر من حيث الدقة، كما أنه أرخص بعشرين مرة.
أخبرني كووك لي، أحد مؤلفي الورقة البحثية: «سنكون قادرين في غضون أعوام قليلة على التحقق من صحة الناتج الذي تولده النماذج اللغوية الكبيرة بدرجة جيدة، اعتقد في أن هذا مفيد للغاية».
ويرى لي أن الهلوسات تعد سمة من سمات النماذج اللغوية الكبيرة، يمكن الاحتفاء بها عندما يتعلق الأمر بالابتكار، وقد تكون نقمة يجب وضع حد لها عندما يتعلق الأمر بالحقائق.
وفي الوقت ذاته، يمكن للنماذج اللغوية الكبيرة أن تخلط بين الابتكار والواقعية.
فعلى سبيل المثال، طرحت سؤالاً على «كو بايلوت» الذي أنتجته «مايكروسوفت بينغ» لينبئني بالرقم القياسي العالمي لعبور القناة الإنجليزية سيراً على الأقدام، فأجابني واثقاً: «يحمل الألماني كريستوف فاندراتش الرقم القياسي العالمي لعبور القناة الإنجليزية بأسرها سيراً على الأقدام، وانتهى من عبورها خلال 14 ساعة و51 دقيقة يوم 14 أغسطس 2020».
ليس ذلك فحسب، بل أورد النموذج إسناداً يؤكد صحة هذه الحقيقة.
ولسوء الحظ، فقد تبين أن الإسناد الذي أورده النموذج إنما كان من مقال نشر العام الماضي، يسلط الضوء على الهلوسات التي يولدها «تشات جي بي تي».
تعتقد ماريا شنيل، كبيرة مسؤولي اللغات لدى «آر دبليو إس»، أنه لا يجب علينا التركيز على كيفية توليد المحتوى فحسب، وإنما أيضاً على كيفية إيصاله.
وتعمل الشركة على تقديم خدمات نصية وترجمات مدعومة بالتكنولوجيا لأكثر من 8.
000 عميل بـ 548 مجموعة لغوية.
وفي عالم تتوفر فيه النصوص وتنتشر ويقل سعرها على نحو متزايد، سيكون العامل الأكثر أهمية هو تخصيص المعلومات لجمهور بعينه بهيئة ولغة وسياق ثقافي يفهمونه، وسيتطلب ذلك تدخلاً بشرياً.
وذكرت شنيل: «من السهل نسبياً أتمتة الدقة، لكن الوجاهة ليست أمراً مفروغاً منه»، وأضافت: «يتعين علينا التفكير في كيفية تلقي المحتوى، وهذا هو الشق الذي يواجه في الذكاء الاصطناعي صعوبة».
ولذلك، يمكن للبشر والآلات العمل معاً وبنجاح، من أجل إبراز قدراتهم المختلفة، وتقليل عيوبهم النسبية في الوقت الراهن على الأقل.
كلمات دالة: FT فيسبوك تويتر لينكدين Pin Interest Whats App
الامارات
4 قراءة) 
