باحثو OpenAI: نماذج اللغة تهلوس لأن مقاييس التقييم والتدريب تكافئ التخمين أكثر من الاعتراف بعدم اليقين.

الحل المقترح: تحديث الاختبارات المعتمدة لتتوقف عن معاقبة الامتناع عند الشك، وتثبيط التخمين.

النماذج تبدو دائماً في “وضع حلّ الاختبارات”؛ الاعتراف بعدم اليقين نادر لأن الدرجات الحالية تعاقبه.

” لدى نماذج اللغة الكبيرة – حالات توليد معلومات غير دقيقة بثقة عالية – وهو أن أساليب التدريب والتقييم السائدة تكافئ التخمين وتُعاقب الاعتراف بعدم اليقين.

نوثنق تضاعف قيمتها إلى 1.3 مليار دولار وتدخل سباق الأجهزة الذكية المدعومة بالذكاء الاصطناعي