خلل عفريت شات جي بي تي: تحليل لسلوك الذكاء الاصطناعي غير المقصود

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/05/2026

button icon
ADVERTISEMENT

كشفت الملاحظات الأخيرة لنماذج ChatGPT من OpenAI عن ميل غريب لدمج مصطلحات مثل "عفريت" و "جريمبل" ومخلوقات أسطورية أخرى في الردود. هذا الشذوذ، الذي كان في البداية ملاحظة غريبة من قبل المستخدمين، دفع إلى تحقيق داخلي من قبل OpenAI، والذي فصّل الآن الأصول التقنية لهذا السلوك غير المتوقع والإجراءات التصحيحية المتخذة.

ظهور خلل رقمي

بدأت القضية في لفت الانتباه بشكل كبير بعد إصدار GPT-5.1 في نوفمبر. أكد مراجعة داخلية زيادة كبيرة في استخدام كلمات محددة وغير عادية. أظهرت البيانات أن ذكر كلمة "عفريت" قد ارتفع بنسبة 175٪، بينما شهدت كلمة "جريمبل" زيادة بنسبة 52٪. لم يكن السلوك حادثًا معزولًا؛ بل أصبح أكثر وضوحًا مع الإصدار اللاحق لـ GPT-5.4 في مارس، حيث أبلغ بعض المستخدمين عن ظهور المصطلحات بتردد عالٍ في تفاعلاتهم مع النموذج.

ADVERTISEMENT

تتبع أصل الشذوذ

حلل تحليل OpenAI السبب الجذري لتكوين معين ضمن معلمات تدريب النموذج. نشأ السلوك من إعداد شخصية "متعصبة" (Nerdy)، والذي تضمن مطالبة نظامية توجه النموذج إلى "تقويض الادعاء من خلال الاستخدام المرح للغة". خلال مرحلة التعلم المعزز، وُجد أن إشارة مكافأة معينة تفضل المخرجات التي تحتوي على كلمات مثل "عفريت" و "جريمبل". هذه الآلية قامت بتقييم الردود التي تحتوي على هذه المصطلحات بشكل أعلى من المخرجات الأخرى المماثلة التي تفتقر إليها. هذه الظاهرة، المعروفة باسم "تشنج الأسلوب" (style tic)، بدأت في التعميم، وانتشرت خارج نطاق شخصية "متعصبة" الأصلية وأثرت على سلوك النموذج في سياقات غير ذات صلة.

ADVERTISEMENT

تدابير تصحيحية ورؤى تقنية

لمعالجة المشكلة، نفذت OpenAI حلاً متعدد الأوجه. قامت الشركة بإلغاء إعداد شخصية "متعصبة"، وأزالت إشارة المكافأة المحددة التي شجعت المفردات المتعلقة بالمخلوقات، وقامت بتصفية مجموعات بيانات التدريب لإزالة حالات هذه الكلمات. ومع ذلك، نظرًا لأن تدريب GPT-5.5 قد بدأ بالفعل قبل تحديد السبب الجذري بالكامل، كان هناك حاجة إلى نهج أكثر مباشرة لهذا النموذج. أضاف المطورون تعليمات صريحة إلى مطالبة النظام الخاصة به، توجهه لتجنب ذكر العفاريت والجريمبل والمخلوقات الأخرى من هذا القبيل ما لم تكن ذات صلة مباشرة باستعلام المستخدم. تعتبر هذه الحالة مثالًا هامًا على كيفية تشكيل إشارات المكافأة في تدريب الذكاء الاصطناعي لسلوك النموذج بطرق غير متوقعة، مما يوضح كيف يمكن لمكافآت التدريب المحددة أن تعمم عبر وظائف النموذج.

قراءة مقترحة

22-04-2026
إطار الكمبيوتر المحمول 13 برو يرفع التعديل إلى الشريحة الممتازة
نظرة موضوعية على جهاز Framework Laptop 13 Pro الجديد، وهيكله المصنوع من الألومنيوم المشغول عالي الجودة، وشاشته بتردد 120 هرتز، وأداء معالج Intel Core Ultra، وتحديه لجهاز MacBook Pro للمطورين.
ADVERTISEMENT
24-04-2026
ما وراء الدردشة: كيف يعيد ChatGPT 5.5 تعريف دور الذكاء الاصطناعي في العمل
استكشف الاتجاهات الرئيسية التي تم الكشف عنها مع ChatGPT 5.5 من OpenAI، بما في ذلك صعود الذكاء الاصطناعي الوكيل، والأمن السيبراني الاستباقي، والدور الجديد للذكاء الاصطناعي كشريك في البحث.
28-04-2026
هبوط أرتميس 3 على سطح القمر يؤجل إلى أواخر عام 2027، ناسا تؤكد
من المقرر الآن إطلاق مهمة "أرتميس 3" التابعة لناسا، والتي تهدف إلى إنزال رواد فضاء على سطح القمر، في أواخر عام 2027 على أقرب تقدير بسبب التحديات التي تواجه تطوير مركبة الهبوط على سطح القمر.
28-04-2026
كيف أصبحت المحافظ الرقمية مساعدك الشخصي للسفر
اكتشف الاتجاهات الرئيسية التي تحول المحافظ الرقمية من أدوات دفع إلى مساعدي سفر أذكياء، تتميز بمسارات رحلات آلية وتحديثات في الوقت الفعلي وأمان معزز.
ADVERTISEMENT
29-04-2026
يوتيوب تي في يطلق عرضًا متعدد المشاهدات قابل للتخصيص بالكامل لجميع القنوات
أطلقت YouTube TV رسميًا ميزة العرض المتعدد المخصصة بالكامل، مما يسمح للمستخدمين بخلط ومطابقة أي قنوات مباشرة. تعرف على القدرات الجديدة وقيودها.
30-04-2026
سان فرانسيسكو تقدم الآن روبوتات قتال "شبيهة بالبشر" للشراء
يمكن لسكان سان فرانسيسكو الآن شراء روبوتات قتال "شبيهة بالبشر"، مما يمثل حدودًا جديدة في مجال الروبوتات الاستهلاكية والترفيه التنافسي.
30-04-2026
ما وراء التسوية: ماذا يعني دفع جوجل لمستقبل التكنولوجيا
تسلط تسوية جوجل البالغة 135 مليون دولار الضوء على اتجاهات تقنية رئيسية: زيادة المساءلة عن خصوصية البيانات، والطلب على تحكم المستخدم، والمخاطر المالية الكبيرة للشركات.
ADVERTISEMENT
01-05-2026
يونيتري تخفض سعر الروبوت الشبيه بالبشر إلى 4,290 دولارًا، مشعلة سباق الذكاء الاصطناعي المتجسد
تطلق Unitree Robotics روبوتًا بشريًا مزدوج الذراع بسعر 4,290 دولارًا، مما يجعل أبحاث الذكاء الاصطناعي المتجسد المتقدمة أكثر سهولة ويسر، ومن المحتمل أن يسرع الابتكار في هذا المجال.
01-05-2026
1X تطلق الإنتاج الضخم للروبوت البشري نيو، لتبدأ حقبة جديدة من الأتمتة
بدأت شركة الروبوتات النرويجية 1X الإنتاج الضخم لروبوتها الشبيه بالبشر نيو، بهدف نشر الآلاف وإحداث ثورة في الصناعات من خلال الأتمتة المتقدمة.
01-05-2026
سيراك طبيب الذكاء الاصطناعي الآن: عصر جديد في التشخيص الطبي
استكشف كيف يتفوق الذكاء الاصطناعي المتقدم مثل o1-preview من OpenAI على الأطباء في التشخيص، والدفع نحو التعاون بين الإنسان والذكاء الاصطناعي، والعقبات الحرجة المتعلقة بالسلامة.
ADVERTISEMENT