مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

السيارة اليومية

السيارة اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

22-08-2025
إنفينيتي تشوق لـ Q50 الجديدة: سيارة سيدان للسائقين بقوة نيسان Z وناقل حركة يدوي
إنفينيتي تعيد إحياء سيارة السيدان Q50 بمحرك V6 مزدوج التوربو من نيسان Z وناقل حركة يدوي، متحولةً عن خطط السيارات الكهربائية للتركيز على عشاق القيادة.
ADVERTISEMENT
16-10-2025
ألفا روميو تونالي فيس ليفت تصل بشبكة أمامية محدثة وخيارات ألوان جديدة
تم الكشف عن ألفا روميو تونالي المحدثة بشبك أمامي وألوان جديدة. تتميز سيارة الدفع الرباعي المدمجة المحدثة بتحسينات خارجية وداخلية، مع خيارات محرك لم تتغير.
04-07-2025
مرسيدس-بنز VLE: إعادة تعريف مجموعة سيارات MPV الكهربائية
تُظهر سيارة VLE الكهربائية متعددة الأغراض الجديدة من مرسيدس-بنز إمكانات مدى رائدة، حيث أكملت رحلة طولها 1090 كيلومترًا بتوقفين للشحن لمدة 15 دقيقة فقط، مما يضع معيارًا جديدًا للمركبات الكهربائية.
23-09-2025
زيادات أسعار فولكس فاجن لعام 2026: ما تحتاج معرفته
ADVERTISEMENT
26-11-2025
2026 دودج دورانجو تعود بخيار V-6 وقوة V-8 محسّنة
استكشف دودج دورانجو 2026 المحدثة، والتي تتميز بعودة محرك V-6، وخيارات جديدة لمحرك Hemi V-8، وحزم مظهر جديدة ومثيرة مثل Blacktop Redline.
27-11-2025
ميتسوبيشي تطلق أقوى شاحنة تريتون على الإطلاق، لكنها حصرية للبرازيل
أطلقت ميتسوبيشي سيارة تريتون سافانا المتينة في البرازيل، والتي تتميز بإكسسوارات حصرية للطرق الوعرة وقدرات محسنة، لكن توفرها يقتصر على 80 وحدة فقط.
14-11-2025
2026 تويوتا تاكوما تشهد زيادة في الأسعار، لكنها تضيف قيمة بميزات قياسية جديدة
استكشف الأسعار المحدثة لسيارة تويوتا تاكوما 2026، والميزات القياسية الجديدة مثل خطاف السحب، وخيارات الألوان الجديدة. تعرف على خيارات المحرك وتفاصيل الإصدار.
ADVERTISEMENT
22-09-2025
911 حديثة تكرم فائزًا منسيًا بسباق لومان
09-09-2025
فوكسهول تستعد لمستقبل رياضي، بدءًا من الجيل القادم من كورسا
فوكسهول تستعد لتبني صورة علامة تجارية أكثر رياضية، مع قيادة الجيل القادم من كورسا لهذه المبادرة. سيتم إطلاق سيارة كورسا الكهربائية القادمة حوالي عام 2027 مع التركيز على الأداء والقدرة على تحمل التكاليف.
09-10-2025
سيارة زيكر الكهربائية الجديدة تسجل رقماً قياسياً مع شحن فائق السرعة في 7 دقائق
كشفت شركة صناعة السيارات الصينية زيكر عن سيارة 001 الكهربائية المحدثة القادرة على الشحن من 10٪ إلى 80٪ في 7 دقائق فقط. اكتشف كيف يمكن لشحنها فائق السرعة وميزاتها الفاخرة أن تعيد تشكيل سوق المركبات الكهربائية.
ADVERTISEMENT