مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

19-06-2025
هيكساجون تكشف عن أيون: الروبوت البشري المدعوم من إنفيديا الذي يُحدث ثورة في الأتمتة الصناعية
كشفت Hexagon عن Aeon، وهو روبوت بشري يعمل بتقنية Nvidia وMicrosoft Azure، ومصمم لأتمتة مهام المصانع والبناء، مستفيدًا من الذكاء الاصطناعي والتوائم الرقمية لتعزيز الكفاءة.
ADVERTISEMENT
09-12-2025
5 اتجاهات رئيسية تشكل صعود النظارات الذكية في عام 2025
استكشف خمسة اتجاهات رئيسية تشكل مستقبل النظارات الذكية المدعومة بالذكاء الاصطناعي في عام 2025، مع أمثلة واقعية من جوجل وميتا تدفع تبني الصناعة.
30-05-2025
جوجل Veo 3: هل يهدد الذكاء الاصطناعي الإبداع البشري؟
تثير جوجل Veo 3 قلقًا وجوديًا بشأن مستقبل الإبداع البشري وتأثير الذكاء الاصطناعي على الصناعات الفنية، مع تساؤلات حول قيمة الفن الذي يولده الذكاء الاصطناعي.
28-09-2025
الصين تطلق "معسكرات تدريب" للروبوتات لتسريع تطوير الروبوتات البشرية
تُنشئ الصين "معسكرات تدريب" للروبوتات في المدن الكبرى لتسريع تطوير الروبوتات البشرية من خلال محاكاة بيئات العالم الحقيقي وجمع بيانات تدريب موحدة.
ADVERTISEMENT
08-10-2025
الروبوتات تحتل مركز الصدارة: أبرز محطات المعرض الصناعي الدولي الصيني 2025
اكتشف الإنجازات والابتكارات في معرض الروبوتات لمعرض الصين الدولي للصناعة 2025، مع التركيز على الروبوتات الثقيلة، وتجارة الإنسان الآلي، والتقنيات الخضراء، والتطورات في الذكاء الجماعي.
23-09-2025
أبل تطرح macOS تاهو 26.1 بيتا 1 للمطورين، مع التركيز على الاستقرار
أطلقت آبل macOS تاهو 26.1 بيتا المطور 1، مع التركيز على إصلاحات الأخطاء وتحسينات الاستقرار بعد الإطلاق الرسمي لـ macOS تاهو 26.
25-07-2025
تصميم "الزجاج السائل" من آبل: هل هو ممل لأجهزة الماك؟
يقدم الإصدار التجريبي العام لنظام macOS Tahoe من Apple تصميم "الزجاج السائل"، لكن المراجعات المبكرة تشير إلى أنه تحديث مخيب للآمال لأجهزة Mac، مع مشاعر متباينة حول تأثيره البصري ووظيفته.
ADVERTISEMENT
07-11-2025
المستقبل على وجهك: اتجاهات النظارات الذكية الرئيسية لعام 2025
المستقبل على وجهك: اتجاهات النظارات الذكية الرئيسية لعام 2025
09-09-2025
مادز ميكلسن وبرايان فولر يتعاونان مرة أخرى في 'داست باني'
يعود مادز ميكلسن وبرايان فولر للتعاون في فيلم "دست باني" (أرنب الغبار)، وهو فيلم خيال مظلم حيث يلعب ميكلسن دور قاتل مأجور يساعد فتاة صغيرة على مواجهة الوحوش، الحقيقية والمتخيلة على حد سواء. الفيلم من بطولة سيغورني ويفر وديفيد داستمالشيان أيضًا، ومن المقرر عرضه في 5 ديسمبر.
27-05-2025
آبل تدخل عالم النظارات الذكية: وداعًا للهواتف المحمولة كما نعرفها
آبل تستعد لإطلاق نظارات ذكية جديدة مزودة بالذكاء الاصطناعي وكاميرات مدمجة، مما قد يغير مفهوم الهواتف المحمولة كما نعرفها.
ADVERTISEMENT