مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

16-06-2025
لوحة المفاتيح بقيمة 3600 دولار: داخل سعي ريان نورباور للحصول على جهاز 'نهاية اللعبة'
استكشف إنشاء لوحة مفاتيح Seneca التي تبلغ تكلفتها 3600 دولار من قبل ريان نورباور، مع تفصيل تصميمها المخصص وابتكاراتها الهندسية والفلسفة وراء بناء تجربة الكتابة "النهائية".
ADVERTISEMENT
14-11-2025
جرس الباب بالفيديو من Ring ينخفض إلى خصم 50% في الجمعة السوداء على أمازون
جرس الباب المرئي من Ring متاح بخصم 50% على أمازون في الجمعة السوداء، بسعر 49 دولارًا فقط. تعرف على ميزاته، وكيفية تركيبه، والمزيد.
22-10-2025
مصباح يدوي يعمل بنظام أندرويد بتصميم أذكى وواقعي
تحصل الإعدادات السريعة لنظام أندرويد على تحديث بصري لميزة المصباح، مع شريط تمرير جديد مصمم ليبدو ويتصرف مثل مصباح يدوي حقيقي. تعرف على المزيد حول هذا التحسين القادم.
18-08-2025
جيميل تحت الحصار: قراصنة يستغلون التنبيهات الأمنية لسرقة حسابات المستخدمين
تُصدر جوجل تحذيرًا حاسمًا بشأن تصاعد محاولات اختراق حسابات Gmail. تعرّف على كيفية استخدام مجرمي الإنترنت لتنبيهات أمنية مزيفة لسرقة بيانات اعتماد تسجيل الدخول الخاصة بك وكيفية حماية حسابك.
ADVERTISEMENT
05-09-2025
TikTok تتعاون مع فاندانغو: يمكنك الآن شراء تذاكر الأفلام مباشرة داخل التطبيق
TikTok و Fandango يطلقان مبيعات تذاكر الأفلام داخل التطبيق، مع العرض الأول لفيلم Tron: Ares من ديزني. تعرف على كيفية تمكن المستخدمين الآن من شراء التذاكر مباشرة عبر TikTok وماذا تعني هذه الشراكة لمحبي السينما.
26-05-2025
ملاكمة الروبوتات: إنجازات مذهلة لروبوتات صينية في حلبة الملاكمة
ملاكمة الروبوتات: إنجازات مذهلة لروبوتات صينية في حلبة الملاكمة.
11-08-2025
ثورة الروبوتات في الصين: دفعة وطنية شاملة للهيمنة على الروبوتات الشبيهة بالبشر
استكشف استراتيجية الصين الشاملة "للأمة بأكملها" للسيطرة على سوق الروبوتات العالمي، مع التركيز على الروبوتات البشرية، والتقدم التكنولوجي، والدور الحاسم لدمج قطاعي السيارات الكهربائية والتكنولوجيا.
ADVERTISEMENT
09-09-2025
شاهد الرقصة السماوية: خسوف قمري كلي يزين سماء الليل
تعرف على كل شيء عن الخسوف الكلي للقمر الذي يحدث الليلة، بما في ذلك مراحله، وتأثير "القمر الدموي"، وإمكانية الرؤية، وكيفية مشاهدة هذا الحدث الفلكي النادر.
19-08-2025
جوجل ترجمة تستعد لقفزة في الذكاء الاصطناعي بنماذج متقدمة وتعلم قائم على الألعاب
يُقال إن ترجمة جوجل (Google Translate) تحصل على ترقية كبيرة بالذكاء الاصطناعي مع نماذج ترجمة متقدمة وميزات تعلم محببة شبيهة بـ "دوولينجو" (Duolingo)، مما يعزز الدقة ومشاركة المستخدم.
14-08-2025
وضع الفأرة في Switch 2 يتألق في Drag x Drive
Drag x Drive لجهاز سويتش 2 تستعرض ضوابط وضع الفأرة المبهرة، مقدمةً تجربة فريدة لكرة السلة على الكراسي المتحركة مع ردود فعل لمسية وآليات لعب عميقة.
ADVERTISEMENT