مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

02-12-2025
الاتجاهات الرئيسية: كيف تشير الدبلجات التي تم إنشاؤها بواسطة الذكاء الاصطناعي للأنمي إلى تحول في الصناعة
استكشف صعود الدبلجة التي تم إنشاؤها بواسطة الذكاء الاصطناعي للأنمي، والاتجاهات الرئيسية في الصناعة، وحالات واقعية من أمازون وكرانشي رول، والتأثير على الجودة والمواهب والمحتوى.
ADVERTISEMENT
04-07-2025
ضائع في الفضاء: قمر صناعي "يغير قواعد اللعبة" لرصد الانبعاثات يختفي
قمر صناعي بقيمة 88 مليون دولار، MethaneSAT، مصمم لتتبع انبعاثات الميثان العالمية بدقة، توقف عن العمل بشكل غير متوقع بعد 15 شهرًا فقط في المدار. هذه الخسارة تمثل انتكاسة كبيرة لجهود مراقبة المناخ.
15-08-2025
تلفزيون أبل يستعد لترقية بشريحة A17 Pro وسط تداعيات تسوية بقيمة 490 مليون دولار
تستعد آبل لإطلاق جهاز Apple TV جديد بمعالج A17 Pro في عام 2025، واعدةً بتحسينات في الألعاب والميزات، بينما لا تزال تتعامل مع تسوية بقيمة 490 مليون دولار بشأن إفصاحات طلب iPhone في الصين.
29-10-2025
مستقبل المنزل الذكي من جوجل معلق في الميزان مع إطلاق Gemini
مستقبل المنزل الذكي من جوجل على المحك مع إطلاق Gemini for Home، مساعد مدعوم بالذكاء الاصطناعي مصمم لإصلاح المشكلات السابقة وفتح عصر جديد من المعيشة الذكية. تعرف على الوعود والتكاليف المحتملة وما يعنيه هذا لطموحات جوجل في مجال المنزل الذكي.
ADVERTISEMENT
14-11-2025
أهم اتجاهات الذكاء الاصطناعي والواقع الممتد التي يجب مراقبتها بحلول عام 2025
أهم اتجاهات الذكاء الاصطناعي والواقع الممتد التي يجب مراقبتها بحلول عام 2025
04-06-2025
نينتندو سويتش 2: مقارنة مفصلة للحجم
استكشف الأبعاد المادية لشاشة Nintendo Switch 2 وسمكها ووزنها مقارنةً بـ Switch الأصلي و Steam Deck، مع إبراز تصميمها وراحتها.
16-09-2025
أبل تكشف النقاب عن macOS تاهو 26: سبوتلايت مُحسّن، تطبيق هاتف جديد، وتصميم الزجاج السائل
تطلق آبل نظام macOS تاهو 26 مع إعادة تصميم شاملة لواجهة المستخدم، وبحث Spotlight محسّن، وتطبيق هاتف جديد لدمج المكالمات بسلاسة.
ADVERTISEMENT
23-05-2025
مايكروسوفت تحول ويندوز إلى منصة ذكية للويب الجديد
مايكروسوفت تعلن عن تحول ويندوز إلى منصة ذكية، مع إدخال بروتوكول جديد وأدوات مبتكرة لتعزيز تجربة المستخدم في عصر الذكاء الاصطناعي.
26-06-2025
الذكاء الاصطناعي يحيي فيلم 'ساحر أوز' في ذا سفير، مما يثير جدلاً حول الحفاظ على الأفلام
يأتي فيلم ساحر أوز إلى ذا سفير في لاس فيغاس، باستخدام الذكاء الاصطناعي لتكييف الفيلم الكلاسيكي مع المكان الغامر. تثير هذه الخطوة جدلاً حول الحفاظ على الأفلام والتحسين التكنولوجي.
16-12-2025
الاتجاهات الرئيسية في إصدارات iOS و iPadOS التجريبية من Apple: ما يحتاج المطورون ومراقبو الصناعة إلى معرفته
استكشف الاتجاهات الرئيسية في إصدارات iOS و iPadOS التجريبية من Apple: الاستقرار، ملاحظات المطورين، التحديثات المرنة، واستراتيجيات الإصدار التجريبي العام، في 600 كلمة.
ADVERTISEMENT