مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

24-11-2025
ChatGPT-5.1 يهيمن على Grok 4.1 في معركة الذكاء الاصطناعي وجهاً لوجه، حسبما أعلنت Tom's Guide
يتفوق ChatGPT-5.1 بشكل حاسم على Grok 4.1 في اختبار شامل لمعايير الذكاء الاصطناعي من Tom's Guide، مما يظهر إبداعًا وقدرة على الاستدلال وفائدة عملية فائقة.
ADVERTISEMENT
27-05-2025
سوق ألياف الكربون للروبوتات البشرية يشهد نموًا مذهلاً بنسبة 35.0% حتى عام 2031
سوق ألياف الكربون للروبوتات البشرية يشهد نموًا مذهلاً بنسبة 35.0% حتى عام 2031، مع توقعات بزيادة الطلب في مختلف الصناعات.
02-02-2026
فيوجي فيلم تتبنى عدسات الطرف الثالث، وتصلح قيود ماضي X-Mount
بات حامل X من فوجي فيلم الآن أكثر انفتاحًا على عدسات التركيز التلقائي من جهات خارجية، وهي خطوة تصحح خطأً كبيرًا سابقًا وتوسع الخيارات للمصورين. اكتشف النظام البيئي المتنامي للعدسات.
03-06-2025
مارك هاميل يغلق باب العودة إلى "حرب النجوم" ولوك سكاي ووكر
مارك هاميل يعلن عدم نيته العودة إلى دور لوك سكاي ووكر في "حرب النجوم"، ويدعو إلى التركيز على الشخصيات الجديدة ومستقبل السلسلة.
ADVERTISEMENT
28-01-2026
أبل تكشف عن AirTag 2: تتبع محسّن، صوت أعلى، وميزات خصوصية جديدة
جهاز AirTag 2 من Apple هنا مع ترقيات كبيرة تشمل تحديد الموقع بدقة محسّن، ومكبر صوت أعلى، وميزات خصوصية محسّنة. اكتشف ما هو جديد وما بقي كما هو.
22-10-2025
مصباح يدوي يعمل بنظام أندرويد بتصميم أذكى وواقعي
تحصل الإعدادات السريعة لنظام أندرويد على تحديث بصري لميزة المصباح، مع شريط تمرير جديد مصمم ليبدو ويتصرف مثل مصباح يدوي حقيقي. تعرف على المزيد حول هذا التحسين القادم.
17-11-2025
مستقبل التعلم: اتجاهات رئيسية في تكنولوجيا التعليم المدعومة بالذكاء الاصطناعي بحلول عام 2025
مستقبل التعلم: اتجاهات رئيسية في تكنولوجيا التعليم المدعومة بالذكاء الاصطناعي بحلول عام 2025
ADVERTISEMENT
25-09-2025
لحظة مابتسية مذهلة: شركة جيم هينسون تطرح للمزاد دمى وإكسسوارات أيقونية
تقيم شركة جيم هينسون أول مزاد علني لها على الإطلاق لدمى كلاسيكية وأزياء وإكسسوارات من إنتاجات محبوبة مثل ذا مابيتس ومتاهة وذا دارك كريستال، احتفالاً بالذكرى السبعين لتأسيسها.
04-12-2025
أطلقت أوبر خدمة الروبوت تاكسي في دالاس، مع وجود سائق بشري خلف عجلة القيادة... في الوقت الحالي
أطلقت أوبر خدمة الروبوتكسي الخاصة بها في دالاس، تكساس، مع إشراف بشري في البداية. تعرف على منطقة الخدمة، والتسعير، وخطط أوبر المستقبلية في سوق المركبات ذاتية القيادة التنافسي.
27-11-2025
أهم 10 اتجاهات رئيسية في سياسات ولوائح صناعة الذكاء الاصطناعي بحلول عام 2025
اكتشف أهم 10 اتجاهات تشكل المشهد السياسي والتنظيمي لصناعة الذكاء الاصطناعي بحلول عام 2025، بما في ذلك معارك الضغط، ومناقشات السلامة، والأدوار الرئيسية للشركات.
ADVERTISEMENT