مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

30-09-2025
يتيح لك ChatGPT الآن شراء المنتجات مباشرة: إطلاق فوري للدفع مع Etsy و Shopify
تقدم OpenAI ميزة الدفع الفوري لـ ChatGPT، مما يتيح للمستخدمين شراء المنتجات مباشرة من Etsy و Shopify داخل روبوت الدردشة المدعوم بالذكاء الاصطناعي. تعرف على كيفية عمل هذه الميزة وتأثيراتها على التجارة الإلكترونية.
ADVERTISEMENT
09-12-2025
وداعات خيالية لعام 2025: اتجاهات رئيسية في صناعة الترفيه
استكشف اتجاهات الترفيه الرئيسية لعام 2025: نهايات رئيسية للمسلسلات التلفزيونية والأنمي، وأنماط الإلغاء، ورحيل الشخصيات، وما تعنيه لتطور الصناعة.
15-12-2025
ستة أشهر في: اتجاهات الصناعة الرئيسية التي كشف عنها تطور Nintendo Switch 2
اكتشف الاتجاهات الرئيسية للصناعة التي كشفت عنها ستة أشهر من Nintendo Switch 2، بدءًا من التحسين الخاص بالأجهزة إلى تطوير الألعاب المرتكزة على المنصة والتحولات الرقمية.
10-06-2025
كشف غرفة الصدى: لماذا تعزز روبوتات الدردشة المدعومة بالذكاء الاصطناعي معتقداتك
تكشف دراسة جديدة لماذا غالبًا ما تعزز روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT المعتقدات الحالية، مما يقود المستخدمين إلى متاهات معلوماتية. تعرف على كيفية مساهمة تحيزات المستخدم وتصميم المنصة في "تأثير البحث الضيق" هذا واكتشف استراتيجيات للحصول على مجموعة أكثر توازنًا من المعلومات.
ADVERTISEMENT
14-10-2025
ساعة جالاكسي واتش 7 تحصل على قوة Wear OS 6 مع تحديث One UI 8
تتلقى سلسلة Galaxy Watch 7 من سامسونج الآن تحديث One UI 8 المستند إلى Wear OS 6، مما يجلب ميزات جديدة وتحسينات على الواجهة. تعرف على المزيد حول طرح التحديث وما يمكن توقعه.
26-11-2025
طائرة ناسا النفاثة الأسرع من الصوت X-59 تحلق: عصر جديد من السرعة الهادئة
استرجع الرحلة الأولى لطائرة ناسا النفاثة الأسرع من الصوت الهادئة X-59 مع فيديو مثير ومقال مفصل. تعرف على تصميمها المبتكر وإمكانياتها المستقبلية للسفر الجوي التجاري.
18-12-2025
الاتجاهات الرئيسية في مساعدي الصوت للمنزل الذكي: حالة Gemini للمنزل
استكشف الاتجاهات الرئيسية في مساعدي الصوت للمنزل الذكي مع Gemini للمنزل: الترقيات التدريجية، وقيود الذكاء الاصطناعي، والتوافق العالمي، والميزات المدفوعة، وفجوات قابلية الاستخدام.
ADVERTISEMENT
23-09-2025
TCL تطلق أجهزة تلفزيون جوجل الجديدة المزودة بذكاء اصطناعي Gemini ومستشعرات وجود mmWave
تلفزيونات Google الجديدة من سلسلة QM9K من TCL متاحة الآن، وتتميز بتقنية Gemini AI ومستشعر وجود mmWave لتعزيز تفاعل المستخدم والوظائف الذكية. تعرف على المزيد حول الأسعار والميزات.
20-01-2026
تحديث جهاز MacBook Pro M5 القوي من Apple: متى تتوقع طرازي M5 Pro و M5 Max
اكتشف موعد إصدار Apple المتوقع لطرازات MacBook Pro الأكثر قوة M5 Pro و M5 Max، مع أدلة من تأخيرات الشحن والتكهنات المحتملة لموعد الإطلاق.
17-11-2025
مصابيح Philips Hue الذكية تشهد انخفاضًا غير مسبوق في الأسعار على أمازون
تتوفر مصابيح Philips Hue A19 الذكية بسعر منخفض على الإطلاق يبلغ 99 دولارًا لثلاث عبوات على أمازون، مما يوفر خصمًا نادرًا على نظام الإضاءة الذكية الشهير.
ADVERTISEMENT