مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

04-01-2026
الاتجاهات الرئيسية في الروبوتات الشبيهة بالبشر: سلسلة Wanda من UniX AI تنتقل من العرض التوضيحي إلى النشر في العالم الحقيقي
استكشف الاتجاهات الرئيسية في مجال الروبوتات الشبيهة بالبشر مع انتقال روبوتات Wanda من UniX AI من مرحلة العرض التوضيحي إلى الخدمة التجارية. رؤى للمهنيين التقنيين والمستثمرين.
ADVERTISEMENT
12-12-2025
نينتندو سويتش 2 تواجه ضغوطًا سعرية وسط نقص مستمر في ذاكرة الوصول العشوائي
يواجه جهاز Nintendo Switch 2 زيادات محتملة في الأسعار بسبب نقص ذاكرة الوصول العشوائي والتخزين، حيث يتجاوز الطلب على الذكاء الاصطناعي المعروض من ذاكرة المستهلك. اكتشف الحقائق وتأثير السوق.
20-11-2025
سامسونج جالاكسي تاب A9+ يصل إلى أدنى مستوى له على الإطلاق، متحديًا هيمنة آيباد
انخفض سعر جهاز Samsung Galaxy Tab A9+ إلى أدنى مستوى له على الإطلاق عند 149 دولارًا، مما يوفر بديلاً جذابًا لأجهزة iPad بشاشته مقاس 11 بوصة ومكبرات الصوت الرباعية وميزاته القوية.
05-11-2025
نوماد ترفع مستوى الشحن مع حوامل MagSafe الجديدة بقوة 25 واط بتقنية Qi2.2
نوماد ترفع مستوى الشحن مع حوامل MagSafe الجديدة بقوة 25 واط بتقنية Qi2.2
ADVERTISEMENT
22-09-2025
شائعات جهاز ماك بوك بشاشة لمس مستمرة: قد تستعد أبل لشاشة OLED
استكشف أحدث الشائعات حول جهاز ماك بوك المحتمل من آبل بشاشة لمس OLED، وماذا يعني ذلك لمستقبل تشكيلة أجهزة الكمبيوتر المحمولة الخاصة بهم.
07-07-2025
الروبوتات الشبيهة بالبشر في الفنادق: سلاح ذو حدين من الابتكار والقلق
استكشف الاتجاه المتزايد للروبوتات الشبيهة بالبشر في الفنادق، مع فحص فوائدها وتحدياتها مثل تأثير "الوادي الغريب"، ومستقبل التعاون بين الإنسان والروبوت في مجال الضيافة.
18-12-2025
موسك يغير الجدول الزمني للذكاء الاصطناعي العام مرة أخرى: يتوقع 2026 بعد تفويت هدف 2025
إيلون ماسك يراجع توقعه للذكاء الاصطناعي العام (AGI) إلى عام 2026، بعد أن فاته هدف عام 2025. استكشف السياق والتعريفات والدوافع المحتملة وراء جداوله الزمنية المتطورة.
ADVERTISEMENT
18-08-2025
تينج إنجينيرينج تكشف عن علبة حاسوب أنيقة وسط جولة في أخبار التكنولوجيا والترفيه
استكشف أحدث أخبار التكنولوجيا والترفيه، بما في ذلك حافظة الكمبيوتر الشخصي الجديدة من Teenage Engineering، وإكسسوارات Fairphone المستدامة، وإصدارات الألعاب الجديدة، وتوصيات المجتمع.
19-01-2026
ويز سكيل ألترا بودي سكان: تحليل قياسات الجسم القطاعية في موازين المستهلك
مقارنة شاملة للميزات التقنية لمقياس Wyze Scale Ultra BodyScan، وتحليل قطاعي، وأدائه في سوق المقاييس الذكية الاستهلاكية.
17-06-2025
واتساب يتبنى الإعلانات المدعومة بالذكاء الاصطناعي: حقبة جديدة لعملاق المراسلة
يقدم واتساب إعلانات مدعومة بالذكاء الاصطناعي إلى منصته، تظهر في اقتراحات الحالة والقنوات، مما يمثل تحولًا كبيرًا في استراتيجية تحقيق الدخل الخاصة به.
ADVERTISEMENT