مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

17-07-2025
روبوتات توصيل الوجبات الخفيفة تجوب مترو شنتشن لإعادة تخزين متاجر سفن إيليفن
تقوم الروبوتات المستقلة بركوب مترو أنفاق شنتشن لتوصيل وإعادة تخزين متاجر 7-Eleven، وعرض الخدمات اللوجستية المدفوعة بالذكاء الاصطناعي مع LiDAR، والإرسال الذكي، وتصميم هيكل جديد.
ADVERTISEMENT
26-06-2025
شاحن أنكر متعدد الاستخدامات للسفر معروض للبيع في الوقت المناسب تمامًا للصيف
اكتشف محول السفر Anker Nano، المتوفر الآن للبيع، والذي يوفر شحنًا متعدد الاستخدامات لأكثر من 200 دولة. تعرف على ميزاته وعروض التكنولوجيا الأخرى.
10-11-2025
أهم 5 اتجاهات في الإلكترونيات الاستهلاكية التي يجب مراقبتها بحلول عام 2025
أهم 5 اتجاهات في الإلكترونيات الاستهلاكية التي يجب مراقبتها بحلول عام 2025
23-09-2025
CMF by Nothing تكشف عن سماعة الرأس برو: تم التشويق لأكواب أذن قابلة للتخصيص و"منزلق طاقة" مبتكر
تستعد CMF by Nothing لإطلاق أول سماعات رأس فوق الأذن لها، وهي Headphone Pro، والتي تتميز بأغطية أذن قابلة للتخصيص ومفتاح "منزلق طاقة" فريد للتحكم الصوتي المحسن. اكتشف التفاصيل وموعد الإطلاق المتوقع.
ADVERTISEMENT
12-08-2025
EngineAI تكشف عن SA02: روبوت بشري بقيمة 5,500 دولار مهيأ ليصبح رفيقًا للشباب
تعلن EngineAI عن الإطلاق الوشيك لـ SA02، وهو روبوت بشري آلي بقيمة 5,500 دولار مصمم للشباب، ويهدف إلى إدخال الروبوتات المتقدمة في الحياة اليومية بميزات مثل التفاعل بالذكاء الاصطناعي والتعرف على الإيماءات.
23-05-2025
ترامب يجلب الذكاء الاصطناعي إلى الشرق الأوسط بدلاً من الديمقراطية
تقرير عن زيارة ترامب للشرق الأوسط التي تركز على التكنولوجيا بدلاً من الديمقراطية، مع التركيز على صفقة الرقائق المتقدمة والمنافسة مع الصين.
09-12-2025
ما وراء الألعاب: إطلاق العنان للإمكانيات المتنوعة لجهاز Steam Deck الخاص بك
اكتشف الاستخدامات المدهشة لجهاز Steam Deck غير المتعلقة بالألعاب، بدءًا من محطة عمل محمولة ومشغل وسائط إلى جهاز لإنشاء الموسيقى والمزيد.
ADVERTISEMENT
25-11-2025
مقارنة ميزة البحث التسوق الجديدة في ChatGPT بمساعدي التسوق التقليديين عبر الإنترنت
اكتشف كيف تقارن ميزة التسوق الجديدة بالذكاء الاصطناعي في ChatGPT بالمساعدين التقليديين عبر الإنترنت، مع التركيز على الأداء ومصادر البيانات وتخصيص المستخدم.
18-06-2025
جوجل تطلق نماذج Gemini 2.5 AI الجاهزة للإنتاج، مما يكثف التحدي لـ OpenAI
تطلق جوجل نماذج Gemini 2.5 AI الجاهزة للإنتاج، بما في ذلك Pro و Flash و Flash-Lite، لتحدي هيمنة OpenAI على الشركات من خلال تعزيز التفكير والعروض المتدرجة والتسعير القوي.
11-08-2025
روبوتات أكثر ذكاءً للصناعة 5.0: الذكاء الاصطناعي يعزز التعاون بين الإنسان والروبوت
اكتشف كيف يُحدث التوليد المعزز بالاسترجاع والشبكات العصبية التحويلية ثورة في التفاعل بين الإنسان والروبوت في مجال التصنيع من أجل الصناعة 5.0، مما يؤدي إلى روبوتات أكثر ذكاءً وقدرة على التكيف.
ADVERTISEMENT