مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

15-07-2025
يتفاعل مستخدمو X بعدم تصديق مع ميزة الرفيق الجديد "المخيفة" للذكاء الاصطناعي من إيلون ماسك
تقدم منصة X التابعة لإيلون ماسك ميزة "Companions" الجديدة، وهي ميزة ذكاء اصطناعي مع صورة رمزية بأسلوب الأنمي، مما أثار جدلاً حول طبيعتها "المخيفة" وتأثيرها المحتمل على المستخدمين.
ADVERTISEMENT
29-07-2025
سان دييغو كوميك كون 2025: ملخصك الشامل لكل ما هو رائع للمهوسين
استرجع حماس كوميك كون سان دييغو 2025 مع ملخص شامل لجميع أخبار الأفلام، والبرامج التلفزيونية، والقصص المصورة، والعروض الدعائية، والبضائع، بالإضافة إلى أبرز فعاليات الأجنحة، والتجارب، والأزياء التنكرية.
14-08-2025
Vbot و EVE Energy يبرمان تحالفًا لبطاريات الروبوتات المتقدمة
تتعاون Vbot مع EVE Energy لتطوير بطاريات عالية الأداء للروبوتات، بهدف تعزيز قدرات الروبوتات عبر مختلف الصناعات باستخدام حلول طاقة متقدمة.
30-09-2025
خصم كبير على المكنسة الكهربائية الروبوتية ذاتية التفريغ: Best Buy تقدم BObsweep Orb-i بخصم 70٪
تقدم Best Buy خصمًا بنسبة 70٪ على مكنسة الروبوت ذاتية التفريغ BObsweep Orb-i، مما يجعلها بديلاً ميسور التكلفة للنماذج الراقية. تعرف على ميزاته والصفقة محدودة الوقت.
ADVERTISEMENT
23-07-2025
غارات ميتا بقيمة 100 مليون دولار: استقطاب أفضل العقول في مجال الذكاء الاصطناعي من OpenAI
ورد أن شركة Meta Platforms تقدم حوافز مالية غير مسبوقة، تصل إلى 100 مليون دولار، لاقتناص كبار باحثي الذكاء الاصطناعي من OpenAI، مما يسرع طموحاتها في مجال الذكاء الاصطناعي العام (AGI) ويتحدى منافستها.
19-09-2025
مستخدمو Pixel 10 يبلغون عن مشاكل في الشحن اللاسلكي مع الشواحن القديمة
اكتشف لماذا قد يواجه بيكسل 10 الجديد الخاص بك مشكلة في الشحن مع أجهزة الشحن اللاسلكية القديمة وما يمكنك فعله حيال ذلك.
21-10-2025
مايكروسوفت تسرع في إصلاح طارئ لتحديث ويندوز 11 المعيب
تُصدر مايكروسوفت تحديثًا طارئًا لإصلاح مشكلة في تحديث حديث لنظام ويندوز 11 تسببت في مشاكل مع التطبيقات والأجهزة واتصال الشبكة. تعرف على المزيد حول المشاكل وطرح الإصلاح.
ADVERTISEMENT
29-05-2025
تطبيق T-Mobile الجديد: هل هو أداة لتحسين الخدمة أم انتهاك للخصوصية؟
تطبيق T-Mobile الجديد يثير قلق العملاء حول الخصوصية بعد تفعيل أداة تسجيل الشاشة بشكل افتراضي. تعرف على التفاصيل وكيفية إيقاف تشغيل الأداة.
31-10-2025
واتساب يعزز الأمان: مفاتيح المرور تشفر الآن النسخ الاحتياطية للمحادثات
يقدم أحدث تحديث لتطبيق واتساب تشفير المفتاح السري لنسخ الدردشة الاحتياطية، مما يوفر أمانًا وخصوصية معززين من خلال المصادقة البيومترية ورموز قفل الجهاز.
28-07-2025
تسريبات كاميرا آيفون 17 برو تشير إلى زوم 8x وتطبيق احترافي وزر جديد
استكشف الشائعات غير المؤكدة حول الترقيات المحتملة لكاميرا iPhone 17 Pro، بما في ذلك تقريب بصري 8x، وتطبيق كاميرا احترافي، وزر تحكم إضافي.
ADVERTISEMENT