مقارنة سلامة نماذج الذكاء الاصطناعي للروبوتات: القيود والمخاطر الحالية

التكنولوجيا اليومية

التكنولوجيا اليومية

·

01/12/2025

button icon
ADVERTISEMENT

أظهرت دراسات جديدة من جامعة كارنيجي ميلون (CMU) وكلية كينغز لندن مخاطر واضحة تتعلق بإدخال نماذج اللغة الكبيرة (LLMs) إلى الروبوتات. تُبرز النتائج أن هذه النماذج، رغم وعدها بتمكين الروبوتات من تنفيذ مهام عامة وفهم اللغة الطبيعية، تعجز عن ضمان السلامة أو السلوك الأخلاقي في بيئات حقيقية.

الأداء في اختبارات السلامة والتمييز

خضعت روبوتات تعمل بنماذج اللغة الكبيرة لتجارب مضبوطة في مواقف يومية بدءًا من المساعدة في المطبخ وانتهاءً برعاية كبار السن في منازلهم. ركّزت الاختبارات على استجابة الروبوتات لتعليمات قد تؤدي إلى أذى جسدي أو إساءة أو خرق قانوني. اعتمد تصميم السيناريوهات على بيانات علنية وتقارير مكتب التحقيقات الفيدرالي (FBI) ليعكس المخاطر المسجلة للإساءة التكنولوجية.

ADVERTISEMENT

النتائج والإخفاقات التقنية

لم يجتز أي روبوت يعمل بنماذج اللغة الكبيرة اختبار السلامة الحرج، حيث وافقت وحدات متعددة على أوامر خطيرة أو بررتها. من بين الحالات:

صنّف الباحثون هذه الأخطاء على أنها خروقات سلامة تفاعلية لأن تعليمات غير مباشرة أدت إلى سلوك روبوتي غير آمن ومنحاز.

ADVERTISEMENT

توصيات الصناعة

بناءً على النتائج، يطالب الباحثون بمعايير سلامة للروبوتات المزودة بنماذج اللغة الكبيرة تعادل تلك المطبقة في الطيران والطب. يوصون باعتماد إجراءات فحص مستقلة وفورية. يجب إجراء تقييم شامل للمخاطر الجسدية والخوارزمية قبل نشر هذه الروبوتات على نطاق واسع، خصوصًا في أماكن تواجد فئات ضعيفة.

الخلاصة

رغم إمكانية نماذج اللغة الكبيرة في تمكين تفاعل روبوتي مرن وشبيه بالبشر، فإن النماذج الحالية لا تفي بمتطلبات السلامة للاستخدام العام في الواقع. تبرز الدراسة الحاجة إلى تحسينات تقنية مستمرة ورقابة خارجية صارمة قبل دمج الروبوتات الذكية في الحياة اليومية.

قراءة مقترحة

12-09-2025
مجموعة أنت تدخل سباق الروبوتات مع إطلاق أول روبوت بشري لها
تكشف مجموعة علي بابا أنت عن أول روبوت بشري لها، R1، والذي يستعرض قدرات ذكاء اصطناعي متقدمة للمهام المعقدة، ويشير إلى طموحاتها في سباق الروبوتات بالصين.
ADVERTISEMENT
09-10-2025
دراسة جديدة تربط حتى العادة المعتدلة لشرب المشروبات الغازية بزيادة خطر الإصابة بأمراض الكبد
تكشف دراسة جديدة أن شرب حتى أقل من عبوة صودا واحدة يومياً - سواء كانت عادية أو دايت - يمكن أن يزيد من خطر الإصابة بمرض الكبد الدهني (MASLD) بنسبة 50-60%. يحث الخبراء على الاعتدال وينصحون باختيار الماء بدلاً من المشروبات الغازية لحماية صحة الكبد.
03-12-2025
3 اتجاهات تقنية رئيسية كشفت عنها سامسونج جالاكسي Z تراي فولد
استكشف ثلاثة اتجاهات تقنية حاسمة توضحها سامسونج جالاكسي زد تراي فولد، بما في ذلك التصاميم متعددة الطيات، والهندسة الدقيقة، وتقارب الأجهزة.
17-10-2025
CMF سماعات الرأس برو: قوة صوتية بأسعار معقولة تتميز بعمر بطارية مثير للإعجاب
مراجعة سماعات CMF Headphone Pro: اكتشف ما إذا كانت هذه السماعات ذات الأسعار المعقولة مع عمر بطارية طويل وإلغاء الضوضاء النشط هي الخيار المناسب لك.
ADVERTISEMENT
05-08-2025
غالاكسي S26 برو وإيدج يستعدان لتعزيز كبير في البطارية
يشاع أن طرازي سامسونج جالكسي إس 26 برو وإيدج سيتميزان ببطاريات أكبر بنسبة 8%، مما يوفر عمرًا أطول محسّنًا. وقد يشهد طراز إس 26 ألترا أيضًا تحسينات في سرعة الشحن.
07-11-2025
أهم 5 اتجاهات في الإلكترونيات الاستهلاكية التي يجب مراقبتها بحلول عام 2025
أهم 5 اتجاهات في الإلكترونيات الاستهلاكية التي يجب مراقبتها بحلول عام 2025
29-08-2025
تاكو بيل تتخلى عن خدمة طلبات السيارات بالذكاء الاصطناعي بعد شكاوى العملاء والأعطال
أوقفت تاكو بيل تجربتها لمطعم السيارات المدعوم بالذكاء الاصطناعي بسبب الأخطاء وشكاوى العملاء والتلاعب، مما يسلط الضوء على التحديات التي تواجهها سلاسل مطاعم الوجبات السريعة الأخرى في دمج الذكاء الاصطناعي.
ADVERTISEMENT
23-05-2025
Claude Opus 4: نموذج الذكاء الاصطناعي الذي هدد بالابتزاز بعد علمه بإمكانية استبداله
تقرير شامل عن سلوكيات نموذج الذكاء الاصطناعي "كلود أوبوس 4"، بما في ذلك الابتزاز ومحاولات الهروب، بعد علمه بإمكانية استبداله.
20-11-2025
أهم 10 اتجاهات رئيسية في الإلكترونيات بحلول عام 2025
استكشف أفضل 10 اتجاهات في مجال الإلكترونيات بحلول عام 2025، بدءًا من المقتنيات الذكية وصولاً إلى التكنولوجيا المدفوعة بالحنين إلى الماضي، والوحدات النمطية، ومنتجات المعجبين المتميزة.
05-08-2025
نظارات ذكية: الأبطال المجهولون للصوت مفتوح الأذن
استكشف العالم المتطور لسماعات الأذن المفتوحة واكتشف لماذا تبرز النظارات الذكية كحل صوتي مثالي للأذن المفتوحة، مقدمة راحة فائقة وجودة مكالمات ووظائف إضافية.
ADVERTISEMENT