اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon
ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

26-05-2025
الروبوت الجديد في التحضير للحرب الكيميائية: قفزة دفاعية جريئة من الولايات المتحدة
الولايات المتحدة تطلق نظام اختبار روبوتي جديد يُعرف باسم Porton Man لتعزيز قدرات الدفاع ضد التهديدات الكيميائية.
ADVERTISEMENT
16-07-2025
عمالقة التكنولوجيا يراهنون على أن الذكاء الاصطناعي على وشك تحقيق اكتشاف علمي
يدعي مليارديرات التكنولوجيا في بودكاست All-In أن أدوات مثل Grok قريبة من تحقيق اختراقات علمية حقيقية، لكن الخبراء يسلطون الضوء على القيود الكامنة في الذكاء الاصطناعي والضجيج الإعلامي.
04-07-2025
لي بيس يكشف النقاب عن الأخ داي الجديد تمامًا في الموسم الثالث من "المؤسسة"
لي بيس يناقش شخصيته، الأخ داي، في الموسم الثالث من مسلسل المؤسسة، ويكشف عن نسخة جديدة وأكثر استرخاءً وروح دعابة من الإمبراطور.
07-10-2025
دايسون إيرراب يصل لأدنى سعر على الإطلاق: صففي شعرك في المنزل بأقل من تكلفة زيارة الصالون
جهاز دايسون إيرراب متوفر الآن بسعر منخفض قياسي يبلغ ٤١٢ دولارًا خلال أيام الصفقات الكبيرة من أمازون بريمي، مما يجعل تصفيف الشعر الاحترافي في المنزل أكثر سهولة من أي وقت مضى. اكتشف كيف توفر تقنية تدفق الهواء المبتكرة في إيرراب نتائج بجودة صالونات التجميل دون حرارة ضارة.
ADVERTISEMENT
20-05-2025
NVIDIA تطلق مشروع GR00T: نموذج AI مبتكر للروبوتات القابلة للتكيف بسرعة في الصناعة
NVIDIA تكشف عن مشروع GR00T، نموذج AI مبتكر للروبوتات القابلة للتكيف بسرعة في الصناعة، خلال Computex 2025.
21-08-2025
روبوت أطلس يحقق مهام معقدة بفضل الذكاء الاصطناعي الرائد، وبأقل قدر من البرمجة
اكتشف كيف يتقن روبوت أطلس من بوسطن ديناميكس ومعهد تويوتا للأبحاث المهام المعقدة بأقل قدر من البرمجة، مما يمثل قفزة كبيرة في الروبوتات البشرية.
28-11-2025
iRobot Roomba 105 مقابل التنظيف اليدوي: مقارنة الأداء
اكتشف كيف تقارن مكنسة iRobot Roomba 105 بالمكنسة اليدوية من حيث الأداء والراحة والقيمة للأسر المهتمة بالتكنولوجيا.
ADVERTISEMENT
10-09-2025
الإمارات تكشف عن K2 ثينك: نموذج ذكاء اصطناعي مفتوح المصدر يتحدى العمالقة العالميين
أطلق معهد الإمارات للنماذج التأسيسية نموذج الذكاء الاصطناعي مفتوح المصدر K2 Think، المصمم لمنافسة أنظمة الذكاء الاصطناعي الرائدة من الصين والولايات المتحدة، مع التركيز على الكفاءة والقدرات المتخصصة.
22-05-2025
آبل تكشف عن طريقة تدريب مبتكرة للروبوتات البشرية
آبل تكشف عن طريقة جديدة لتدريب الروبوتات البشرية باستخدام معلمين بشريين جنبًا إلى جنب مع الروبوتات، مما يحسن فعالية التدريب ويقلل التكاليف.
08-08-2025
خلل HTML الوكيل من مايكروسوفت يسرب كلمات المرور ومفاتيح الذكاء الاصطناعي، يكتشفه باحث
اكتشف باحث ثغرة أمنية حرجة في تقنية HTML الوكيلية (NLWeb) الخاصة بشركة مايكروسوفت، والتي قد تؤدي إلى تسريب كلمات المرور ومفاتيح الذكاء الاصطناعي. وقد أصدرت مايكروسوفت تصحيحًا لذلك، حسبما ورد.
ADVERTISEMENT