اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon
ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

23-10-2025
خطة مرآة مدارية لشركة ناشئة في كاليفورنيا تثير قلق العلماء
أثارت خطة شركة ناشئة في كاليفورنيا لإطلاق 4000 مرآة مدارية لتزويد مزارع الطاقة الشمسية بالطاقة ليلاً قلق العلماء بسبب التأثيرات المحتملة للتلوث الضوئي على علم الفلك والحياة البرية.
ADVERTISEMENT
10-06-2025
كشف غرفة الصدى: لماذا تعزز روبوتات الدردشة المدعومة بالذكاء الاصطناعي معتقداتك
تكشف دراسة جديدة لماذا غالبًا ما تعزز روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT المعتقدات الحالية، مما يقود المستخدمين إلى متاهات معلوماتية. تعرف على كيفية مساهمة تحيزات المستخدم وتصميم المنصة في "تأثير البحث الضيق" هذا واكتشف استراتيجيات للحصول على مجموعة أكثر توازنًا من المعلومات.
11-08-2025
روبوتات أكثر ذكاءً للصناعة 5.0: الذكاء الاصطناعي يعزز التعاون بين الإنسان والروبوت
اكتشف كيف يُحدث التوليد المعزز بالاسترجاع والشبكات العصبية التحويلية ثورة في التفاعل بين الإنسان والروبوت في مجال التصنيع من أجل الصناعة 5.0، مما يؤدي إلى روبوتات أكثر ذكاءً وقدرة على التكيف.
08-10-2025
ماكينة صنع القهوة Keurig K-Supreme تشهد خصمًا ضخمًا وسط تصاعد المنافسة في سوق الأجهزة أحادية الخدمة
يتوفر الآن جهاز تحضير القهوة Keurig K-Supreme بسعر 100 دولار فقط، أي ما يقارب نصف سعره المعتاد، ويقدم خيار تخمير منزلي سريع ومتسق وموفر للمساحة كبديل للآلات الأعلى سعراً مثل نسبريسو أو بريفيل.
ADVERTISEMENT
26-05-2025
فضلات البطاريق قد تساعد في مكافحة تغير المناخ
دراسة جديدة تكشف كيف يمكن لفضلات البطاريق أن تساهم في مكافحة تغير المناخ من خلال زيادة تركيز الأمونيا وتكوين السحب في القارة القطبية الجنوبية.
26-08-2025
إنفيديا جيتسون ثور يشغل روبوتات الجيل القادم مع تعزيز للذكاء الاصطناعي بمقدار 7.5x
كمبيوتر NVIDIA الجديد Jetson Thor يعزز قوة الذكاء الاصطناعي للروبوتات الشبيهة بالبشر بمقدار 7.5 مرة، مما يتيح الإدراك والعمل في الوقت الفعلي للروبوتات المتقدمة.
03-06-2025
لماذا فشلت "MultiVersus"؟ حدود تجميع الملكيات الفكرية في الألعاب
تحليل شامل لأسباب إغلاق لعبة "MultiVersus" وتأثير استراتيجيات تجميع الملكيات الفكرية على صناعة الألعاب.
ADVERTISEMENT
07-10-2025
سامسونج تضع معيارًا جديدًا مع أصغر مستشعر كاميرا بدقة 200 ميجابكسل على الإطلاق للهواتف الذكية
تطرح سامسونج أصغر مستشعر كاميرا هاتف في العالم بدقة 200 ميجابكسل، والذي سيظهر لأول مرة في هاتف أوبو فايند X9 برو. يتميز بتقنيات تقريب متقدمة، والتصوير عالي السرعة، وتقنية HDR، وفيديو بدقة 8K، مما يمثل قفزة كبيرة في تكنولوجيا التصوير الفوتوغرافي عبر الهواتف المحمولة.
07-07-2025
نصيحة مسؤول تنفيذي في Microsoft بشأن الذكاء الاصطناعي للعاملين المسرحين تثير غضبًا
يواجه مسؤول تنفيذي في Microsoft Xbox ردود فعل عنيفة لنصحه الموظفين المسرحين باستخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي للتغلب على الحزن الناتج عن فقدان الوظيفة، مما أثار انتقادات واسعة النطاق.
16-09-2025
أبل تكشف النقاب عن macOS تاهو 26: سبوتلايت مُحسّن، تطبيق هاتف جديد، وتصميم الزجاج السائل
تطلق آبل نظام macOS تاهو 26 مع إعادة تصميم شاملة لواجهة المستخدم، وبحث Spotlight محسّن، وتطبيق هاتف جديد لدمج المكالمات بسلاسة.
ADVERTISEMENT