اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon
ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

20-11-2025
اختبار يوتيوب للرسائل المباشرة: نظرة مقارنة على الميزات والتأثيرات الرئيسية
يختبر يوتيوب عودة الرسائل المباشرة، مما يحسن مشاركة المحتوى والمحادثات الخاصة لمضاهاة منصات المنافسين. إليك نظرة عامة مقارنة موجزة.
ADVERTISEMENT
13-06-2025
تطبيق Meta AI يفضح محادثات المستخدمين الخاصة: عيب كبير في الخصوصية
تطبيق Meta للذكاء الاصطناعي يعرض محادثات المستخدمين الخاصة، بما في ذلك البيانات الشخصية الحساسة، بسبب موجز 'اكتشاف' عام ومربك. تعرف على كيفية حماية خصوصيتك.
29-05-2025
فهم مشاعر الخيول من خلال تعبيرات الوجه
دراسة جديدة تكشف عن كيفية استخدام الخيول لتعبيرات وجهها للتواصل، مما يساعد في فهم مشاعرها ورفاهيتها.
29-05-2025
الأولمبياد الدولي للروبوتات البشرية: من أولمبيا إلى المستقبل الذكي
استعدوا لأحداث مثيرة في أولمبيا، اليونان، حيث سيجمع الأولمبياد الدولي للروبوتات البشرية بين الابتكار والتكنولوجيا في حدث فريد من نوعه.
ADVERTISEMENT
22-05-2025
آبل تكشف عن طريقة تدريب مبتكرة للروبوتات البشرية
آبل تكشف عن طريقة جديدة لتدريب الروبوتات البشرية باستخدام معلمين بشريين جنبًا إلى جنب مع الروبوتات، مما يحسن فعالية التدريب ويقلل التكاليف.
04-06-2025
الروبوتات الشبيهة بالبشر: لمحة عن المستقبل، لا تزال سنوات تفصلنا عن انتشارها على نطاق واسع
استكشف العالم الرائع للروبوتات الشبيهة بالبشر، وقيودها الحالية، والخطط الطموحة لمستقبلها، خاصة في المشهد التكنولوجي في الصين.
22-10-2025
هواتف بيكسل ستحصل على شاشة عرض ذكية تعمل دائمًا لتوفير أفضل للبطارية
تعمل جوجل على تطوير شاشة عرض ذكية دائمًا لهواتف بيكسل، والتي يتم إيقاف تشغيلها تلقائيًا عند عدم اكتشاف أي نشاط للمستخدم، بهدف توفير عمر البطارية.
ADVERTISEMENT
12-11-2025
ماك بوك إير M4 مقابل أجهزة الكمبيوتر التي تعمل بنظام ويندوز: إعادة تعريف أجهزة الكمبيوتر المحمولة متوسطة المدى
بسعر 749 دولارًا أمريكيًا، ينافس جهاز MacBook Air M4 مباشرةً أجهزة الكمبيوتر المحمولة متوسطة الأداء التي تعمل بنظام Windows. نقارن ذاكرته الموحدة، وأداء شريحة M4، وميزاته المتميزة مع منافسيه.
13-08-2025
جالاكسي S26 برو: 7 ترقيات أساسية لهاتف سامسونج الرائد القادم
استكشف الترقيات الأساسية التي يحتاجها هاتف سامسونج جالكسي S26 برو ليصبح هاتف أندرويد التالي الذي لا غنى عنه، من تحسينات الكاميرا إلى خيارات المعالج.
07-08-2025
تسريب ChatGPT يكشف عن طلبات المستخدمين غير الأخلاقية والشخصية من الذكاء الاصطناعي
تكشف محادثات مسربة من ChatGPT عن طلب المستخدمين مساعدة الذكاء الاصطناعي في ممارسات تجارية غير أخلاقية، وأزمات شخصية، وحتى استراتيجيات انهيار حكومات، مما يسلط الضوء على مخاوف كبيرة تتعلق بالخصوصية والأخلاقيات.
ADVERTISEMENT