اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon
ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

08-07-2025
الذكاء الاصطناعي لحياتك: هايسنس تجلب إثارة الملاعب إلى المنزل
اكتشف كيف تقوم هايسنس بتحويل تجربة كأس العالم للأندية FIFA 2025™ بحملة "AI YOUR LIFE" الخاصة بها، ودمج الذكاء الاصطناعي المتطور في أجهزة التلفزيون والأجهزة المنزلية الذكية لترفيه غامر ومعيشة ذكية.
ADVERTISEMENT
25-08-2025
بيكسل 10 برو فولد مقابل جالكسي زد فولد 7: أي هاتف قابل للطي يسود؟
قارن جوجل بيكسل 10 برو فولد وسامسونج جالكسي زي فولد 7. اكتشف أي هاتف قابل للطي يفوز بناءً على الميزات والسعر ومقاومة الغبار وقدرات الذكاء الاصطناعي والتصميم.
30-05-2025
صعود لابوبو الفيروسي: المضاربون يفسدون متعة الجمع
تُواجه شخصيات لابوبو المحبوبة من بوب مارت تحديات كبيرة بسبب تزايد نشاط البائعين والمضاربين، مما أدى إلى فوضى في المتاجر وعلى الإنترنت.
07-07-2025
نصيحة مسؤول تنفيذي في Microsoft بشأن الذكاء الاصطناعي للعاملين المسرحين تثير غضبًا
يواجه مسؤول تنفيذي في Microsoft Xbox ردود فعل عنيفة لنصحه الموظفين المسرحين باستخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي للتغلب على الحزن الناتج عن فقدان الوظيفة، مما أثار انتقادات واسعة النطاق.
ADVERTISEMENT
28-08-2025
الروبوتات تتقن التضاريس غير المرئية باستخدام خرائط الانتباه المتقدمة
اكتشف كيف تمكّن تقنية رسم خرائط الانتباه الخاصة بمعهد ETH زيورخ الروبوتات مثل ANYmal-D و Fourier GR-1 من التنقل في التضاريس الصعبة وغير المرئية بذكاء وكفاءة معززين.
02-09-2025
جيتسون ثور من إنفيديا: محطة قوية للذكاء الاصطناعي بسعر 3,499 دولارًا مهيأة لإحداث ثورة في الروبوتات
إنفيديا تكشف عن جيتسون ثور، وحدة ذكاء اصطناعي بسعر 3,499 دولارًا بقوة أكبر 7.5 مرة للروبوتات، مبنية على معمارية بلاكويل، والتي من شأنها إحداث ثورة في الذكاء الاصطناعي المادي والأتمتة.
13-08-2025
هونر باور 2 يتميز ببطارية ضخمة بسعة 10,000 مللي أمبير، مدعوم بمعالج ديمينسيتي 8500
هاتف Honor Power 2 سينطلق ببطارية ضخمة سعة 10,000 مللي أمبير ومعالج MediaTek Dimensity 8500 SoC، واعدًا بعمر بطارية استثنائي في سوق الفئة المتوسطة العليا.
ADVERTISEMENT
21-07-2025
كشفت شركة UBTech Robotics الصينية النقاب عن Walker S2: الروبوت البشري الذي يغذي نفسه
اكتشف كيف كشفت شركة UBTech Robotics الصينية عن Walker S2، أول روبوت بشري في العالم قادر على تغيير بطارياته ذاتيًا، مما أحدث ثورة في التشغيل المستمر.
02-07-2025
سريع وغاضب: الطريق ينتهي لملحمة الأوكتان العالية
من المقرر أن تختتم سلسلة أفلام Fast & Furious بفيلم Fast XI في عام 2027، وتواجه انتقادات بسبب الأجزاء الأخيرة وتراجع ملحوظ في الجودة.
28-05-2025
إيباي تقطع أكثر من 200 وظيفة في TCGplayer وسط توترات عمالية
إيباي تعلن عن تسريح 220 موظفًا في TCGplayer وسط توترات مع النقابة، مما يثير قلقًا كبيرًا بين العمال.
ADVERTISEMENT
11-08-2025
تسرب حجم شاشة آيفون 17 إير: كيف يقارن بطرازات برو
استكشف أحجام الشاشات المسربة لتشكيلة iPhone 17 القادمة، بما في ذلك iPhone 17 Air الجديد، وكيف تقارن بنماذج Pro و Pro Max.
08-08-2025
إنستغرام تطلق إعادة النشر، وخرائط المواقع، وعلامة تبويب الأصدقاء المحسّنة
تقدم إنستغرام ميزات جديدة تشمل إعادة النشر، وخريطة للمواقع، وعلامة تبويب "الأصدقاء" موسعة لتعزيز تواصل المستخدمين واكتشاف المحتوى.
20-05-2025
تحديات ردع الهجمات الصينية في الفضاء: تقرير جديد يكشف الصعوبات
تقرير جديد يكشف عن التحديات التي تواجه الولايات المتحدة في ردع الهجمات الصينية على الأصول الفضائية، ويقترح استراتيجيات لتعزيز الأمن في الفضاء.
ADVERTISEMENT
08-08-2025
GPD Win 5: جهاز كمبيوتر الألعاب المحمول ببطارية أذكى مما تبدو عليه
استكشف GPD Win 5، وهو جهاز كمبيوتر محمول جديد يتميز بشريحة AMD Ryzen AI Max+ قوية وبطارية فريدة قابلة للفصل مصممة للألعاب عالية الأداء.
09-09-2025
تقتحم OpenAI مجال الرسوم المتحركة الطويلة بفيلم "كريترز" المدعوم بالذكاء الاصطناعي، مستهدفةً مهرجان كان
تفتتح OpenAI آفاقًا جديدة في صناعة الأفلام المدفوعة بالذكاء الاصطناعي بفيلم "Critterz"، وهو فيلم رسوم متحركة طويل من المقرر عرضه لأول مرة في مهرجان كان، بهدف تقليل التكاليف ووقت الإنتاج.
18-07-2025
ضحايا رياح ترينيتي في نيو مكسيكو: محاسبة طال انتظارها
بعد ثمانين عامًا من الانفجار الذري "ترينيتي"، قد يحصل أهالي "المناطق المجاورة" في نيو مكسيكو أخيرًا على تعويضات عن المشاكل الصحية التي سببها التساقط الإشعاعي. تعرف على المعركة الطويلة من أجل العدالة.
ADVERTISEMENT