اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon
ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

19-06-2025
إنسان آلي نفاث يحلق في إيطاليا
اكتشف iRonCub3، أول روبوت بشري يعمل بالطاقة النفاثة في العالم، تم تطويره بواسطة المعهد الإيطالي للتكنولوجيا، وهو قادر على الطيران المستقر ومصمم للبيئات الخطرة.
ADVERTISEMENT
04-07-2025
أشياء غريبة: نظرة متعمقة في أهوال وأبطال الموسم الأول
استرجع البدايات المروعة للموسم الأول من مسلسل "أشياء غريبة" مع "ملخص نادي هيلفاير" من io9. استكشف نقاط الحبكة الرئيسية، وتطورات الشخصيات، والمقدمة المرعبة للعالم المقلوب والديموجورجون، مما يمهد الطريق للموسم الأخير.
26-05-2025
تسريبات جديدة تكشف عن ثلاثة طائرات درون جديدة من DJI
تسريبات جديدة تكشف عن ثلاثة طائرات درون جديدة من DJI، تشمل Mini 5 Pro وAvata 3 وNeo 2، مع تحسينات ملحوظة في البطارية ونطاق النقل.
08-07-2025
مارك إليس يكشف النقاب عن أول وكيل صوت يعمل بالذكاء الاصطناعي للتوظيف في الشرق الأوسط
أطلق مارك إليس أول وكيل صوتي مدعوم بالذكاء الاصطناعي في الشرق الأوسط للتوظيف، مما أحدث ثورة في التوظيف من خلال المشاركة المتقدمة للمرشحين وتقليل الوقت المستغرق في التوظيف.
ADVERTISEMENT
08-08-2025
ساعة أبل ألترا 3 مقرر إطلاقها في سبتمبر بميزات جديدة ومثيرة
احصل على آخر المستجدات حول Apple Watch Ultra 3، التي يُشاع أنها ستُطلق في سبتمبر القادم بشاشة أكبر، و5G، ومراسلة عبر الأقمار الصناعية، وتحسينات في الأداء.
12-09-2025
مجموعة أنت تدخل سباق الروبوتات مع إطلاق أول روبوت بشري لها
تكشف مجموعة علي بابا أنت عن أول روبوت بشري لها، R1، والذي يستعرض قدرات ذكاء اصطناعي متقدمة للمهام المعقدة، ويشير إلى طموحاتها في سباق الروبوتات بالصين.
09-06-2025
رئيس قسم الروبوتات يغادر تسلا: ماذا يعني ذلك لأوبتيموس والأسهم
غادر رئيس قسم الروبوتات في تسلا، ميلان كوفاتش، الشركة، مما يثير تساؤلات حول مستقبل الروبوت البشري أوبتيموس وتأثيره على أسهم تسلا وطموحاتها في مجال الذكاء الاصطناعي.
ADVERTISEMENT
27-05-2025
الذكاء الاصطناعي يتولى المكالمات الطارئة في شبه جزيرة الأولمبي
اكتشف كيف يستخدم مركز 911 في شبه جزيرة الأولمبي الذكاء الاصطناعي لتولي المكالمات غير الطارئة، مما يساعد في تحسين الكفاءة وتقليل الضغط على الموظفين.
26-05-2025
دعوة لإنشاء كلمات مرور سرية مع العائلة والأصدقاء لتجنب الاحتيالات المدعومة بالذكاء الاصطناعي
دعوة للجمهور لإنشاء كلمات مرور سرية مع العائلة والأصدقاء لحماية المعلومات الشخصية من الاحتيالات المدعومة بالذكاء الاصطناعي.
28-08-2025
الروبوتات تتقن التضاريس غير المرئية باستخدام خرائط الانتباه المتقدمة
اكتشف كيف تمكّن تقنية رسم خرائط الانتباه الخاصة بمعهد ETH زيورخ الروبوتات مثل ANYmal-D و Fourier GR-1 من التنقل في التضاريس الصعبة وغير المرئية بذكاء وكفاءة معززين.
ADVERTISEMENT
20-08-2025
روبن هود تطمس الخطوط الفاصلة: أسواق التنبؤ بكرة القدم أعيدت تسميتها كاستثمار
روبن هود يدخل عالم المراهنات الرياضية بـ "أسواق التنبؤ" لكرة القدم، مما يثير جدلاً حول ما إذا كان استثمارًا أم قمارًا.
03-06-2025
لا تزل هذا الغشاء البلاستيكي عند فتح جهاز نينتندو سويتش 2 الجديد!
اكتشف لماذا يجب ألا تزيل الغشاء البلاستيكي الواقي عن شاشة نينتندو سويتش 2 الجديد، ونصائح هامة للعناية بالجهاز.
21-07-2025
روبوتات أوبتيموس لتقديم الفشار: لمحة عن مستقبل تسلا الروبوتي
أكد إيلون ماسك أن روبوتات تسلا أوبتيموس تقدم الفشار في مطعم جديد، ملمحًا إلى مستقبل تصبح فيه الروبوتات الشبيهة بالبشر جزءًا طبيعيًا من الحياة اليومية.
ADVERTISEMENT
11-07-2025
حققت بوش نموًا ملحوظًا بنسبة 18٪ في مبيعات الشرق الأوسط لعام 2024
أعلنت بوش عن نمو قوي بنسبة 18٪ في منطقة الشرق الأوسط لعام 2024، مدفوعًا بقطاعات السلع الاستهلاكية والتنقل والتكنولوجيا الصناعية، مع توسعات استراتيجية في المملكة العربية السعودية والإمارات العربية المتحدة.
28-07-2025
تسريبات كاميرا آيفون 17 برو: تقريب 8x، تطبيق احترافي، وعناصر تحكم جديدة متوقعة
اكتشف أحدث الشائعات حول كاميرا iPhone 17 Pro، بما في ذلك تقريب بصري 8x، وتطبيق Pro Camera جديد، وزر إضافي للتحكم بالكاميرا. تعرف على التغييرات المحتملة في التصميم وتحسينات تسجيل الفيديو.
09-09-2025
وارنر براذرز تقاضي مولد الصور بالذكاء الاصطناعي ميدجورني لانتهاك حقوق النشر
تُقاضي شركة وارنر براذرز ديسكفري مُولّد الصور بالذكاء الاصطناعي Midjourney بتهمة انتهاك حقوق النشر، زاعمة أن الشركة تسمح للمستخدمين عن علم بإنشاء صور لشخصياتها المحمية بحقوق النشر.
ADVERTISEMENT