اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon
ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

21-08-2025
روبوت أطلس يحقق مهام معقدة بفضل الذكاء الاصطناعي الرائد، وبأقل قدر من البرمجة
اكتشف كيف يتقن روبوت أطلس من بوسطن ديناميكس ومعهد تويوتا للأبحاث المهام المعقدة بأقل قدر من البرمجة، مما يمثل قفزة كبيرة في الروبوتات البشرية.
ADVERTISEMENT
08-09-2025
ساعة أبل ووتش ألترا 3: تفاصيل مسربة تلمح إلى إصدار وشيك
اكتشف أحدث الشائعات والتسريبات حول Apple Watch Ultra 3، بما في ذلك الترقيات المحتملة لشاشتها وأدائها وميزاتها الصحية وتاريخ إصدارها.
21-08-2025
رهان أوراكل بمليار دولار: مركز بيانات يعمل بالغاز يدعم توجّه السحابة للذكاء الاصطناعي
تفيد التقارير أن أوراكل تخطط لإنفاق مليار دولار سنويًا على مركز بيانات جديد يعمل بالغاز في غرب تكساس، مما يسلط الضوء على توسعها القوي في سوق الحوسبة السحابية المدعومة بالذكاء الاصطناعي.
26-06-2025
واتساب يصبح أكثر ذكاءً: ميتا تضيف ملخصات رسائل مدعومة بالذكاء الاصطناعي
تقدم Meta ملخصات رسائل مدعومة بالذكاء الاصطناعي إلى WhatsApp، مما يعزز تجربة المستخدم مع الحفاظ على الخصوصية من خلال تقنية المعالجة الخاصة. تعرف على طرح الميزة الجديدة وقدراتها.
ADVERTISEMENT
21-08-2025
فرصة أخيرة: احصل على جهاز PS5 الخاص بك قبل ارتفاع أسعار سوني اليوم!
آخر فرصة لشراء جهاز PS5 قبل زيادة سوني للسعر بمقدار 50 دولارًا التي تدخل حيز التنفيذ في 21 أغسطس. تحقق من التوفر لدى كبار تجار التجزئة.
25-06-2025
أنكر تستدعي 1.1 مليون بنك طاقة بسبب مخاوف من الحريق والانفجار
تستدعي أنكر 1.1 مليون بنك طاقة PowerCore 10000 بسبب مخاطر الحريق والانفجار. تعرف على كيفية فحص جهازك والحصول على بديل.
03-07-2025
باتلفيلد 6: مقامرة بقيمة 400 مليون دولار تعاني من الإرهاق
تقرير يكشف عن ميزانية Battlefield 6 المذهلة التي تتجاوز 400 مليون دولار أمريكي وإرهاق المطورين على نطاق واسع، حيث حصل الموظفون على إجازات تصل إلى 9 أشهر بسبب متطلبات الإنتاج المكثفة والأهداف الطموحة للاعبين.
ADVERTISEMENT
04-06-2025
ChatGPT يتذكر الآن المحادثات السابقة لجميع المستخدمين
توسع OpenAI قدرات ذاكرة ChatGPT لتشمل المستخدمين ذوي الطبقة المجانية، مما يسمح للذكاء الاصطناعي بالرجوع إلى المحادثات السابقة للحصول على استجابات أكثر تخصيصًا. تعرف على كيفية تعزيز هذا التحديث لتجربة المستخدم وكيفية إدارة ذاكرة روبوت الدردشة الخاص بك.
15-08-2025
بيكسل 10 برو فولد سيتضمن شحن Qi2، وتأجل إصداره إلى أكتوبر
يشاع أن هاتف جوجل بيكسل 10 برو فولد سيحصل على شحن Qi2 المغناطيسي وتاريخ إصدار متأخر في أكتوبر، وفقًا لمسرب موثوق.
04-07-2025
التحول الكبير في بيتكوين: الحيتان تبيع ممتلكاتها للمستثمرين المؤسسيين
اكتشف لماذا سعر البيتكوين راكد: الحيتان تتخلص من ممتلكاتها للمستثمرين المؤسسيين، مما يغير بشكل أساسي ديناميكيات سوق العملات المشفرة.
ADVERTISEMENT
04-09-2025
بولار تكشف عن جهاز Loop القابل للارتداء بدون شاشة لتتبع اللياقة البدنية بتكتم
بولار تقدم اللوب، وهو جهاز تعقب لياقة بدنية يمكن ارتداؤه بدون شاشة بسعر 200 دولار، مصمم للمراقبة السرية للنشاط والنوم، ويتنافس مع ووب وأورا.
28-05-2025
استراتيجية الذكاء الاصطناعي في أولتا بيوتي تحقق معدل إعادة شراء 95%
استراتيجية أولتا بيوتي في استخدام الذكاء الاصطناعي تحقق معدل إعادة شراء 95% من العملاء، مما يعكس تحولًا في تجارة التجزئة نحو تخصيص تجارب العملاء.
21-07-2025
هاتف Apple القابل للطي: ظهور غير تقليدي متوقع في عام 2025
من المقرر أن تطلق Apple أول هاتف iPhone قابل للطي في عام 2025، مع ظهور "غير معهود من Apple". تستكشف هذه المقالة الآثار المترتبة على هذا الجهاز الجديد وابتكارات Apple القادمة الأخرى.
ADVERTISEMENT
09-08-2025
اصطدام الكويكب مقابل المخاطر اليومية: دراسة جديدة تضع المخاطر في منظورها الصحيح
دراسة جديدة تقارن احتمالات الوفاة من اصطدام كويكب مقابل المخاطر اليومية مثل ضربات البرق وحوادث السيارات، مما يقدم منظورًا فريدًا حول المخاطر العالمية والفردية.
03-06-2025
عطل روبوت "سايبرجاي" البشري يثير الذعر ويشعل الجدل
روبوت "سايبرجاي" البشري يتعرض لعطل مفاجئ يثير الذعر والجدل، مما يسلط الضوء على مخاوف السلامة في الروبوتات المتقدمة.
19-09-2025
جوجل كروم يحصل على تحديث كبير بالذكاء الاصطناعي مع دمج Gemini
جوجل تعلن عن توسع هائل في ميزات الذكاء الاصطناعي في كروم، مع دمج جيميني لتحسين التصفح والبحث والأمان.
ADVERTISEMENT