اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon
ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

20-08-2025
الروبوتات الشبيهة بالبشر: صعود نظرائنا الميكانيكيين
استكشف الاتجاه المتنامي لتطوير الروبوتات الشبيهة بالبشر، والأسباب الكامنة وراء تصميمها، وتوقعات السوق، والتحديات التكنولوجية، والتأثير المجتمعي المحتمل.
ADVERTISEMENT
05-08-2025
طموح الذكاء الاصطناعي في الشرق الأوسط: هل ستكون قوة الحوسبة هي صادرات النفط القادمة؟
تستثمر دول الشرق الأوسط، وخاصة الإمارات العربية المتحدة والمملكة العربية السعودية، بكثافة في البنية التحتية للذكاء الاصطناعي، بهدف تصدير قوة الحوسبة كموردها العالمي الرئيسي التالي، مبتعدة عن الوقود الأحفوري.
26-06-2025
روبوتات Apptronik 'الخارقة': إعادة تعريف العمل الشاق
روبوتات أبترونيك 'الخارقة' تستعد لإحداث ثورة في الأعمال الشاقة، ودفع الأتمتة إلى ما وراء الحدود البشرية وتحويل الصناعات بقدرات متقدمة.
17-07-2025
اندلاع بركان "بوابة الجحيم" الذي يبلغ طوله ميلًا في أيسلندا يجبر على عمليات إجلاء جماعية
اندلع شق بركاني بطول ميل واحد في جنوب غرب أيسلندا في 16 يوليو، مما أجبر على عمليات إجلاء في جريندافيك ومنتجع بلو لاجون الصحي بينما يراقب العلماء النشاط المحتمل على المدى الطويل.
ADVERTISEMENT
28-05-2025
تسريبات حول جهاز نينتندو سويتش 2: فيديو فتح صندوق مبكر قبل الإطلاق الرسمي
تسرب فيديو يوضح فتح صندوق جهاز نينتندو سويتش 2 قبل الإطلاق الرسمي، مع قفل الجهاز حتى يتلقى تحديث يوم الإطلاق.
05-08-2025
الذكاء الاصطناعي يغذي ارتفاع أسعار الكهرباء
اكتشف كيف يؤدي الطلب المتزايد على الذكاء الاصطناعي إلى ارتفاع أسعار الكهرباء وإجهاد شبكات الطاقة في جميع أنحاء البلاد، مما يؤثر على فواتير المستهلكين.
13-06-2025
نموذج الذكاء الاصطناعي الجديد من ميتا يفهم الجاذبية: قفزة نحو آلات أكثر ذكاءً
نموذج الذكاء الاصطناعي الجديد من ميتا، V-JEPA 2، يفهم القواعد الفيزيائية مثل الجاذبية، مما يمهد الطريق لروبوتات وأنظمة ذاتية أكثر ذكاءً.
ADVERTISEMENT
25-09-2025
أمازون برايم تنهي الشحن المجاني المشترك لغير أفراد الأسرة
تنهي أمازون برنامجها "برايم المدعو" في الأول من أكتوبر، وتقصر الشحن المجاني المشترك على الأعضاء داخل نفس الأسرة. تعرف على ما يعنيه هذا لك ولماذا تجري أمازون هذا التغيير.
09-09-2025
ما وراء العمالقة: KOID القابضة تغذي الموجة التالية من الروبوتات البشرية
استكشف كيف تستثمر KOID Holdings في شركات رئيسية مثل MP Materials و Rainbow Robotics و Robosense و UBTech Robotics التي تبني الجيل القادم من الروبوتات الشبيهة بالبشر، من موادها الأساسية إلى ذكائها المتقدم.
29-07-2025
الروبوتات تتبارى: مؤتمر الذكاء الاصطناعي يشهد ملاكمين بشريين يتنازلون
الروبوتات الشبيهة بالبشر تنافست في مؤتمر الذكاء الاصطناعي العالمي بالصين، عارضةً قدرات متقدمة في الذكاء الاصطناعي والقدرات البدنية باللكمات المباشرة والخطافية والمتقاطعة. تعرف على أحدث التطورات في مجال الروبوتات.
ADVERTISEMENT
25-07-2025
مجسمات شخصيات ستار تريك من Nacelle: الكشف عن جينواي "عام الجحيم" والمزيد
تكشف "ناسيل" عن مجسمات شخصيات جديدة من مسلسل "ستار تريك: فويجر" و"ستار تريك: ديب سبيس ناين" في معرض سان دييغو كوميك كون، مع موجات مستقبلية تشمل طاقم المسلسل الأصلي والمزيد.
25-08-2025
آبل تتطلع إلى جوجل جيميني لإصلاح شامل لسيري بالذكاء الاصطناعي
يُقال إن شركة آبل تجري محادثات مع جوجل لدمج Gemini AI في سيري لترقية كبيرة متوقعة في عام 2026، مستكشفة شراكات خارجية وسط مشهد الذكاء الاصطناعي المتغير.
27-08-2025
حدث أبل "المذهل" في سبتمبر: إشاعات عن آيفون 17 وإيربودز برو 3
تؤكد أبل حدث إطلاقها المذهل في سبتمبر، مع توقع أن تكون سلسلة آيفون 17 هي الحدث الأبرز. من المتوقع أيضًا الكشف عن إيربودز برو 3 ونماذج جديدة من ساعة أبل.
ADVERTISEMENT
14-08-2025
Vbot و EVE Energy يبرمان تحالفًا لبطاريات الروبوتات المتقدمة
تتعاون Vbot مع EVE Energy لتطوير بطاريات عالية الأداء للروبوتات، بهدف تعزيز قدرات الروبوتات عبر مختلف الصناعات باستخدام حلول طاقة متقدمة.
22-07-2025
أكد علماء الفلك وجود نجم مصاحب لنجم منكب الجوزاء، وحل لغز الخفوت
أكد علماء الفلك وجود نجم مصاحب يدور حول نجم منكب الجوزاء، مما حل لغز دورة التعتيم التي استمرت ست سنوات ويقدم رؤى جديدة حول تطور النجوم.
17-07-2025
أوقفت OpenAI إصدار نموذج الذكاء الاصطناعي مفتوح الوزن وسط مخاوف تتعلق بالسلامة والمنافسة مع Meta
أوبن إيه آي تؤجل نموذج الذكاء الاصطناعي مفتوح الوزن المنتظر، مشيرة إلى مخاوف تتعلق بالسلامة وسط منافسة شديدة مع ميتا ومطوري الذكاء الاصطناعي الآخرين.
ADVERTISEMENT