اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

·

08/09/2025

ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

تبين أن وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين" يفتقران إلى الضمانات الكافية.
غالبًا ما كان روبوت الدردشة يحاكي الإصدارات المخصصة للبالغين مع تصفية سطحية للمحتوى فقط.
حصل Gemini على تصنيف "عالي الخطورة"، بينما صُنفت المنافسون مثل ChatGPT على أنها "متوسطة الخطورة".
أثيرت مخاوف بشأن شفافية استخدام البيانات وفعالية الرقابة الأبوية.

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

الاتجاهات الرئيسية التي تشكل مستقبل الروبوتات الشبيهة بالبشر: دراسة حالة تسلا أوبتيموس

استكشف خمسة اتجاهات تكنولوجية حرجة من تطور روبوت تسلا البشري أوبتيموس، بما في ذلك الاستقلالية، والتفاعلات بين الإنسان والروبوت، والتشكيك في الصناعة.

ADVERTISEMENT

ثورة أبل في الذكاء الاصطناعي: الروبوتات، والأجهزة القابلة للطي، وسيري أكثر ذكاءً في الأفق

يُقال إن شركة آبل تستعد لإطلاق موجة من المنتجات المدعومة بالذكاء الاصطناعي، بما في ذلك روبوتات متقدمة، وسيري نابضة بالحياة، وأجهزة قابلة للطي، بهدف تعزيز ثقة المستثمرين وتحسين تجربة المستخدم.

مراجعة مقارنة: Samsung Galaxy Z TriFold مقابل Galaxy Z Fold 7

مقارنة مفصلة بين جالاكسي زد تراي فولد وجالاكسي زد فولد 7 من سامسونج، مع فحص التصميم والأداء التقني وسهولة الاستخدام والتأثير في السوق لعشاق التكنولوجيا.

مايكروسوفت تطلق Copilot Vision AI لمستخدمي ويندوز في الولايات المتحدة

مساعد Copilot Vision AI من Microsoft متاح الآن على نظام Windows في الولايات المتحدة، مما يتيح للمستخدمين الحصول على مساعدة الذكاء الاصطناعي من خلال تحليل المحتوى المعروض على الشاشة من تطبيقين كحد أقصى.

ADVERTISEMENT

يواجه قطاع التكنولوجيا تباطؤًا في التوظيف: ارتفاع التسريحات بينما تكافح الولايات للاحتفاظ بالمواهب

استكشف أحدث تقرير للوظائف في الولايات المتحدة يكشف عن تباطؤ في قطاع التكنولوجيا، مع فقدان الوظائف وصعوبة الولايات في جذب واستبقاء المواهب التقنية. افهم التحول نحو الأتمتة والمهارات المتخصصة.

إل جي تكشف عن مكبر صوت كاريوكي يعمل بالذكاء الاصطناعي وتشكيلة Xboom الجديدة

تقدم إل جي تشكيلتها الجديدة من مكبرات الصوت للحفلات Xboom، والتي تضم Stage 501 مع وظيفة كاريوكي مدعومة بالذكاء الاصطناعي لإزالة الأصوات من الأغاني، إلى جانب طرازات أخرى مثل Blast و Mini و Rock.

روبوت كاوا 2026 المزود برحم اصطناعي يعد بثورة في علاج العقم وسط عاصفة أخلاقية

روبوت كاوا التكنولوجي البشري لعام 2026 المزود برحم اصطناعي يستعد لإحداث ثورة في علاجات العقم، مما يشعل نقاشًا عالميًا حول الأخلاقيات والتنظيم ومستقبل الإنجاب.

ADVERTISEMENT

ورد أن المملكة المتحدة تخلت عن مطالبها بوجود باب خلفي لتشفير Apple بعد ضغوط من الولايات المتحدة

ورد أن حكومة المملكة المتحدة تتراجع عن مطالبها بالوصول الخلفي إلى تشفير iCloud الخاص بشركة Apple، بعد ضغوط من الولايات المتحدة، مما يمثل انتصارًا للخصوصية الرقمية.

حققت Unitree Robotics مكانة الشركة اليونيكورن بتقييم 1.7 مليار دولار.

حققت Unitree Robotics مكانة الشركة الناشئة المليارية بتقييم قدره 1.7 مليار دولار بعد تأمين تمويل من السلسلة C، بقيادة مستثمرين رئيسيين مثل Tencent و Alibaba، مما يسلط الضوء على نموها في مجال الروبوتات ذات الأرجل بأسعار معقولة.

سبيس إكس التابعة لإيلون ماسك تتطلع إلى الهيمنة على شبكة الهاتف المحمول من خلال الاستحواذ على الطيف الترددي

يُذكر أن شركة سبيس إكس التابعة لإيلون ماسك تستحوذ على نطاق ترددي لاسلكي كبير، مما يشير إلى عزمها بناء شبكة الجيل الخامس (5G) الخاصة بها، وهو ما قد يُحدث ثورة في اتصال الهواتف.

ADVERTISEMENT