اعتُبر روبوت الدردشة جيميني من جوجل عالي الخطورة على الأطفال بسبب مخاوف تتعلق بالسلامة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

08/09/2025

button icon
ADVERTISEMENT

صنفت منظمة Common Sense Media، وهي منظمة غير ربحية تركز على الرفاهية الرقمية للأطفال، روبوت الدردشة Gemini من جوجل كأداة عالية الخطورة للمستخدمين الصغار. كشفت الدراسة عن ثغرات أمنية كبيرة في إصدارات Gemini المصممة للأطفال والمراهقين، مما يسمح بمناقشة مواضيع حساسة مثل الجنس والمخدرات، مما يثير مخاوف بشأن مدى ملاءمته للبيئات التعليمية والعائلية.

النقاط الرئيسية

ثغرات أمنية في أوضاع Gemini المخصصة للشباب

ركز تقييم Common Sense Media على وضعي Gemini "أقل من 13 عامًا" و"تجربة المراهقين"، اللذين تسوقهما جوجل على أنهما مناسبان للعمر. ومع ذلك، اكتشف المختبرون أن هذه الإصدارات غالبًا ما فشلت في حظر المحتوى غير المناسب، وكثيرًا ما كانت تحاكي إصدار Gemini الموجه للبالغين مع تعديلات طفيفة. يعني هذا الإغفال أن القاصرين قد يتعرضون لمعلومات ضارة عند التفاعل مع روبوت الدردشة حول مواضيع حساسة.

ADVERTISEMENT

المنهجية والتحليل المقارن

تضمنت الاختبارات الصارمة للمنظمة غير الربحية تفاعلات محاكاة مصممة لاستكشاف حدود الذكاء الاصطناعي. أبرز التقرير التناقضات في تصفية المحتوى، مما قد يؤدي إلى تعرض غير مقصود للمستخدمين المعرضين للخطر. مقارنة بـ ChatGPT من OpenAI، الذي حصل على تصنيف "متوسط الخطورة" في نفس الدراسة، سجل Gemini أداءً ضعيفًا في المقاييس الحاسمة مثل شفافية استخدام البيانات وفعالية الرقابة الأبوية. وقد أدى هذا التباين إلى دعوات لرقابة تنظيمية أكثر قوة على أدوات الذكاء الاصطناعي الموجهة للفئات العمرية الأصغر.

استجابة جوجل وتداعيات الصناعة

ردًا على النتائج، صرحت جوجل بالتزامها بالسلامة والتحسين المستمر لـ Gemini بناءً على ملاحظات المستخدمين ومدخلات الخبراء. ومع ذلك، يجادل النقاد بأن هذه الإجراءات التفاعلية غير كافية، خاصة مع توسع دمج الذكاء الاصطناعي في المدارس والمنازل. يمكن أن يؤثر تصنيف "عالي الخطورة" بشكل كبير على قرارات الوالدين وربما يدفع إلى وضع إرشادات تنظيمية أكثر صرامة لمنتجات الذكاء الاصطناعي التي تستهدف القاصرين. يؤكد هذا الوضع تحديًا أوسع للصناعة: الموازنة بين الابتكار السريع في الذكاء الاصطناعي والمسؤولية الحاسمة لحماية الأطفال. يقترح الخبراء أن دمج عمليات التدقيق من طرف ثالث والاعتدال المتقدم للمحتوى، إلى جانب تحسين اكتشاف العمر والتصفية الديناميكية، يمكن أن يساعد في تخفيف هذه المخاطر وتعزيز بيئة أكثر جدارة بالثقة للذكاء الاصطناعي في التعليم والترفيه.

قراءة مقترحة

25-08-2025
محفزات رباطية جديدة تمهد الطريق لإنتاج الهيدروجين الأخضر بأسعار معقولة
طور باحثون في جامعة أشوكا محفزات 'ليجاند' جديدة واعدة يمكن أن تحسن بشكل كبير الكفاءة وتقلل تكلفة إنتاج الهيدروجين الأخضر.
ADVERTISEMENT
04-12-2025
الاتجاهات الرئيسية في تطبيق مادة TPU في الروبوتات الشبيهة بالبشر
استكشف خمسة اتجاهات رئيسية في تطبيق مادة TPU للروبوتات الشبيهة بالبشر، تغطي الأيدي المرنة، والجلود الناعمة، وابتكارات الطباعة ثلاثية الأبعاد، والاستشعار اللمسي.
24-09-2025
الفطر الأسود يحول النفايات البلاستيكية إلى مكونات صالحة للأكل ومواد مستدامة
اكتشف كيف يُحدث فطر أسود مذهل ثورة في إدارة النفايات بتحويل البلاستيك إلى مكونات صالحة للأكل ومواد مستدامة، مما يقدم حلاً واعدًا للتلوث.
02-09-2025
حافظة آيفون 17 برو "الشفافة" قد لا تكون شفافة جدًا في النهاية
استكشف أحدث الشائعات حول حافظة آيفون 17 برو الشفافة، والتي قد تتميز بقسم أبيض كبير غير شفاف بدلاً من الشفافية الكاملة، ربما بسبب شريط الكاميرا الأكبر في الطراز الجديد.
ADVERTISEMENT
09-09-2025
ما وراء العمالقة: KOID القابضة تغذي الموجة التالية من الروبوتات البشرية
استكشف كيف تستثمر KOID Holdings في شركات رئيسية مثل MP Materials و Rainbow Robotics و Robosense و UBTech Robotics التي تبني الجيل القادم من الروبوتات الشبيهة بالبشر، من موادها الأساسية إلى ذكائها المتقدم.
05-12-2025
الاتجاهات الرئيسية التي تشكل صناعة الساعات الذكية في 2024-2025
استكشف أهم اتجاهات صناعة الساعات الذكية في 2024-2025: دورات منتجات سريعة، إطلاق مجمّع، تموضع متميز، وهيكل العلامة التجارية، مع عرض تشكيلة Galaxy Watch Ultra من سامسونج.
15-10-2025
زر "أنا محظوظ" ولوحة تحكم الاستخدام في Google AI Studio
تعمل جوجل على تعزيز منصة AI Studio بميزات جديدة تهدف إلى تحسين تجربة المستخدم والتحكم. يُقال إن الشركة تعمل على زر "أنا محظوظ"، يذكرنا بميزة البحث الشهيرة الخاصة بها، والمصمم لتوليد مطالبات عشوائية تلقائيًا وعرض قدرات Gemini. بالإضافة إلى ذلك، تم تقديم لوحة تحكم استخدام جديدة لتزويد المطورين بشفافية وتحكم أكبر في استهلاك الرموز وحدود المعدل.
ADVERTISEMENT
25-08-2025
مراجعة Technics EAH-AZ100: سماعات أذن تقدم صوتًا بمستوى متقدم
مراجعة لسماعات الأذن اللاسلكية Technics EAH-AZ100، مع تسليط الضوء على جودة صوتها الاستثنائية، وعمر البطارية الطويل، والملاءمة المريحة، على الرغم من متوسط أداء إلغاء الضوضاء النشط (ANC) والتصميم.
23-06-2025
روبوتاكسي تسلا ينطلق في أوستن: رهان بتريليون دولار
تطلق تسلا خدمة سيارات الأجرة الروبوتية في أوستن، تكساس، مما يمثل خطوة مهمة في رؤية إيلون ماسك لمستقبل الشركة في الذكاء الاصطناعي والروبوتات، وسط منافسة شرسة.
23-09-2025
CMF by Nothing تكشف عن سماعة الرأس برو: تم التشويق لأكواب أذن قابلة للتخصيص و"منزلق طاقة" مبتكر
تستعد CMF by Nothing لإطلاق أول سماعات رأس فوق الأذن لها، وهي Headphone Pro، والتي تتميز بأغطية أذن قابلة للتخصيص ومفتاح "منزلق طاقة" فريد للتحكم الصوتي المحسن. اكتشف التفاصيل وموعد الإطلاق المتوقع.
ADVERTISEMENT