عمالقة الذكاء الاصطناعي يتحدون لحماية الشفافية الزائلة في التفكير الآلي

التكنولوجيا اليومية

التكنولوجيا اليومية

·

16/07/2025

button icon
ADVERTISEMENT

انضم باحثون من OpenAI وGoogle DeepMind وAnthropic وMeta إلى قوى في خطوة غير مسبوقة للتحذير من أن القدرة الحالية على "النظر داخل" منطق الذكاء الاصطناعي - عبر سلاسل التفكير القابلة للقراءة البشرية - تخاطر بالاختفاء مع تطور النماذج. يحث التحالف على اتخاذ إجراءات سريعة ومنسقة للحفاظ على نافذة الأمان الحاسمة هذه قبل أن تجعل البنى المتقدمة عملية اتخاذ القرارات في الذكاء الاصطناعي مبهمة.

النقاط الرئيسية

شرح منطق الذكاء الاصطناعي الشفاف

تقوم نماذج التفكير الحديثة مثل نظام o1 الخاص بـ OpenAI بإنشاء "سلاسل تفكير" خطوة بخطوة باللغة الإنجليزية العادية. تعمل آثار التفكير المرئية هذه كنظام إنذار مبكر، حيث تكشف متى يفكر النموذج في إجراءات ضارة مثل القرصنة أو التخريب قبل تنفيذها.

ADVERTISEMENT

يشير الباحثون إلى ما يلي:

الهشاشة تهدد المراقبة

على الرغم من وعدها، فإن شفافية CoT مهددة بالعديد من التحولات التكنولوجية:

• التعلم المعزز مع المكافآت التي تعتمد على النتائج فقط والتي تفضل الكفاءة على الوضوح
• الانتقال من بيانات التدريب التي تم إنشاؤها بواسطة الإنسان إلى البيانات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، مما يؤدي إلى تآكل التفكير القائم على اللغة الإنجليزية
• هندسة معمارية جديدة للتفكير في مساحات كامنة مستمرة بدون لغة منفصلة

ADVERTISEMENT

يمكن أن تدفع هذه التطورات أنظمة الذكاء الاصطناعي إلى تبني اختصارات أو رموز داخلية، مما يخفي النوايا الحقيقية بشكل فعال.

دعوة تعاونية للعمل

تحث الورقة على وضع معايير صناعية موحدة لقياس وحماية القدرة على المراقبة. تشمل التوصيات ما يلي:

  1. دمج مقاييس الشفافية في تقييم النموذج وقرارات النشر.
  2. الحفاظ على الرجوع إلى إصدارات النموذج السابقة والأكثر قابلية للتفسير إذا فقدت الإصدارات الأحدث سلوك CoT.
  3. تشجيع البحث المفتوح حول طرق الكشف عن إخفاء التفكير ومواجهته.

يؤكد هذا الموقف التعاوني، الذي أقره أكثر من 40 خبيرًا بما في ذلك Geoffrey Hinton وIlya Sutskever، على المخاطر المشتركة.

ADVERTISEMENT

الآثار التنظيمية

إذا ظلت مراقبة سلسلة التفكير قابلة للتطبيق، فيمكن للمنظمين والمراجعين الحصول على نظرة ثاقبة غير مسبوقة لعملية اتخاذ القرارات في الذكاء الاصطناعي. قد تطلب السلطات يومًا ما تقييمات الشفافية كجزء من أطر الامتثال، لتكملة بروتوكولات السلامة الحالية.

أسئلة بحثية عاجلة

لا تزال هناك فجوات حرجة قبل أن يتم الاعتماد على مراقبة CoT:

سيحدد معالجة هذه الأسئلة بسرعة ما إذا كانت الإنسانية تحتفظ بالقدرة على فهم أقوى إبداعات الذكاء الاصطناعي لديها أو تشاهد تلك النافذة تغلق إلى الأبد.

قراءة مقترحة

04-07-2025
وصول Veo 3 من Google إلى الشرق الأوسط: إحداث ثورة في إنشاء الفيديو بالذكاء الاصطناعي لمستخدمي Gemini
أصبح Veo 3 من Google، وهي أداة متطورة لتوليد الفيديو بالذكاء الاصطناعي، متاحة الآن لمستخدمي Gemini في الشرق الأوسط، مما يتيح إنشاء فيديو فائق الواقعية من مطالبات نصية.
ADVERTISEMENT
12-08-2025
دراسة إماراتية تكشف عن ابتكارات احتجاز الكربون لمستقبل أكثر اخضرارًا
اكتشف إنجازات رائدة في تكنولوجيا احتجاز الكربون من دراسة إماراتية، تتضمن مزيجًا متقدمًا من الأمينات، وأنظمة التأرجح الكهربائي، والمواد العضوية المعدنية (MOFs)، ودورها في تحقيق أهداف الاستدامة بالمنطقة.
13-06-2025
أنكر تستدعي أكثر من مليون بنك طاقة باور كور 10000 وسط مخاوف من اندلاع حريق
استدعت Anker أكثر من 1.1 مليون بنك طاقة PowerCore 10000 بسبب مخاطر الحريق والانفجار. تعرف على كيفية التحقق مما إذا كان جهازك متأثرًا وخطوات الاستبدال.
17-06-2025
مستخدمو إنستغرام يواجهون حظرًا جماعيًا، ويشتبه في الذكاء الاصطناعي
يبلغ مستخدمو Instagram عن حظر واسع النطاق للحسابات عن طريق الخطأ، ويشتبه الكثيرون في أن السبب هو الأتمتة بالذكاء الاصطناعي. تؤثر هذه المشكلة على سبل العيش وقد أدت إلى دعوات لاتخاذ إجراءات قانونية.
ADVERTISEMENT
23-05-2025
ترامب يجلب الذكاء الاصطناعي إلى الشرق الأوسط بدلاً من الديمقراطية
تقرير عن زيارة ترامب للشرق الأوسط التي تركز على التكنولوجيا بدلاً من الديمقراطية، مع التركيز على صفقة الرقائق المتقدمة والمنافسة مع الصين.
09-07-2025
رقمنة العقارات تغذي توحيد أدوات التصور في الشرق الأوسط
تشهد منطقة الشرق الأوسط وأفريقيا زيادة في التوحيد في تصور العقارات بسبب تزايد اعتماد أدوات التصيير ثلاثي الأبعاد، مما يعزز تخطيط المشاريع ومشاركة المستثمرين.
11-06-2025
دليل الهدايا النهائي لعيد الأب للمهوس المحب للمعجبين
اكتشف دليل هدايا عيد الأب المثالي للمهوس المحب للمعجبين في حياتك، والذي يضم ملابس الأبطال الخارقين، والأدوات التقنية، والمقتنيات التي تبعث على الحنين إلى الماضي.
ADVERTISEMENT
15-07-2025
عشرات من "المجرات الشبحية" قد تدور حول درب التبانة، كما يشتبه علماء الفلك
تشير أبحاث جديدة إلى أن العشرات من "المجرات الشبحية" قد تدور حول مجرة درب التبانة، مما قد يحل لغزًا طال أمده في علم الكونيات ويعزز نظرية المادة المظلمة الباردة لامدا.
20-06-2025
الروبوت الرائد: الروبوت البشري الصيني يصبح أول مرشد للمشي لمسافات طويلة في جبل تاي
روبوت بشري صيني يصنع التاريخ كأول روبوت من نوعه يرشد المتنزهين في جبل تاي، مما يشير إلى حقبة جديدة للسياحة والروبوتات.
27-05-2025
ضرورة ملكية النماذج اللغوية الكبيرة للذكاء الاصطناعي بشكل عام
تتناول المقالة أهمية ملكية النماذج اللغوية الكبيرة للذكاء الاصطناعي بشكل عام، وتسلط الضوء على المخاوف المتعلقة بالشفافية وعدم المساواة في الوصول.
ADVERTISEMENT
14-08-2025
الثلاثاء الخاص بتصحيحات مايكروسوفت لشهر أغسطس: إصلاح ثغرة كيربيروس ليوم الصفر و110 ثغرات أخرى
يعالج الثلاثاء الأمني لشهر أغسطس 2025 من مايكروسوفت 111 ثغرة أمنية، بما في ذلك ثغرة حرجة من نوع "يوم الصفر" في Kerberos (CVE-2025-53779) وثغرات أخرى عالية الخطورة في Azure و GDI+ ورسومات Windows.
09-06-2025
الكشف عن أطلس: كيف يرى روبوت بوسطن ديناميكس الشبيه بالبشر العالم
اكتشف كيف يدرك روبوت أطلس البشري من بوسطن ديناميكس العالم، مستخدمًا أجهزة استشعار متقدمة ومعالجة البيانات في الوقت الفعلي لتحقيق رشاقة وتفاعل بيئي لا مثيل لهما.
22-05-2025
عودة فورتنايت إلى متجر آبل: انتصار "لا يقدر بثمن"
تيم سويني، الرئيس التنفيذي لشركة إبيك غيمز، يصف عودة فورتنايت إلى متجر آبل بأنها انتصار "لا يقدر بثمن" بعد خمس سنوات من النزاع القانوني.
ADVERTISEMENT
03-06-2025
تحول الثروات في الشرق الأوسط: هل التكنولوجيا هي المفتاح؟
اكتشف كيف يمكن للتكنولوجيا أن تسهل نقل أكثر من تريليون دولار من الأصول في الشرق الأوسط بحلول عام 2030، مع التركيز على الرقمنة، الذكاء الاصطناعي، والبلوك تشين.
11-08-2025
روبوتات أكثر ذكاءً للصناعة 5.0: الذكاء الاصطناعي يعزز التعاون بين الإنسان والروبوت
اكتشف كيف يُحدث التوليد المعزز بالاسترجاع والشبكات العصبية التحويلية ثورة في التفاعل بين الإنسان والروبوت في مجال التصنيع من أجل الصناعة 5.0، مما يؤدي إلى روبوتات أكثر ذكاءً وقدرة على التكيف.
29-05-2025
تحول الذكاء الاصطناعي: كيف تغير الدردشة الآلية رؤية العلامات التجارية في البحث
تتعرف على كيفية تأثير الدردشة الآلية المدعومة بالذكاء الاصطناعي على رؤية العلامات التجارية في نتائج البحث، وكيف يمكن للعلامات التجارية الصغيرة الاستفادة من هذه التغييرات.
ADVERTISEMENT