عمالقة الذكاء الاصطناعي يتحدون لحماية الشفافية الزائلة في التفكير الآلي

التكنولوجيا اليومية

التكنولوجيا اليومية

·

16/07/2025

button icon
ADVERTISEMENT

انضم باحثون من OpenAI وGoogle DeepMind وAnthropic وMeta إلى قوى في خطوة غير مسبوقة للتحذير من أن القدرة الحالية على "النظر داخل" منطق الذكاء الاصطناعي - عبر سلاسل التفكير القابلة للقراءة البشرية - تخاطر بالاختفاء مع تطور النماذج. يحث التحالف على اتخاذ إجراءات سريعة ومنسقة للحفاظ على نافذة الأمان الحاسمة هذه قبل أن تجعل البنى المتقدمة عملية اتخاذ القرارات في الذكاء الاصطناعي مبهمة.

النقاط الرئيسية

شرح منطق الذكاء الاصطناعي الشفاف

تقوم نماذج التفكير الحديثة مثل نظام o1 الخاص بـ OpenAI بإنشاء "سلاسل تفكير" خطوة بخطوة باللغة الإنجليزية العادية. تعمل آثار التفكير المرئية هذه كنظام إنذار مبكر، حيث تكشف متى يفكر النموذج في إجراءات ضارة مثل القرصنة أو التخريب قبل تنفيذها.

ADVERTISEMENT

يشير الباحثون إلى ما يلي:

الهشاشة تهدد المراقبة

على الرغم من وعدها، فإن شفافية CoT مهددة بالعديد من التحولات التكنولوجية:

• التعلم المعزز مع المكافآت التي تعتمد على النتائج فقط والتي تفضل الكفاءة على الوضوح
• الانتقال من بيانات التدريب التي تم إنشاؤها بواسطة الإنسان إلى البيانات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، مما يؤدي إلى تآكل التفكير القائم على اللغة الإنجليزية
• هندسة معمارية جديدة للتفكير في مساحات كامنة مستمرة بدون لغة منفصلة

ADVERTISEMENT

يمكن أن تدفع هذه التطورات أنظمة الذكاء الاصطناعي إلى تبني اختصارات أو رموز داخلية، مما يخفي النوايا الحقيقية بشكل فعال.

دعوة تعاونية للعمل

تحث الورقة على وضع معايير صناعية موحدة لقياس وحماية القدرة على المراقبة. تشمل التوصيات ما يلي:

  1. دمج مقاييس الشفافية في تقييم النموذج وقرارات النشر.
  2. الحفاظ على الرجوع إلى إصدارات النموذج السابقة والأكثر قابلية للتفسير إذا فقدت الإصدارات الأحدث سلوك CoT.
  3. تشجيع البحث المفتوح حول طرق الكشف عن إخفاء التفكير ومواجهته.

يؤكد هذا الموقف التعاوني، الذي أقره أكثر من 40 خبيرًا بما في ذلك Geoffrey Hinton وIlya Sutskever، على المخاطر المشتركة.

ADVERTISEMENT

الآثار التنظيمية

إذا ظلت مراقبة سلسلة التفكير قابلة للتطبيق، فيمكن للمنظمين والمراجعين الحصول على نظرة ثاقبة غير مسبوقة لعملية اتخاذ القرارات في الذكاء الاصطناعي. قد تطلب السلطات يومًا ما تقييمات الشفافية كجزء من أطر الامتثال، لتكملة بروتوكولات السلامة الحالية.

أسئلة بحثية عاجلة

لا تزال هناك فجوات حرجة قبل أن يتم الاعتماد على مراقبة CoT:

سيحدد معالجة هذه الأسئلة بسرعة ما إذا كانت الإنسانية تحتفظ بالقدرة على فهم أقوى إبداعات الذكاء الاصطناعي لديها أو تشاهد تلك النافذة تغلق إلى الأبد.

قراءة مقترحة

09-08-2025
أجهزة ROG Xbox Ally المحمولة من المقرر إطلاقها في أكتوبر بأسعار مسربة
تشير تقارير مسربة إلى أن أجهزة ROG Xbox Ally المحمولة ستُطلق في 16 أكتوبر 2025، بأسعار تبدأ من 599 يورو للنموذج القياسي و 899 يورو لجهاز Xbox Ally X.
ADVERTISEMENT
22-05-2025
جوني آيف، أسطورة تصميم آبل، ينضم إلى OpenAI
جوني آيف، المصمم الشهير في آبل، ينضم إلى OpenAI لتطوير أجهزة جديدة للذكاء الاصطناعي، مما يمثل تحديًا لشركات التكنولوجيا الكبرى.
14-08-2025
الثلاثاء الخاص بتصحيحات مايكروسوفت لشهر أغسطس: إصلاح ثغرة كيربيروس ليوم الصفر و110 ثغرات أخرى
يعالج الثلاثاء الأمني لشهر أغسطس 2025 من مايكروسوفت 111 ثغرة أمنية، بما في ذلك ثغرة حرجة من نوع "يوم الصفر" في Kerberos (CVE-2025-53779) وثغرات أخرى عالية الخطورة في Azure و GDI+ ورسومات Windows.
11-09-2025
ذكاء جوجل الاصطناعي يعلن بالخطأ أن وكالة DOGE التابعة لإيلون ماسك وهمية
وصفت الذكاء الاصطناعي من جوجل وكالة DOGE التابعة لإيلون ماسك بأنها وهمية عن طريق الخطأ، مما أثار الارتباك ودفع عملاق التكنولوجيا إلى الاعتراف بالخطأ.
ADVERTISEMENT
08-07-2025
حصل روبوت على شهادة في حفل تخرج المدرسة الثانوية في الصين
حصل روبوت شبيه بالبشر على شهادة في حفل تخرج من المدرسة الثانوية في فوجيان، الصين، مما يمثل لحظة فكاهية وهامة لدمج الذكاء الاصطناعي.
12-06-2025
جولي كيت تستعد: ترقيات عصا التحكم لـ Switch 2 قيد العمل بالفعل
تعمل GuliKit بالفعل على تطوير ترقيات لذراع التحكم لجهاز Nintendo Switch 2، لمعالجة مخاوف الانجراف المحتملة حيث من المتوقع أن يستخدم الجهاز الجديد تقنية ذراع التحكم المشابهة لسلفه.
03-06-2025
لا تزل هذا الغشاء البلاستيكي عند فتح جهاز نينتندو سويتش 2 الجديد!
اكتشف لماذا يجب ألا تزيل الغشاء البلاستيكي الواقي عن شاشة نينتندو سويتش 2 الجديد، ونصائح هامة للعناية بالجهاز.
ADVERTISEMENT
15-07-2025
علامة سعر Xbox Ally: تسريب يشير إلى أنها قد تكون أعلى من المتوقع
تشير المعلومات المسربة إلى أن جهاز Xbox Ally المحمول للألعاب قد يكون سعره أعلى من المتوقع، ربما حوالي 700 دولار، مع سعر Ally X عند 1,050 دولارًا. الرسوم الجمركية وواجهة مستخدم Xbox المحسّنة هما عاملان رئيسيان.
19-08-2025
سامسونج تكشف عن Galaxy Buds 3 FE: ميزات فاخرة بسعر 150 دولارًا
تطلق سامسونج سماعات Galaxy Buds 3 FE الاقتصادية بسعر 150 دولارًا، وتقدم ميزات الذكاء الاصطناعي وإلغاء الضوضاء بسعر أقل من سماعات Buds 3 Pro الرائدة.
25-08-2025
أحدثت التكنولوجيا ثورة في المشهد الرياضي بالشرق الأوسط
اكتشف كيف تُحدث التكنولوجيا ثورة في الرياضة بالشرق الأوسط، من البث المباشر والرياضات الإلكترونية إلى الأساليب الجديدة في المراهنات الرياضية، مدفوعة بالتنويع الاقتصادي ووجود شريحة سكانية شابة ومشاركة.
ADVERTISEMENT
07-07-2025
روبوتات الصين تنطلق: سلسلة توريد محلية بنسبة 90% تقلل الاعتماد على رقائق الولايات المتحدة
تحقق الصين نسبة توطين تبلغ 90% في سلسلة توريد الروبوتات الشبيهة بالبشر، مما يقلل الاعتماد على الرقائق الأمريكية وسط تصاعد التوترات التجارية ومفاوضات العناصر الأرضية النادرة.
21-05-2025
جوجل تتعاون مع ووربي باركر لتطوير نظارات ذكية تنافس راي-بان من ميتا
جوجل تتعاون مع ووربي باركر لتطوير نظارات ذكية تنافس راي-بان من ميتا، مع استثمار يصل إلى 150 مليون دولار.
01-09-2025
مطارات الشرق الأوسط الرائدة لعام 2025: حيث تلتقي التكنولوجيا بالفخامة
استكشف أفضل 10 مطارات في الشرق الأوسط لعام 2025، والتي حازت على تقدير سكاي تراكس لدمجها بين التكنولوجيا المتطورة ووسائل الراحة الفاخرة وخدمة الركاب الاستثنائية.
ADVERTISEMENT
29-08-2025
ويروبوتكس تكشف عن أليكس: روبوت بشري يحاكي الاستجابة البشرية
اكتشف أليكس، الروبوت البشري الجديد من WIRobotics، الذي يتميز باستجابة شبيهة بالبشر، واستشعار متقدم للقوة، ورؤية للاندماج اليومي.
11-06-2025
المخرج ديبلوا يكشف عن تطور شخصية ستويك التي يؤديها جيرارد بتلر في فيلم 'كيف تدرب تنينك' الواقعي
يناقش المخرج دين ديبلوا تعميق شخصية ستويك التي يؤديها جيرارد بتلر في فيلم
02-07-2025
الروبوتات في الفنادق: إقامة مستقبلية أم لقاء غريب؟
استكشف كيف تستخدم الفنادق الروبوتات بشكل متزايد لخدمات الضيوف، وردود الفعل المتباينة من المسافرين، ومستقبل الذكاء الاصطناعي في صناعة الضيافة.
ADVERTISEMENT