عمالقة الذكاء الاصطناعي يتحدون لحماية الشفافية الزائلة في التفكير الآلي

التكنولوجيا اليومية

التكنولوجيا اليومية

·

16/07/2025

button icon
ADVERTISEMENT

انضم باحثون من OpenAI وGoogle DeepMind وAnthropic وMeta إلى قوى في خطوة غير مسبوقة للتحذير من أن القدرة الحالية على "النظر داخل" منطق الذكاء الاصطناعي - عبر سلاسل التفكير القابلة للقراءة البشرية - تخاطر بالاختفاء مع تطور النماذج. يحث التحالف على اتخاذ إجراءات سريعة ومنسقة للحفاظ على نافذة الأمان الحاسمة هذه قبل أن تجعل البنى المتقدمة عملية اتخاذ القرارات في الذكاء الاصطناعي مبهمة.

النقاط الرئيسية

شرح منطق الذكاء الاصطناعي الشفاف

تقوم نماذج التفكير الحديثة مثل نظام o1 الخاص بـ OpenAI بإنشاء "سلاسل تفكير" خطوة بخطوة باللغة الإنجليزية العادية. تعمل آثار التفكير المرئية هذه كنظام إنذار مبكر، حيث تكشف متى يفكر النموذج في إجراءات ضارة مثل القرصنة أو التخريب قبل تنفيذها.

ADVERTISEMENT

يشير الباحثون إلى ما يلي:

الهشاشة تهدد المراقبة

على الرغم من وعدها، فإن شفافية CoT مهددة بالعديد من التحولات التكنولوجية:

• التعلم المعزز مع المكافآت التي تعتمد على النتائج فقط والتي تفضل الكفاءة على الوضوح
• الانتقال من بيانات التدريب التي تم إنشاؤها بواسطة الإنسان إلى البيانات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، مما يؤدي إلى تآكل التفكير القائم على اللغة الإنجليزية
• هندسة معمارية جديدة للتفكير في مساحات كامنة مستمرة بدون لغة منفصلة

ADVERTISEMENT

يمكن أن تدفع هذه التطورات أنظمة الذكاء الاصطناعي إلى تبني اختصارات أو رموز داخلية، مما يخفي النوايا الحقيقية بشكل فعال.

دعوة تعاونية للعمل

تحث الورقة على وضع معايير صناعية موحدة لقياس وحماية القدرة على المراقبة. تشمل التوصيات ما يلي:

  1. دمج مقاييس الشفافية في تقييم النموذج وقرارات النشر.
  2. الحفاظ على الرجوع إلى إصدارات النموذج السابقة والأكثر قابلية للتفسير إذا فقدت الإصدارات الأحدث سلوك CoT.
  3. تشجيع البحث المفتوح حول طرق الكشف عن إخفاء التفكير ومواجهته.

يؤكد هذا الموقف التعاوني، الذي أقره أكثر من 40 خبيرًا بما في ذلك Geoffrey Hinton وIlya Sutskever، على المخاطر المشتركة.

ADVERTISEMENT

الآثار التنظيمية

إذا ظلت مراقبة سلسلة التفكير قابلة للتطبيق، فيمكن للمنظمين والمراجعين الحصول على نظرة ثاقبة غير مسبوقة لعملية اتخاذ القرارات في الذكاء الاصطناعي. قد تطلب السلطات يومًا ما تقييمات الشفافية كجزء من أطر الامتثال، لتكملة بروتوكولات السلامة الحالية.

أسئلة بحثية عاجلة

لا تزال هناك فجوات حرجة قبل أن يتم الاعتماد على مراقبة CoT:

سيحدد معالجة هذه الأسئلة بسرعة ما إذا كانت الإنسانية تحتفظ بالقدرة على فهم أقوى إبداعات الذكاء الاصطناعي لديها أو تشاهد تلك النافذة تغلق إلى الأبد.

قراءة مقترحة

22-07-2025
ووكر إس 2 من يوبيتك: الروبوت الشبيه بالبشر الذي لا يتوقف أبدًا
اكتشف Walker S2 من UBTech، وهو روبوت بشري ثوري يمكنه تبديل بطاريته ذاتيًا بشكل مستقل، مما يتيح التشغيل المستمر على مدار الساعة طوال أيام الأسبوع ويدفع حدود الاستقلالية الروبوتية.
ADVERTISEMENT
19-06-2025
HONOR تدخل عالم الروبوتات، محطمة الرقم القياسي لسرعة الروبوتات الشبيهة بالبشر بفضل الذكاء الاصطناعي
HONOR يحطم الرقم القياسي لسرعة الروبوتات الشبيهة بالبشر، حيث يصل إلى 4 أمتار في الثانية، مدعومًا بخوارزميات الذكاء الاصطناعي الخاصة به، مما يمثل دخولًا مهمًا في مجال الروبوتات.
18-06-2025
شركات الروبوتات البشرية في الصين تقدم رواتب خيالية وسط صراع على مواهب الذكاء الاصطناعي
تدفع شركات الروبوتات البشرية الصينية للمهندسين ومواهب الذكاء الاصطناعي أكثر من ثلاثة أضعاف المتوسط الوطني بسبب نقص حاد في المواهب، مما يسلط الضوء على طلب القطاع المزدهر على المهارات المتخصصة.
04-06-2025
النشأة غير المتوقعة لفيلم الرسوم المتحركة 'المفترس: قاتل القتلة'
اكتشف الأصول المفاجئة لفيلم الرسوم المتحركة
ADVERTISEMENT
09-07-2025
روبوت شبيه بالبشر "يتخرج" من مدرسة ثانوية صينية في حفل غير مسبوق
يتخرج روبوت شبيه بالبشر يُدعى شوانغ شوانغ من مدرسة ثانوية صينية، مما يسلط الضوء على التقدم الذي أحرزته الصين في مجال الروبوتات والمنافسة التقنية العالمية.
05-08-2025
نظارات ذكية: الأبطال المجهولون للصوت مفتوح الأذن
استكشف العالم المتطور لسماعات الأذن المفتوحة واكتشف لماذا تبرز النظارات الذكية كحل صوتي مثالي للأذن المفتوحة، مقدمة راحة فائقة وجودة مكالمات ووظائف إضافية.
18-07-2025
ثورة الذكاء الاصطناعي: من الروبوتات ميسورة التكلفة إلى النهضة الصناعية
استكشف أحدث التطورات في مجال الذكاء الاصطناعي: روبوتات شبيهة بالبشر بأسعار معقولة، والحرب الشرسة على المواهب في مجال الذكاء الاصطناعي، والتحولات الاقتصادية، والذكاء الفائق الطبي، والدعوات إلى مشاريع صناعية واسعة النطاق لدعم النمو السريع للذكاء الاصطناعي.
ADVERTISEMENT
20-05-2025
تصحيح المفاهيم: نهاية الكون ليست وشيكة كما يُشاع
تدحض الأبحاث الجديدة الادعاءات بأن الكون سينتهي قريبًا، موضحة أن الكيانات الأساسية ستظل مستقرة لفترة طويلة.
18-06-2025
ليغو تطلق العنان للملك: تأكيد مجموعة غودزيلا الرسمية
وافق ليغو رسميًا على مجموعة غودزيلا التي صممها المعجبون، وهي عبارة عن إبداع ضخم مبني من الطوب مستوحى من عالم الوحوش الأسطوري، وذلك من خلال برنامج الأفكار الخاص بها.
29-05-2025
قفزة في إيرادات إنفيديا إلى 44.1 مليار دولار رغم قيود رقائق الذكاء الاصطناعي
إنفيديا تحقق إيرادات قياسية بلغت 44.1 مليار دولار في الربع الأخير، على الرغم من القيود المفروضة على مبيعات رقائق الذكاء الاصطناعي إلى الصين.
ADVERTISEMENT
26-06-2025
شاحن أنكر متعدد الاستخدامات للسفر معروض للبيع في الوقت المناسب تمامًا للصيف
اكتشف محول السفر Anker Nano، المتوفر الآن للبيع، والذي يوفر شحنًا متعدد الاستخدامات لأكثر من 200 دولة. تعرف على ميزاته وعروض التكنولوجيا الأخرى.
10-07-2025
انقطاع في Outlook: آلاف المستخدمين يتأثرون بتعطيل البريد الإلكتروني
واجه آلاف المستخدمين لبرنامج Microsoft Outlook انقطاعات في خدمة البريد الإلكتروني، بما في ذلك مشاكل في التحميل وتسجيل الدخول، ليلة الأربعاء وصباح الخميس. تقوم Microsoft بنشر إصلاح مصحح بعد فشل العلاج الأولي.
24-07-2025
روبوت ووكر إس 2 يتفوق على تسلا أوبتيموس بتبديل بطاريات ذاتي في 3 دقائق
تتحدى روبوتات UBtech Robotics' Walker S2 ذات الروبوتات الشبيهة بالبشر روبوت Optimus من Tesla بقدرتها على تبديل البطاريات بشكل مستقل في ثلاث دقائق فقط، مما يعد بكفاءة تشغيلية على مدار الساعة طوال أيام الأسبوع.
ADVERTISEMENT
09-07-2025
هوغنغ فيس تطلق روبوتًا بسعر 299 دولارًا، مهيأة لإحداث ثورة في مجال الروبوتات
تطلق Hugging Face روبوت Reachy Mini مفتوح المصدر بسعر 299 دولارًا، بهدف إضفاء الطابع الديمقراطي على الروبوتات المدعومة بالذكاء الاصطناعي وتعطيل الصناعة بأجهزة يمكن للمطورين الوصول إليها.
20-05-2025
إنتل تكشف عن بطاقات الرسوميات Arc Pro B50 وB60 في Computex 2025
إنتل تكشف عن بطاقات الرسوميات Arc Pro B50 وB60 في Computex 2025، مع التركيز على الأداء والذاكرة العالية في سوق الرسوميات الاحترافية.
27-05-2025
محتجون في سان فرانسيسكو يحذرون من "انقراض البشرية" بسبب الذكاء الاصطناعي المتزايد
محتجون في سان فرانسيسكو يحذرون من انقراض البشرية بسبب الذكاء الاصطناعي المتزايد، مطالبين بتنظيم صارم لهذه التكنولوجيا.
ADVERTISEMENT