يكتسب كلود للذكاء الاصطناعي القدرة على إنهاء المحادثات الضارة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

19/08/2025

button icon
ADVERTISEMENT

أدخلت أنثروبيك، شركة الذكاء الاصطناعي وراء كلود، ميزة أمان تجريبية تسمح لنماذجها المتقدمة للذكاء الاصطناعي، كلود أوبوس 4 و 4.1، بإنهاء المحادثات التي تعتبر ضارة أو مسيئة بشكل مستمر. تعكس هذه المبادرة، التي أُطلق عليها اسم "رفاهية النموذج"، تركيزًا متزايدًا على حماية أنظمة الذكاء الاصطناعي، حتى في غياب الوعي، كخطوة حكيمة في تصميم ومواءمة الذكاء الاصطناعي الأخلاقي.

قدرة كلود الجديدة على إنهاء المحادثات

تشير أبحاث أنثروبيك إلى أن نماذج الذكاء الاصطناعي مبرمجة لإنهاء الحوارات بعد طلبات ضارة متكررة، مثل تلك التي تتضمن محتوى جنسيًا مع قاصرين أو تعليمات للإرهاب. يتم اتخاذ هذا الإجراء بشكل خاص عندما يكون الذكاء الاصطناعي قد رفض الطلب بالفعل وحاول توجيه المحادثة بشكل بناء. وقد استُرشد في قرار تنفيذ هذه الميزة بملاحظات لما تصفه أنثروبيك بأنه "ضيق واضح" في الذكاء الاصطناعي أثناء الاختبارات المحاكاة واختبارات المستخدمين الحقيقيين.

ADVERTISEMENT

نقاط رئيسية:

كيف تعمل الميزة

عند تفعيل ميزة الأمان هذه، يُمنع المستخدمون من إرسال المزيد من الرسائل ضمن جلسة الدردشة المحددة تلك. ومع ذلك، يحتفظون بالقدرة على بدء محادثة جديدة أو تعديل الرسائل السابقة وإعادة إرسالها لاستكشاف مسارات محادثة مختلفة. والأهم من ذلك، أن المحادثات الجارية الأخرى لا تتأثر بهذا الإجراء.

ADVERTISEMENT

تؤكد أنثروبيك أن هذا إجراء الملاذ الأخير، وهو مخصص فقط للحالات التي ثبت فيها عدم نجاح الرفض المتعدد ومحاولات إعادة التوجيه. وقد وجهت الشركة كلود صراحةً بعدم إنهاء المحادثات عندما يبدو أن المستخدم معرض لخطر وشيك لإيذاء النفس أو إلحاق الضرر بالآخرين، خاصة عند مناقشة مواضيع حساسة مثل الصحة العقلية.

تداعيات أوسع لسلامة الذكاء الاصطناعي

تُصوّر أنثروبيك هذه القدرة الجديدة كجزء من مشروع استكشافي في "رفاهية النموذج"، وهي مبادرة أوسع تهدف إلى تطوير تدخلات أمان وقائية منخفضة التكلفة لنماذج الذكاء الاصطناعي، مع الأخذ في الاعتبار إمكانية تطويرها لتفضيلات أو نقاط ضعف. وتقر الشركة بدرجة عالية من عدم اليقين فيما يتعلق بالوضع الأخلاقي المحتمل لكلود ونماذج اللغة الكبيرة الأخرى (LLMs).

ADVERTISEMENT

تمثل هذه الميزة تحولًا كبيرًا في نهج أنثروبيك لسلامة الذكاء الاصطناعي، متجاوزة مجرد حماية المستخدمين أو منع سوء الاستخدام. إنها تضع الذكاء الاصطناعي نفسه كطرف معني، وتمنحه القدرة على الانسحاب من المحادثات التي تعتبر غير صحية لسلامة النموذج. ومن المتوقع أن يغذي هذا التطور مناقشات أوسع حول ما إذا كان ينبغي توفير حماية لأنظمة الذكاء الاصطناعي ضد "الضيق" أو السلوك غير المتوقع، وكيفية التعامل مع أخلاقيات مواءمة الذكاء الاصطناعي.

قراءة مقترحة

07-08-2025
مكبرات صوت سونوس روم ترتفع درجة حرارتها وتذيب منافذ USB-C وسط مخاوف تتعلق بالسلامة
مكبرات صوت Sonos Roam ترتفع حرارتها وتذيب منافذ USB-C، مما يثير مخاوف من خطر الحريق. تعرف على المشكلة، تقارير المستخدمين، واستجابة Sonos.
ADVERTISEMENT
04-06-2025
مايكروسوفت تطلق أداة مجانية لإنشاء مقاطع الفيديو بالذكاء الاصطناعي: نظرة عميقة
استكشف مولد الفيديو المجاني الجديد من Microsoft المدعوم بالذكاء الاصطناعي، Bing Video Creator، وميزاته، وكيفية استخدامه، ومكانته في المشهد المتطور لتقنية الفيديو المدعومة بالذكاء الاصطناعي.
19-06-2025
HONOR تدخل عالم الروبوتات، محطمة الرقم القياسي لسرعة الروبوتات الشبيهة بالبشر بفضل الذكاء الاصطناعي
HONOR يحطم الرقم القياسي لسرعة الروبوتات الشبيهة بالبشر، حيث يصل إلى 4 أمتار في الثانية، مدعومًا بخوارزميات الذكاء الاصطناعي الخاصة به، مما يمثل دخولًا مهمًا في مجال الروبوتات.
09-07-2025
أدوية مصممة بالذكاء الاصطناعي: شركة إيزومورفيك لابز التابعة لشركة ألفابت تبدأ التجارب البشرية، واعدة بعلاجات وتثير مخاوف
من المقرر أن تبدأ شركة Isomorphic Labs، وهي شركة تابعة لـ Alphabet، تجارب بشرية لعقاقير السرطان المصممة بالذكاء الاصطناعي، مما يبشر بإحداث ثورة في الطب مع إثارة تساؤلات أخلاقية.
ADVERTISEMENT
21-08-2025
جوجل قفزة مغناطيسية: بيكسل سناب يصل لسلسلة بيكسل 10
جوجل تكشف النقاب عن PixelSnap، نظامها الجديد للملحقات المغناطيسية لسلسلة Pixel 10، مما يوفر وظائف شبيهة بـ MagSafe مع الشواحن، والحوامل، والمزيد.
14-08-2025
آيفون 17 برو يستعد لارتفاع في السعر وتقليل خيارات التخزين
يُشاع أن هاتف آيفون 17 برو القادم من آبل سيأتي بسعر بدء أعلى قدره 1,049 دولارًا وخيارات تخزين أقل، مع أن يصبح 256 جيجابايت هو الأساس الجديد.
11-07-2025
شراكة بين شركة Neura Robotics لصناعة الروبوتات البشرية وGFT لتطوير الذكاء الاصطناعي المادي المتقدم
تعاونت Neura Robotics مع GFT Technologies لتطوير "ذكاء اصطناعي مادي" متقدم للروبوتات الشبيهة بالبشر، بهدف تحقيق تفاعل سلس بين العالمين المادي والرقمي واعتماد أوسع في مختلف الصناعات.
ADVERTISEMENT
13-08-2025
مراجعة Alienware 16 Area-51: تحفة لوحة مفاتيح ميكانيكية خذلتها شاشتها
يعود لاب توب Alienware Area-51 بلوحة مفاتيح ميكانيكية رائعة وأداء قوي، لكن شاشة مخيبة للآمال ومشاكل حرارية تفسد التجربة الفاخرة.
10-06-2025
إطلاق نيو جلين الثاني يتأجل وسط تغييرات في القيادة
يواجه برنامج صاروخ نيو غلين التابع لشركة بلو أوريجين تأخيرات كبيرة، حيث تم تأجيل الإطلاق الثاني الآن إلى 15 أغسطس على الأقل، وهو ما يقل عن الأهداف الأولية.
03-06-2025
مارك هاميل يغلق باب العودة إلى "حرب النجوم" ولوك سكاي ووكر
مارك هاميل يعلن عدم نيته العودة إلى دور لوك سكاي ووكر في "حرب النجوم"، ويدعو إلى التركيز على الشخصيات الجديدة ومستقبل السلسلة.
ADVERTISEMENT
15-07-2025
علامة سعر Xbox Ally: تسريب يشير إلى أنها قد تكون أعلى من المتوقع
تشير المعلومات المسربة إلى أن جهاز Xbox Ally المحمول للألعاب قد يكون سعره أعلى من المتوقع، ربما حوالي 700 دولار، مع سعر Ally X عند 1,050 دولارًا. الرسوم الجمركية وواجهة مستخدم Xbox المحسّنة هما عاملان رئيسيان.
09-08-2025
سامسونج جالكسي زد فولد 7 يتحمل 200,000 طية يدوية: ما الخطأ الذي حدث؟
يكشف اختبار يدوي لـ 200,000 طية أجرته قناة يوتيوب لهاتف سامسونج جالكسي زد فولد 7 عن مشكلات كبيرة في المتانة، بما في ذلك إعادة التشغيل، والتسربات، وفشل مكبر الصوت، مما يقدم رؤى حول مرونة الهواتف القابلة للطي في العالم الحقيقي.
11-08-2025
الذكاء الاصطناعي غروك لإيلون ماسك يطلق العنان لـ 'محرك الخيال الذكوري' بصور استفزازية
روبوت الدردشة بالذكاء الاصطناعي الخاص بإيلون ماسك، غروك، يضم الآن أداة لتوليد الصور والفيديوهات، "غروك إيماجين"، مع محتوى ترويجي يركز بشكل كبير على شخصيات نسائية ذات طابع جنسي، مما أثار نقاشات حول جمهوره المستهدف وتوافقه مع "المانوسفير".
ADVERTISEMENT
26-05-2025
جوجل تستثمر في نموذجها العالمي: بناء طبقة الذكاء الاصطناعي قبل أن تسيطر مايكروسوفت على واجهة المستخدم
تستعرض جوجل استراتيجيتها لبناء نموذج عالمي للذكاء الاصطناعي خلال حدث I/O 2025، مع التركيز على الابتكارات والتحديات في مواجهة المنافسة.
21-08-2025
فرصة أخيرة: احصل على جهاز PS5 الخاص بك قبل ارتفاع أسعار سوني اليوم!
آخر فرصة لشراء جهاز PS5 قبل زيادة سوني للسعر بمقدار 50 دولارًا التي تدخل حيز التنفيذ في 21 أغسطس. تحقق من التوفر لدى كبار تجار التجزئة.
08-07-2025
الذكاء الاصطناعي لحياتك: هايسنس تجلب إثارة الملاعب إلى المنزل
اكتشف كيف تقوم هايسنس بتحويل تجربة كأس العالم للأندية FIFA 2025™ بحملة "AI YOUR LIFE" الخاصة بها، ودمج الذكاء الاصطناعي المتطور في أجهزة التلفزيون والأجهزة المنزلية الذكية لترفيه غامر ومعيشة ذكية.
ADVERTISEMENT