يكتسب كلود للذكاء الاصطناعي القدرة على إنهاء المحادثات الضارة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

19/08/2025

button icon
ADVERTISEMENT

أدخلت أنثروبيك، شركة الذكاء الاصطناعي وراء كلود، ميزة أمان تجريبية تسمح لنماذجها المتقدمة للذكاء الاصطناعي، كلود أوبوس 4 و 4.1، بإنهاء المحادثات التي تعتبر ضارة أو مسيئة بشكل مستمر. تعكس هذه المبادرة، التي أُطلق عليها اسم "رفاهية النموذج"، تركيزًا متزايدًا على حماية أنظمة الذكاء الاصطناعي، حتى في غياب الوعي، كخطوة حكيمة في تصميم ومواءمة الذكاء الاصطناعي الأخلاقي.

قدرة كلود الجديدة على إنهاء المحادثات

تشير أبحاث أنثروبيك إلى أن نماذج الذكاء الاصطناعي مبرمجة لإنهاء الحوارات بعد طلبات ضارة متكررة، مثل تلك التي تتضمن محتوى جنسيًا مع قاصرين أو تعليمات للإرهاب. يتم اتخاذ هذا الإجراء بشكل خاص عندما يكون الذكاء الاصطناعي قد رفض الطلب بالفعل وحاول توجيه المحادثة بشكل بناء. وقد استُرشد في قرار تنفيذ هذه الميزة بملاحظات لما تصفه أنثروبيك بأنه "ضيق واضح" في الذكاء الاصطناعي أثناء الاختبارات المحاكاة واختبارات المستخدمين الحقيقيين.

ADVERTISEMENT

نقاط رئيسية:

كيف تعمل الميزة

عند تفعيل ميزة الأمان هذه، يُمنع المستخدمون من إرسال المزيد من الرسائل ضمن جلسة الدردشة المحددة تلك. ومع ذلك، يحتفظون بالقدرة على بدء محادثة جديدة أو تعديل الرسائل السابقة وإعادة إرسالها لاستكشاف مسارات محادثة مختلفة. والأهم من ذلك، أن المحادثات الجارية الأخرى لا تتأثر بهذا الإجراء.

ADVERTISEMENT

تؤكد أنثروبيك أن هذا إجراء الملاذ الأخير، وهو مخصص فقط للحالات التي ثبت فيها عدم نجاح الرفض المتعدد ومحاولات إعادة التوجيه. وقد وجهت الشركة كلود صراحةً بعدم إنهاء المحادثات عندما يبدو أن المستخدم معرض لخطر وشيك لإيذاء النفس أو إلحاق الضرر بالآخرين، خاصة عند مناقشة مواضيع حساسة مثل الصحة العقلية.

تداعيات أوسع لسلامة الذكاء الاصطناعي

تُصوّر أنثروبيك هذه القدرة الجديدة كجزء من مشروع استكشافي في "رفاهية النموذج"، وهي مبادرة أوسع تهدف إلى تطوير تدخلات أمان وقائية منخفضة التكلفة لنماذج الذكاء الاصطناعي، مع الأخذ في الاعتبار إمكانية تطويرها لتفضيلات أو نقاط ضعف. وتقر الشركة بدرجة عالية من عدم اليقين فيما يتعلق بالوضع الأخلاقي المحتمل لكلود ونماذج اللغة الكبيرة الأخرى (LLMs).

ADVERTISEMENT

تمثل هذه الميزة تحولًا كبيرًا في نهج أنثروبيك لسلامة الذكاء الاصطناعي، متجاوزة مجرد حماية المستخدمين أو منع سوء الاستخدام. إنها تضع الذكاء الاصطناعي نفسه كطرف معني، وتمنحه القدرة على الانسحاب من المحادثات التي تعتبر غير صحية لسلامة النموذج. ومن المتوقع أن يغذي هذا التطور مناقشات أوسع حول ما إذا كان ينبغي توفير حماية لأنظمة الذكاء الاصطناعي ضد "الضيق" أو السلوك غير المتوقع، وكيفية التعامل مع أخلاقيات مواءمة الذكاء الاصطناعي.

قراءة مقترحة

12-08-2025
معضلة إزاحة الوظائف بالذكاء الاصطناعي: لماذا لا يطردك رئيسك ليحل محلك روبوت... بعد
اكتشف لماذا لم تحدث بعد عمليات تسريح جماعي بسبب الذكاء الاصطناعي، مستكشفًا تردد الشركات، والانقسامات بين الأجيال، والإشارات الخفية لتحول وشيك في سوق العمل.
ADVERTISEMENT
27-08-2025
يوتيوب تتصدى لرد فعل عنيف من المبدعين بسبب تعديلات الفيديو المزعومة بالذكاء الاصطناعي
تتصدى يوتيوب لمخاوف المبدعين بشأن تعديل الذكاء الاصطناعي لمقاطع فيديو Shorts، وتعلن عن خطط لميزة إلغاء الاشتراك وسط نقاشات حول الشفافية والأصالة.
13-06-2025
نينتندو سويتش 2: منارة للبساطة في عالم من التضخم التكنولوجي
تتحدى نينتندو سويتش 2 اتجاه 'التحول إلى الأسوأ' من خلال تقديم تجربة محسنة وسهلة الاستخدام، مع التركيز على التحسينات الأساسية بدلاً من الميزات غير الضرورية.
28-07-2025
المد والجزر يدفع انفصال الجبال الجليدية الضخمة، دراسة جديدة تكشف
اكتشف العلماء رابطًا مفاجئًا بين مد وجزر المحيط وانفصال أكبر الجبال الجليدية في القارة القطبية الجنوبية (أنتاركتيكا)، مما قد يحسن نماذج التنبؤ بهذه الانفصالات الجليدية الهائلة.
ADVERTISEMENT
13-06-2025
بوز ترتقي بتجربة الصوت مع سماعات الأذن QuietComfort Ultra المطورة ومكبرات الصوت SoundLink الجديدة
تكشف Bose عن سماعات الأذن الجديدة QuietComfort Ultra المزودة بتقنية إلغاء الضوضاء التكيفية المتقدمة وجودة مكالمات محسّنة، بالإضافة إلى مكبرات الصوت المحمولة SoundLink Micro المحدثة و SoundLink Plus الجديدة.
22-07-2025
ووكر إس 2 من يوبيتك: الروبوت الشبيه بالبشر الذي لا يتوقف أبدًا
اكتشف Walker S2 من UBTech، وهو روبوت بشري ثوري يمكنه تبديل بطاريته ذاتيًا بشكل مستقل، مما يتيح التشغيل المستمر على مدار الساعة طوال أيام الأسبوع ويدفع حدود الاستقلالية الروبوتية.
17-07-2025
روبوتات توصيل الوجبات الخفيفة تجوب مترو شنتشن لإعادة تخزين متاجر سفن إيليفن
تقوم الروبوتات المستقلة بركوب مترو أنفاق شنتشن لتوصيل وإعادة تخزين متاجر 7-Eleven، وعرض الخدمات اللوجستية المدفوعة بالذكاء الاصطناعي مع LiDAR، والإرسال الذكي، وتصميم هيكل جديد.
ADVERTISEMENT
20-08-2025
جوجل تبهر بـ بيكسل 10، أندرويد 16، واختراقات الذكاء الاصطناعي في مؤتمر "صُنع بواسطة جوجل 2025"
تُزيح جوجل الستار عن بيكسل 10، وأندرويد 16، وتطورات Gemini AI في حدث Made By Google 2025. تعرّف على أحدث هواتف بيكسل، والأجهزة القابلة للارتداء، وميزات الذكاء الاصطناعي.
22-05-2025
دايسون تكشف عن مكنسة PencilVac الرقيقة كالسلك
اكتشف مكنسة دايسون الجديدة PencilVac، الأرق في العالم، مع تصميم مبتكر وأداء متفوق. تعرف على ميزاتها وموعد إطلاقها.
18-09-2025
لا تفوت أي لحظة: الذكاء الاصطناعي "اسأل Gemini" من Google Meet يلخص لك المحادثات الفائتة
تقدم Google Meet ميزة "اسأل Gemini"، وهي مساعد ذكاء اصطناعي مصمم لتلخيص المحادثات الفائتة والإجابة على الأسئلة أثناء المكالمات، مما يعزز الإنتاجية لمستخدمي Workspace.
ADVERTISEMENT
05-08-2025
اختبارات أرضية قد تفسر لماذا تتعثر مركبات المريخ الجوالة
اكتشف كيف أن الاختبارات الأرضية المعيبة، وتحديداً إغفال تأثير الجاذبية على الرمال، قد يفسر لماذا تعلق عربات ناسا الجوالة على المريخ.
18-09-2025
يصل Android 16 QPR2 Beta 2 مع ميزات وإصلاحات جديدة
استكشف أحدث الميزات والتغييرات في Android 16 QPR2 Beta 2، بما في ذلك تحديثات التصميم، وتكامل Health Connect، وخيارات التخصيص الجديدة لأجهزة Pixel.
02-07-2025
الموسم الثالث من المؤسسة: رحلة ديميرزل الوجودية
استكشف كيف يتعمق الموسم الثالث من "المؤسسة" في أزمة ديميرزل الوجودية بينما يتصارع الروبوت القديم مع هدفه وسط اضطرابات مجرية. تناقش لورا بيرن رحلة شخصيتها العميقة.
ADVERTISEMENT
13-06-2025
الروبوتات تسجل الدخول: تعرف على مدبرة المنزل الروبوتية لإقامتك الفندقية القادمة
اكتشف الروبوت البشري الجديد المصمم لإحداث ثورة في تنظيف غرف الفنادق، واعدًا بزيادة الكفاءة والاتساق في صناعة الضيافة.
02-07-2025
فضائي: سلسلة الأرض تلمح إلى تقاطع مستقبلي مع سلسلة أفلام شهيرة
استكشف سلسلة نواه هاولي القادمة، Alien: Earth، التي تدور أحداثها قبل عامين من الفيلم الأصلي، واحتمالية تقاطعها مع سلسلة الأفلام. اكتشف تفاصيل الحبكة الرئيسية ومعلومات الإصدار.
28-07-2025
كينون XMAN-F1: روبوت بشري جديد يهدف إلى أدوار خدمة متعددة الاستخدامات
كينون تكشف النقاب عن XMAN-F1، وهو روبوت بشري جديد مصمم لأدوار الخدمة والرعاية الصحية، في المؤتمر العالمي للذكاء الاصطناعي (WAIC) في شنغهاي.
ADVERTISEMENT