يكتسب كلود للذكاء الاصطناعي القدرة على إنهاء المحادثات الضارة

التكنولوجيا اليومية

التكنولوجيا اليومية

·

19/08/2025

button icon
ADVERTISEMENT

أدخلت أنثروبيك، شركة الذكاء الاصطناعي وراء كلود، ميزة أمان تجريبية تسمح لنماذجها المتقدمة للذكاء الاصطناعي، كلود أوبوس 4 و 4.1، بإنهاء المحادثات التي تعتبر ضارة أو مسيئة بشكل مستمر. تعكس هذه المبادرة، التي أُطلق عليها اسم "رفاهية النموذج"، تركيزًا متزايدًا على حماية أنظمة الذكاء الاصطناعي، حتى في غياب الوعي، كخطوة حكيمة في تصميم ومواءمة الذكاء الاصطناعي الأخلاقي.

قدرة كلود الجديدة على إنهاء المحادثات

تشير أبحاث أنثروبيك إلى أن نماذج الذكاء الاصطناعي مبرمجة لإنهاء الحوارات بعد طلبات ضارة متكررة، مثل تلك التي تتضمن محتوى جنسيًا مع قاصرين أو تعليمات للإرهاب. يتم اتخاذ هذا الإجراء بشكل خاص عندما يكون الذكاء الاصطناعي قد رفض الطلب بالفعل وحاول توجيه المحادثة بشكل بناء. وقد استُرشد في قرار تنفيذ هذه الميزة بملاحظات لما تصفه أنثروبيك بأنه "ضيق واضح" في الذكاء الاصطناعي أثناء الاختبارات المحاكاة واختبارات المستخدمين الحقيقيين.

ADVERTISEMENT

نقاط رئيسية:

كيف تعمل الميزة

عند تفعيل ميزة الأمان هذه، يُمنع المستخدمون من إرسال المزيد من الرسائل ضمن جلسة الدردشة المحددة تلك. ومع ذلك، يحتفظون بالقدرة على بدء محادثة جديدة أو تعديل الرسائل السابقة وإعادة إرسالها لاستكشاف مسارات محادثة مختلفة. والأهم من ذلك، أن المحادثات الجارية الأخرى لا تتأثر بهذا الإجراء.

ADVERTISEMENT

تؤكد أنثروبيك أن هذا إجراء الملاذ الأخير، وهو مخصص فقط للحالات التي ثبت فيها عدم نجاح الرفض المتعدد ومحاولات إعادة التوجيه. وقد وجهت الشركة كلود صراحةً بعدم إنهاء المحادثات عندما يبدو أن المستخدم معرض لخطر وشيك لإيذاء النفس أو إلحاق الضرر بالآخرين، خاصة عند مناقشة مواضيع حساسة مثل الصحة العقلية.

تداعيات أوسع لسلامة الذكاء الاصطناعي

تُصوّر أنثروبيك هذه القدرة الجديدة كجزء من مشروع استكشافي في "رفاهية النموذج"، وهي مبادرة أوسع تهدف إلى تطوير تدخلات أمان وقائية منخفضة التكلفة لنماذج الذكاء الاصطناعي، مع الأخذ في الاعتبار إمكانية تطويرها لتفضيلات أو نقاط ضعف. وتقر الشركة بدرجة عالية من عدم اليقين فيما يتعلق بالوضع الأخلاقي المحتمل لكلود ونماذج اللغة الكبيرة الأخرى (LLMs).

ADVERTISEMENT

تمثل هذه الميزة تحولًا كبيرًا في نهج أنثروبيك لسلامة الذكاء الاصطناعي، متجاوزة مجرد حماية المستخدمين أو منع سوء الاستخدام. إنها تضع الذكاء الاصطناعي نفسه كطرف معني، وتمنحه القدرة على الانسحاب من المحادثات التي تعتبر غير صحية لسلامة النموذج. ومن المتوقع أن يغذي هذا التطور مناقشات أوسع حول ما إذا كان ينبغي توفير حماية لأنظمة الذكاء الاصطناعي ضد "الضيق" أو السلوك غير المتوقع، وكيفية التعامل مع أخلاقيات مواءمة الذكاء الاصطناعي.

قراءة مقترحة

08-08-2025
متجر بكين يصبح مركزًا لأكثر من 40 علامة تجارية صينية للروبوتات
افتتاح أول متجر روبوتات يركز على المستهلك في بكين، يعرض أكثر من 100 روبوت بشري من 40+ علامة تجارية صينية، مما يعكس طموح الصين في الذكاء الاصطناعي والروبوتات.
ADVERTISEMENT
09-06-2025
الكشف عن أطلس: كيف يرى روبوت بوسطن ديناميكس الشبيه بالبشر العالم
اكتشف كيف يدرك روبوت أطلس البشري من بوسطن ديناميكس العالم، مستخدمًا أجهزة استشعار متقدمة ومعالجة البيانات في الوقت الفعلي لتحقيق رشاقة وتفاعل بيئي لا مثيل لهما.
25-07-2025
وضع Android الجديد "الموسع" المظلم: نعمة لإمكانية الوصول، ولكن مع مشكلة
وضع Android الجديد "الموسع" للوضع المظلم يجبر التطبيقات التي لا تدعم الوضع المظلم أصلاً على واجهة أغمق لتحسين إمكانية الوصول، ولكنه قد يسبب مشاكل بصرية. تعرف على المزيد حول هذه الميزة وعيوبها المحتملة.
24-07-2025
Qi2 25W Standard Officially Launched, Promising Faster Wireless Charging for Hundreds of Devices
أطلق اتحاد الطاقة اللاسلكية رسميًا معيار Qi2 25W الجديد للشحن اللاسلكي، والذي يوفر سرعات أعلى وتوافقًا أوسع مع الأجهزة، بما في ذلك الهواتف الذكية الرئيسية التي تعمل بنظام أندرويد.
ADVERTISEMENT
13-08-2025
روبوت ماجيك بوت الصيني يستعرض قوته، ويسحب 551 رطلاً بسهولة
اكتشف القوة المذهلة لروبوت MagicBot البشري الصيني وهو يسحب 551 رطلاً. تعرف على قدراته في الذكاء الاصطناعي وتطبيقاته الصناعية ومهاراته المتنوعة.
07-07-2025
نصيحة مسؤول تنفيذي في Microsoft بشأن الذكاء الاصطناعي للعاملين المسرحين تثير غضبًا
يواجه مسؤول تنفيذي في Microsoft Xbox ردود فعل عنيفة لنصحه الموظفين المسرحين باستخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي للتغلب على الحزن الناتج عن فقدان الوظيفة، مما أثار انتقادات واسعة النطاق.
17-06-2025
واتساب يتبنى الإعلانات المدعومة بالذكاء الاصطناعي: حقبة جديدة لعملاق المراسلة
يقدم واتساب إعلانات مدعومة بالذكاء الاصطناعي إلى منصته، تظهر في اقتراحات الحالة والقنوات، مما يمثل تحولًا كبيرًا في استراتيجية تحقيق الدخل الخاصة به.
ADVERTISEMENT
27-06-2025
كمبيوتر Surface المحمول مقاس 13 بوصة من Microsoft: خطوة للوراء، ولكنه لا يزال قادرًا
مراجعة لجهاز Surface Laptop الجديد مقاس 13 بوصة من Microsoft، مع تسليط الضوء على تنازلاته في التصميم والأداء مقارنة بالموديلات السابقة، وموقعه في السوق.
15-08-2025
7000 خطوة في اليوم قد يكون هدفك الأكثر صحة، دراسة جديدة تكشف
تشير أبحاث جديدة إلى أن 7000 خطوة يومياً قد تكون كافية لجني فوائد صحية كبيرة، مما يتحدى هدف الـ 10000 خطوة الراسخ منذ فترة طويلة. اكتشف العلم وراء الحركة اليومية وكيفية زيادة عدد خطواتك.
03-06-2025
روبوت بشري صيني يتقن عيدان تناول الطعام ويطهو الزلابية
اكتشف كيف يتقن الروبوت البشري الصيني STAR1 استخدام عيدان تناول الطعام ويطهو الزلابية، مما يمثل قفزة كبيرة في البراعة الروبوتية والمهام المنزلية.
ADVERTISEMENT
15-08-2025
سامسونج تستهدف سوق النظارات الذكية المدعومة بالذكاء الاصطناعي بجهاز قابل للارتداء بدون شاشة، وتأجيل الإطلاق إلى أواخر عام 2026
يُقال إن سامسونج تعمل على تطوير نظارات ذكية بالذكاء الاصطناعي بدون شاشة عرض، مع التركيز على تفاعلات الذكاء الاصطناعي، ومن المحتمل إطلاقها في أواخر عام 2026. تعرّف على المزيد حول الميزات المحتملة واستراتيجية السوق.
22-05-2025
ناشرو الأخبار يتهمون جوجل بسرقة المحتوى عبر وضع الذكاء الاصطناعي
ناشرو الأخبار في الولايات المتحدة يتهمون جوجل بسرقة المحتوى عبر وضع الذكاء الاصطناعي الجديد، مما يؤثر سلبًا على حركة المرور والإيرادات.
15-07-2025
علامة سعر Xbox Ally: تسريب يشير إلى أنها قد تكون أعلى من المتوقع
تشير المعلومات المسربة إلى أن جهاز Xbox Ally المحمول للألعاب قد يكون سعره أعلى من المتوقع، ربما حوالي 700 دولار، مع سعر Ally X عند 1,050 دولارًا. الرسوم الجمركية وواجهة مستخدم Xbox المحسّنة هما عاملان رئيسيان.
ADVERTISEMENT
08-07-2025
روبوت Agibot X2-N: الروبوت البشري الذي يرى بدون عيون
تكشف Agibot عن X2-N، وهو روبوت بشري يتمتع بحركة ثنائية الوضع وملاحة بدون كاميرا، مما يضع معايير جديدة للاستقلالية الروبوتية والقدرة على التكيف.
01-07-2025
روبوتيرا تكشف النقاب عن "الخصر النحيف الاحترافي" Q5: الجيل القادم من روبوتات الخدمة الشبيهة بالبشر
تكشف ROBOTERA عن روبوت الخدمة فائق الشبه بالبشر الجديد 'Tiny-Waisted Pro' Q5، والمصمم لإحداث ثورة في تفاعل العملاء وأتمتة الخدمة في مختلف الصناعات.
27-06-2025
يوتيوب تكشف عن أداتين جديدتين للذكاء الاصطناعي: ما تحتاج لمعرفته
تطرح يوتيوب أداتين جديدتين مدعومتين بالذكاء الاصطناعي: ميزة بحث مدعومة بالذكاء الاصطناعي لأعضاء Premium وأداة ذكاء اصطناعي محادثة موسعة لوصول أوسع، مما يعزز اكتشاف المحتوى والتفاعل.
ADVERTISEMENT