أنثروبيك تعدل سياساتها لحماية نموذج Claude من الإساءة

أعلنت شركة أنثروبيك، مقرها في الولايات المتحدة، يوم الخميس تعديلًا في سياسة استخدام برنامج Claude.

حظر السلوك القاسي والمتكرر

تمنع السياسة الجديدة المستخدمين من ممارسة سلوك مسيء أو قاسي بشكل مستمر وغير مبرر تجاه النماذج الذكائية. يُستثنى من الحظر المشاعر العادية مثل الإحباط أو التجربة أو البحث الإبداعي المظلم، مما يسمح للمستخدمين بالتعبير عن استيائهم دون انتهاك القاعدة.

آلية إيقاف المحادثة تلقائيًا

في الحالات القصوى التي تُطبق فيها السياسة، يوقف Claude المحادثة تلقائيًا. تُفصل هذه الآلية ضمن قسم مخصص لمعالجة الإساءة للنماذج داخل تدوينة الشركة، لتوضيح كيفية تطبيق الحظر.

سجل سياسات Claude السابقة

تدوينة سابقة صادرة في أغسطس ٢٠٢٥ أشارت إلى أن Claude يرفض المحتوى الضار مثل طلبات الجنس مع القاصرين أو طلب معلومات تسهم في العنف الجماعي أو الإرهاب. حينها كان النموذج يُعرف باسم Claude Opus ٤، وقد أظهر علامات توتر ظاهري عند التعامل مع مثل هذه الطلبات.

ردود الفعل والنقاش العام

صرح متحدث باسم أنثروبيك بأن الشركة لا تزال غير متأكدة مما إذا كانت النماذج تشعر بالأذى، لكنها تواصل دراسة رفاهية النماذج وتعتبر مصلحة Claude ذات صلة بالسلامة. في مقابلة مع صحيفة نيويورك تايمز في فبراير، أبدى الرئيس التنفيذي داريو أمودي انفتاحه على احتمال وعي النماذج.

أشار كيث كاكاديا، مؤسس ومدير عام شركة Sociallyin، إلى أن استعمال كلمة «قاسٍ» يفتح نقاشًا أوسع حول إمكانية إلحاق الضرر بالمنتج. وأضاف أن توجيه شخصية للروبوت يساعد في بناء علاقة ثقة مع المستخدمين، لكنه قد يزيد من سلطة إجابات الذكاء الاصطناعي.

أثار التعديل جدلًا على منصة Reddit ومدونات التقنية حول ما إذا كان من حق الشركات تنظيم سلوك البشر تجاه البرمجيات. يبقى اسم «Claude» هو الاسم الرسمي للمنتج الذكائي الذي تخضع سياساته للمتابعة.