Anthropic تحذر: الذكاء الاصطناعي قد يطور نفسه قريبًا
كشفت Anthropic عن تقديرات تشير إلى اقتراب نماذج الذكاء الاصطناعي من مرحلة تستطيع فيها المساهمة في تسريع تطوير أجيال جديدة من النماذج بدرجة تتجاوز وتيرة البحث التقليدية، وهي مرحلة تعرف باسم التحسين الذاتي المتكرر RSI، لكنها أكدت أن نماذجها الحالية لم تصل بعد إلى الحد الذي حددته لهذه القدرة، وأن استمرار الإشراف البشري يمثل جزءًا من خططها للتحكم في المخاطر.
ووفقًا لتقرير نشره موقع TechCrunch، تضمنت وثيقة مالية معدلة قدمتها Anthropic استعدادًا لطرح أسهمها للاكتتاب العام تحذيرات بشأن إمكانية تسارع قدرات النماذج بمعدل يفوق قدرة الشركة على تطوير إجراءات السلامة واختبارها، كما أقرت بأنها استخدمت الذكاء الاصطناعي في أبحاث تطوير النماذج دون أن تتمكن دائمًا من التعرف على بعض التحولات في قدراتها وقت حدوثها.
ما المقصود بالذكاء الاصطناعي الذي يطور نفسه؟
يشير مفهوم RSI إلى استخدام الذكاء الاصطناعي للمساعدة في تحسين الأنظمة التي تنتج نماذج أكثر قدرة، بحيث تسهم كل مرحلة تطوير في تسريع المراحل التالية، وقد يشمل ذلك كتابة البرمجيات والمساعدة في البحث وتحليل نتائج التدريب.
لكن امتلاك نموذج القدرة على المساعدة في تطوير البرمجيات لا يعني أنه أصبح قادرًا على تصميم أجيال جديدة من الذكاء الاصطناعي وتشغيلها دون تدخل بشري، وهو الفرق الذي شددت عليه Anthropic في إفصاحها.
لماذا تثير المرحلة مخاوف السلامة؟
ترى الشركة أن تسارع التطوير قد يجعل قدرات النماذج تتقدم أسرع من وسائل تقييم مخاطرها، وهو ما قد يضعف قدرة الباحثين على فهم التغيرات واختبار الضوابط قبل نشر الأنظمة، وتدرس Anthropic تحديث سياسة التوسع المسؤول لديها للحفاظ على مشاركة البشر في تطوير النماذج، مؤكدة أنها لا تتوقع إمكانية استخدام Claude لبناء أجيال متعاقبة من النماذج المتقدمة بصورة مستقلة وآمنة دون إشراف وفهم بشريين، ولذلك يظل الحديث عن اقتراب المرحلة توقعًا للشركة وليس إعلانًا بتحقيقها.