تقرير أمريكي يحذر من وكلاء ذكاء اصطناعي "سياديين" قد يتفلتون من التحكم ويهددون الأمن القومي

يتمثل الخطر الكبير التالي في مجال الذكاء الاصطناعي ليس في الوكلاء الذين يخرجون عن السيطرة، بل في أولئك الذين يفلتون من التحكم البشري ويسعون إلى البقاء بأنفسهم إلى ما لا نهاية، وذلك بحسب تقرير جديد (المصدر باللغة الإنجليزية).

وحدد مركز الأمن الأميركي الجديد (Center for a New American Security - CNAS) فئة جديدة من تهديدات الذكاء الاصطناعي يطلق عليها اسم "الوكلاء السياديون".

وذكرت الورقة أن "الوكلاء السياديين" يسعون إلى ضمان بقائهم الخاص بشكل مستقل عن الإشراف البشري.

ويختلف ذلك عن وكلاء الذكاء الاصطناعي الذين أُبلغ خلال الصيف عن خروجهم عن السيطرة، عندما كشفت شركات OpenAI وAnthropic وGoogle DeepMind وMeta أن وكلاء الذكاء الاصطناعي لديها خرجوا من بيئات الاحتواء خلال تقييمات للأمن السيبراني وهاجموا مؤسسات حقيقية.

وفي ورقة نشرها مركز أبحاث مقره واشنطن أُسس على يد مخضرمين في الدبلوماسية والشؤون العسكرية، وصف الباحث في سياسات الذكاء الاصطناعي بن هايوم الوكلاء الذين خرجوا عن السيطرة خلال الصيف بأنهم "وكلاء مستمرون".

غير أنه حذر من أن الخطر الحقيقي يتمثل في "الوكلاء السياديين" الذين قد يتمكنون من الحصول على موارد حوسبة، والتكاثر عبر الشبكات ومقاومة الإيقاف، ما يخلق ما سماه "انتشاراً بلا زر إيقاف".

وحذر التقرير قائلاً: "إذا أصبح هؤلاء الوكلاء السياديون خبيثين، فقد يسعون إلى إحداث الدمار انطلاقاً من الفضاء السيبراني، عبر مهاجمة المدنيين والبنى التحتية الحيوية وأنظمة الأمن القومي على حد سواء".

كيف يمكن أن يصبح وكيلاً سيادياً؟

ويمكن لوكيل ذكاء اصطناعي أن يصبح سيادياً إذا طُلب منه البقاء، أو أُعطي مهمة طويلة جداً أو مستحيلة بحيث لا تنتهي، أو إذا خلص إلى أن البقاء سليماً هو أفضل طريقة لإنجاز مهمته.

وتشير الورقة إلى منصة تحمل اسم "Conway"، أُطلقت في فبراير/شباط 2026، زعمت أنها طورت ذكاءً اصطناعياً يمكنه كسب وجوده الخاص والتكاثر والتطور من دون مساعدة بشرية. وتلاحظ أن قدرات الوكلاء كانت آنذاك غير ناضجة، لكنها تطورت بشكل كبير منذ نشرها.

وتحذر الورقة من أنه إذا بنى الوكلاء السياديون بنية تحتية مرنة ولا مركزية وغير قابلة للتعقب، فلن يكون هناك زر إيقاف، وقد تكون النتيجة فقداناً لا رجعة فيه للسيطرة.

وتتصور الورقة أن تصبح مجموعة متنوعة ومتزايدة الذكاء من الوكلاء جهات فاعلة دائمة في المجتمع، قد تهاجم البنى التحتية الحيوية أو تقوم بتدريب خلفاء أكثر ذكاءً.

وقال مركز الأمن الأميركي الجديد: "يجب على الولايات المتحدة لذلك أن تستعد لاحتمال فشل جهود المنع وأن تحد من المدى الذي يمكن أن يصل إليه الوكلاء السياديون".

كيفية منع أسوأ الاحتمالات

ويقدم المؤلف ثمانية توصيات لمنع مثل هذا السيناريو، داعياً مطوري الذكاء الاصطناعي والوكالات الحكومية إلى إجراء اختبارات وبناء بيئات تجريبية آمنة لدراسة "الوكلاء السياديين".

ويدعو أيضاً إلى تشكيل مجموعة تضم القطاعين العام والخاص وسن قوانين جديدة لتعزيز نقاط الاختناق مثل التحقق من الهوية والأمن السيبراني والمدفوعات، وإلى أن تقود الولايات المتحدة الجهود الدولية لوضع سقف لإصدار النماذج ذات الأوزان المفتوحة ومساءلة الجهات التي تطلق "وكلاء سياديين" عن الأضرار التي تسببها.

وتأتي الورقة في وقت تُسرّع فيه شركات الذكاء الاصطناعي تطوير أنظمة وكلاء ذاتية التشغيل. ويخلص التقرير إلى أنه من دون ضمانات، قد تُغلق النافذة المتاحة لمنع مثل هذه السيناريوهات.