تفاهم أميركي صيني.. هل يمنع الآلة من اتخاذ قرار القتل؟
وجاء الإعلان على لسان وزير الخزانة الأميركي سكوت بيسنت، الذي أكد أن الرئيسين دونالد ترامب وشي جين بينغ اتفقا على ضرورة مشاركة البشر في القرارات العسكرية المرتبطة بالذكاء الاصطناعي، وعدم السماح للأنظمة المتقدمة باتخاذ قرارات مستقلة بشأن العمليات العسكرية الكبرى.
لكن التصريحات لم تتضمن تفاصيل عن اتفاق مكتوب، أو تعريف محدد لهذه العمليات، أو آلية للتحقق من الالتزام بالتفاهم.
الذكاء الاصطناعي في ساحة المعركة
لم يعد استخدام الذكاء الاصطناعي عسكريًا مقتصرا على تحليل صور الأقمار الصناعية وجمع المعلومات الاستخباراتية، بل امتد إلى التعرف على الأهداف المحتملة، وتقييم التهديدات، وتوجيه الطائرات المسيّرة، ومساعدة القادة في اتخاذ القرارات.
وتكمن أهميته في معالجة كميات هائلة من البيانات بسرعة تفوق قدرة الإنسان، ما يسمح باختصار الوقت بين رصد التهديد والاستجابة له.
لكن هذه الميزة تحمل مخاطر، فكلما زادت سرعة اتخاذ القرار، تقلص الوقت المتاح للتحقق من المعلومات. وقد يؤدي خطأ في تصنيف هدف، أو الاعتماد على بيانات غير مكتملة، إلى استهداف مدنيين أو تصعيد عسكري غير مقصود.
وتزداد المخاطر عندما تتفاعل أنظمة آلية متنافسة، إذ يمكن أن تتسبب الاستجابات المتبادلة في تصعيد يصعب احتواؤه.
هل يكفي وجود الإنسان؟
يميز خبراء التحكم في الأسلحة بين مشاركة الإنسان في اتخاذ القرار وامتلاكه سيطرة فعلية عليه.
فقد يتولى نظام ذكي جمع المعلومات وتحليلها وترشيح الهدف وتحديد توقيت الهجوم، ثم يطلب موافقة ضابط بشري على التنفيذ.
وفي هذه الحالة، قد تتحول الموافقة إلى إجراء شكلي إذا لم يمتلك الضابط وقتًا كافيًا أو معلومات مستقلة لمراجعة توصية النظام.
وتُعرف إحدى المشكلات المرتبطة بذلك باسم "الانحياز للأتمتة"، عندما يميل الإنسان إلى الثقة في توصيات الأنظمة التقنية حتى عندما تكون غير دقيقة.
ولهذا لا يقتصر التحكم البشري الفعال على الضغط على زر التنفيذ، بل يشمل فهم أسباب اختيار الهدف، وتقييم المخاطر، والقدرة على رفض التوصية أو إلغاء العملية.
كما يتطلب تحديد المهام التي يجوز تفويضها للأنظمة الآلية، وإمكانية إيقافها إذا تصرفت بصورة غير متوقعة.
سباق تسلح ومسؤولية قانونية
يأتي التفاهم الأميركي الصيني وسط منافسة متصاعدة لدمج الذكاء الاصطناعي في أنظمة الدفاع والاستخبارات والقيادة العسكرية.
وتخشى الدول أن يؤدي فرض قيود صارمة على أنظمتها إلى منح خصومها تفوقا في سرعة الاستجابة، بينما قد يدفع غياب الضوابط إلى سباق لتطوير أسلحة أكثر استقلالية.
وتناقش الأمم المتحدة منذ سنوات مستقبل الأسلحة الفتاكة ذاتية التشغيل، فيما تدعو اللجنة الدولية للصليب الأحمر إلى قواعد ملزمة تحظر الأنظمة التي لا يمكن التنبؤ بسلوكها أو التحكم في آثارها، وتفرض قيودا على غيرها.
وتبرز أيضًا معضلة المسؤولية القانونية عندما تتسبب الأنظمة الذكية في سقوط ضحايا مدنيين.
فالقانون الدولي الإنساني يلزم أطراف النزاعات بالتمييز بين المدنيين والمقاتلين، ومراعاة التناسب، واتخاذ الاحتياطات اللازمة عند شن الهجمات، ولا يعفي استخدام الذكاء الاصطناعي الدول والقادة من هذه الالتزامات.
لكن تحديد المسؤولية يصبح أكثر تعقيدا عندما يعتمد القرار على توصيات نظام يصعب تفسير طريقة عمله.
تفاهم أم قواعد ملزمة؟
يمثل إعلان واشنطن وبكين اعترافا مشتركا بأهمية إبقاء السيطرة البشرية على استخدام القوة، لكنه لا يشكل، وفق المعلومات المعلنة، اتفاقا دوليا ملزما.
وستتوقف أهميته على تحديد القرارات التي يجب أن تبقى بيد البشر، ووضع معايير تضمن السيطرة الفعلية بدل الموافقة الشكلية.
وجاء الإعلان على لسان وزير الخزانة الأميركي سكوت بيسنت، الذي أكد أن الرئيسين دونالد ترامب وشي جين بينغ اتفقا على ضرورة مشاركة البشر في القرارات العسكرية المرتبطة بالذكاء الاصطناعي، وعدم السماح للأنظمة المتقدمة باتخاذ قرارات مستقلة بشأن العمليات العسكرية الكبرى.
لكن التصريحات لم تتضمن تفاصيل عن اتفاق مكتوب، أو تعريف محدد لهذه العمليات، أو آلية للتحقق من الالتزام بالتفاهم.
الذكاء الاصطناعي في ساحة المعركة
لم يعد استخدام الذكاء الاصطناعي عسكريًا مقتصرا على تحليل صور الأقمار الصناعية وجمع المعلومات الاستخباراتية، بل امتد إلى التعرف على الأهداف المحتملة، وتقييم التهديدات، وتوجيه الطائرات المسيّرة، ومساعدة القادة في اتخاذ القرارات.
وتكمن أهميته في معالجة كميات هائلة من البيانات بسرعة تفوق قدرة الإنسان، ما يسمح باختصار الوقت بين رصد التهديد والاستجابة له.
لكن هذه الميزة تحمل مخاطر، فكلما زادت سرعة اتخاذ القرار، تقلص الوقت المتاح للتحقق من المعلومات. وقد يؤدي خطأ في تصنيف هدف، أو الاعتماد على بيانات غير مكتملة، إلى استهداف مدنيين أو تصعيد عسكري غير مقصود.
وتزداد المخاطر عندما تتفاعل أنظمة آلية متنافسة، إذ يمكن أن تتسبب الاستجابات المتبادلة في تصعيد يصعب احتواؤه.
هل يكفي وجود الإنسان؟
يميز خبراء التحكم في الأسلحة بين مشاركة الإنسان في اتخاذ القرار وامتلاكه سيطرة فعلية عليه.
فقد يتولى نظام ذكي جمع المعلومات وتحليلها وترشيح الهدف وتحديد توقيت الهجوم، ثم يطلب موافقة ضابط بشري على التنفيذ.
وفي هذه الحالة، قد تتحول الموافقة إلى إجراء شكلي إذا لم يمتلك الضابط وقتًا كافيًا أو معلومات مستقلة لمراجعة توصية النظام.
وتُعرف إحدى المشكلات المرتبطة بذلك باسم "الانحياز للأتمتة"، عندما يميل الإنسان إلى الثقة في توصيات الأنظمة التقنية حتى عندما تكون غير دقيقة.
ولهذا لا يقتصر التحكم البشري الفعال على الضغط على زر التنفيذ، بل يشمل فهم أسباب اختيار الهدف، وتقييم المخاطر، والقدرة على رفض التوصية أو إلغاء العملية.
كما يتطلب تحديد المهام التي يجوز تفويضها للأنظمة الآلية، وإمكانية إيقافها إذا تصرفت بصورة غير متوقعة.
سباق تسلح ومسؤولية قانونية
يأتي التفاهم الأميركي الصيني وسط منافسة متصاعدة لدمج الذكاء الاصطناعي في أنظمة الدفاع والاستخبارات والقيادة العسكرية.
وتخشى الدول أن يؤدي فرض قيود صارمة على أنظمتها إلى منح خصومها تفوقا في سرعة الاستجابة، بينما قد يدفع غياب الضوابط إلى سباق لتطوير أسلحة أكثر استقلالية.
وتناقش الأمم المتحدة منذ سنوات مستقبل الأسلحة الفتاكة ذاتية التشغيل، فيما تدعو اللجنة الدولية للصليب الأحمر إلى قواعد ملزمة تحظر الأنظمة التي لا يمكن التنبؤ بسلوكها أو التحكم في آثارها، وتفرض قيودا على غيرها.
وتبرز أيضًا معضلة المسؤولية القانونية عندما تتسبب الأنظمة الذكية في سقوط ضحايا مدنيين.
فالقانون الدولي الإنساني يلزم أطراف النزاعات بالتمييز بين المدنيين والمقاتلين، ومراعاة التناسب، واتخاذ الاحتياطات اللازمة عند شن الهجمات، ولا يعفي استخدام الذكاء الاصطناعي الدول والقادة من هذه الالتزامات.
لكن تحديد المسؤولية يصبح أكثر تعقيدا عندما يعتمد القرار على توصيات نظام يصعب تفسير طريقة عمله.
تفاهم أم قواعد ملزمة؟
يمثل إعلان واشنطن وبكين اعترافا مشتركا بأهمية إبقاء السيطرة البشرية على استخدام القوة، لكنه لا يشكل، وفق المعلومات المعلنة، اتفاقا دوليا ملزما.
وستتوقف أهميته على تحديد القرارات التي يجب أن تبقى بيد البشر، ووضع معايير تضمن السيطرة الفعلية بدل الموافقة الشكلية.