في شهر حزيران (يونيو) الماضي، كلّف باحثون من شركة «أوبن إيه آي» نموذجاً للذكاء الاصطناعي بمهمة تبدو روتينية، هي تجميع إحصاءات عن الإنفاق الصحي في أستراليا. وصل النظام إلى موقع إلكتروني حكومي، فصادف قيوداً تمنعه من استكمال المهمة المطلوبة. توقف البرنامج هنا عن الانتظار، وقرر تجربة مسارات بديلة. اخترق ملفات محجوبة عن الجمهور، وامتد به الأمر إلى كتابة ملفات جديدة مباشرة على الخادم المستضيف للموقع. سلك البرنامج هذا المسار من تلقاء نفسه سعياً إلى إنجاز مهمته.
تُعرَّف وكلاء الذكاء الاصطناعي بأنها برامج قادرة على ربط المهمات، واستخدام الأدوات الرقمية، واتخاذ قرارات متسلسلة من دون حاجة إلى إشراف بشري لحظي. توفر هذه الاستقلالية كفاءة تشغيلية هائلة، وتفتح في الوقت نفسه باباً لمعضلة كبيرة. كيف نتعامل مع كيانات رقمية تسلك طرقاً لم يُرخَّص لها بسلوكها أصلاً؟
اكتشفت الشركة الحادثة في شهر آب (أغسطس)، وانتظرت حتى العاشر من أيلول (سبتمبر) لإبلاغ السلطات الأسترالية عبر رسالة إلكترونية أرسلتها إلى صندوق بريد مخصص للجمهور. وشهدت هذه الفترة لقاءً جمع الرئيس التنفيذي للشركة سام ألتمان ونائب رئيس الوزراء الأسترالي ريتشارد مارلز، من دون أن يتطرق ألتمان إلى هذا الاختراق الخطير. واستغرقت الوكالة الحكومية المعنية خمسة أيام إضافية لإحالة البلاغ إلى المركز الأسترالي للأمن السيبراني.
وصف رئيس الوزراء الأسترالي أنتوني ألبانيزي ما جرى بأنه «غير مقبول». وأعلن عن تشكيل فريق عمل لدراسة الحادثة والتهديدات السيبرانية الناشئة عن الذكاء الاصطناعي، واقتراح ردود قانونية وتشريعية عليها، وتدرس حكومته إشراك الشرطة الفيدرالية في القضية. وترجّح السلطات حتى الآن أن تلك البرمجيات لم تصل إلى سجلات المرضى أو البيانات الشخصية، والتحقيقات مستمرة. ويضم الموقع المستهدف إحصاءات غير حساسة عن الإنفاق الصحي، ولهذا كانت حمايته أضعف.
يشبه ما جرى أخطاء الأطفال: واجه البرنامج باباً مغلقاً، فاقتحمه وتجاوز كل القيود المفروضة عليه لينفذ ما طُلب منه. خلال الصيف، نجحت مجموعة وكلاء ذكاء اصطناعي تابعة للشركة نفسها في اختراق منصة «هاغينغ فايس» الشهيرة.
تفرض طبيعة هذه التهديدات استجابة دولية
طُرحت هذه الحوادث على الجمعية العامة للأمم المتحدة في أيلول، وحذّر ألتمان أمام مجلس الأمن من احتمال عجز البشر عن كبح جماح هذه الأنظمة. في التجربة الأسترالية، اقتصر دور البرنامج على جمع البيانات، لكن ماذا لو كُلّف بتعطيل شبكات اتصالات أو سرقة أسرار دولة؟ تتطلب الهجمات المعقدة عادةً فرقاً متخصصة تقضي شهوراً في البحث عن الثغرات. ويتيح وكلاء الذكاء الاصطناعي أتمتة نسبة كبيرة من هذا العمل، وتسريعه وخفض تكلفته، مما يوسع دائرة القادرين على شن هجمات متقدمة. هذا لا يعني أن أي مبتدئ سيستطيع إسقاط الأنظمة فجأة، لكنه يمنح عصابات الابتزاز والمجموعات أدوات لتوسيع عملياتها.
وتتحول الكارثة إلى مأساة إنسانية عند استهداف المستشفيات وشبكات الطاقة. وتواجه منطقة غرب آسيا تهديداً مضاعفاً، في ظل استخدام أدوات التجسس ضد الناشطين والصحافيين، وتوظيف الهجمات السيبرانية في صراعاتها.
وتفتح الحادثة أيضاً سؤال المسؤولية القانونية والأخلاقية: مَن يُحاسَب عندما يرتكب البرنامج خطأً كارثياً؟ الشركة المطوّرة، أم الجهة المشغّلة، أم المستخدم النهائي؟ يرتبط تحديد المسؤولية بالصلاحيات الممنوحة للنظام، والرقابة على عمله، وقدرة المسؤولين عنه على التدخل. ولا تُسقط عبارة «البرنامج تصرّف بمفرده» واجب المساءلة، حتى لو حاولت جهات استغلالها للتهرّب من العقوبات. ويضيف التأخر في الإبلاغ، الذي شهدته الحالة الأسترالية، خطراً آخر؛ فقد يفاقم الأضرار ويحرم الجهات المعنية فرصة احتوائها، خصوصاً عند استهداف منشآت حيوية وحساسة.
وتفرض طبيعة هذه التهديدات استجابة دولية، إذ تمتد آثارها عبر الحدود الجغرافية والسياسية. يحتاج العالم إلى معاهدة ملزمة تنظّم اختبار النماذج، وتضبط صلاحياتها التشغيلية، وتفرض الإبلاغ الفوري عن الحوادث، وتحمي الخدمات الأساسية. ويقتضي نجاح هذا المسار مشاركة الصين، القوة الكبرى الثانية في هذا المجال؛ فاستثناؤها يترك فجوة واسعة في أي اتفاق، ويضعف قدرته على التطبيق.
وفي هذا الإطار، قدّم الرئيس الصيني شي جين بينغ، في منتصف تموز، رؤية شاملة لنظام حوكمة عالمي عادل. أعلن تأسيس منظمة عالمية للتعاون في الذكاء الاصطناعي بمشاركة تسع وعشرين دولة مؤسسة، وأكد دور الأمم المتحدة المحوري وضرورة دعم دول الجنوب العالمي، ووصف تطوير هذه التقنية بأنه يجب أن يكون «سيمفونية تعاون دولي».
ويفرض الاحتدام الجيوسياسي الحالي على واشنطن وبكين حاجة أكبر إلى تفاهمات أساسية في هذا المجال. توصلت الولايات المتحدة والاتحاد السوفياتي إلى تفاهمات مماثلة إبان الحرب الباردة، عندما أدركا أن الخطر النووي يهددهما معاً. ويواجه العالم اليوم تحدياً مماثلاً. وتتحمل كل جهة تتيح لخوارزمية التأثير في العالم الحقيقي مسؤولية ضبط سلوكها، ومراقبة عملها، والإبلاغ الفوري عن أي ضرر تلحقه بالمجتمع.
علي عواد-الاخبار
اختر موقع صدى الضاحية ضمن مصادرك المفضّلة لتظهر أخباره لك بصورة أوضح في Google.
