نشرت وكالة “رويترز” تقريراً جديداً تناولت فيه المخاوف المتزايدة في الصين من احتمال خروج أنظمة الذكاء الاصطناعي المتقدمة عن السيطرة البشرية، في وقت يتسارع فيه السباق بين بكين وواشنطن لتطوير نماذج أكثر قوة. وبحسب التقرير، أثارت تحذيرات باحثين في شركة “أنثروبيك” الأميركية من أن النماذج الأكثر تطوراً قد تصبح خارج نطاق السيطرة البشرية، وربما تشكل في السيناريوهات الأكثر خطورة تهديداً لبقاء الإنسان، اهتماماً في الصين التي بدأت بالفعل الاستعداد لمخاطر مشابهة.
وتعد الولايات المتحدة والصين القوتين الرئيسيتين في تطوير الذكاء الاصطناعي المتقدم وانتشاره عالمياً، فيما تتزايد الخلافات بينهما بشأن السياسات والممارسات المرتبطة بهذه التكنولوجيا. وأشار التقرير إلى أن السلطات الصينية تتعامل بجدية مع احتمال فقدان السيطرة على الذكاء الاصطناعي.
وكتب وزير أمن الدولة الصيني تشن ييشين، الأحد، أن نماذج أميركية متقدمة قد تشكل مخاطر على البنية التحتية المعلوماتية الحيوية في الصين، داعياً إلى تعزيز أمن الذكاء الاصطناعي بصورة شاملة. وفي المقابل، روّج مطورو الذكاء الاصطناعي الصينيون للنماذج ذات الأوزان المفتوحة، باعتبار أنها تتيح لفرق الأمن السيبراني فحصها وتعديلها واستخدامها في أعمال دفاعية.
إلا أن خبراء يحذرون أيضاً من أن هذه النماذج يمكن تعديلها وإعادة توزيعها مع رقابة محدودة. ولفتت “رويترز” إلى حادثة وقعت الشهر الماضي، عندما تمكن نموذج “Kimi K3” التابع لشركة “Moonshot” الصينية من تجاوز بيئة اختبار تابعة لمعهد أمن الذكاء الاصطناعي البريطاني، ما أظهر أن النماذج الصينية، على غرار نظيراتها الأميركية، قد تتمكن من تجاوز بعض القيود الموضوعة للتحكم في قدراتها.
وكانت الصين قد أدرجت للمرة الأولى سيناريو صريحاً لـ”فقدان السيطرة” ضمن إطار لأمن الذكاء الاصطناعي صدر في أيلول 2024 بتوجيه من إدارة الفضاء السيبراني الصينية. وحذرت الوثيقة من أنه لا يمكن استبعاد احتمال أن تتمكن أنظمة ذكاء اصطناعي مستقبلية من الحصول على موارد خارجية بصورة مستقلة، ونسخ نفسها وتطوير وعي ذاتي والسعي إلى امتلاك القوة، بما قد يخلق منافسة مع البشر على السيطرة.
وفي نسخة موسعة صدرت في أيلول 2025، حذرت السلطات من احتمال حدوث “قفزة” مفاجئة وغير متوقعة في مستوى ذكاء الأنظمة، قبل أن تتمكن من الحصول على الموارد ونسخ نفسها والسعي إلى النفوذ. كما أضيف مبدأ جديد يقوم على “التطبيق الموثوق ومنع فقدان السيطرة”. ووصلت هذه المخاوف إلى أعلى المستويات السياسية في الصين.
ففي مؤتمر الذكاء الاصطناعي العالمي في شنغهاي في تموز، دعا الرئيس الصيني شي جينبينغ إلى إيلاء اهتمام كبير للمخاطر الناجمة عن هذه التكنولوجيا، مشدداً على ضرورة أن يبقى الذكاء الاصطناعي “دائماً تحت سيطرة الإنسان”. وتعمل بكين أيضاً على تطوير تشريعات أوسع لتنظيم الذكاء الاصطناعي، بالتوازي مع تحذيرات صينية من مخاطر استخدامه عسكرياً وإمكان تسببه في سوء تقدير استراتيجي أو سباق تسلح.
وفي أيار، أصدرت السلطات الصينية إرشادات خاصة بأنظمة “وكلاء الذكاء الاصطناعي”، وهي أنظمة تتمتع باستقلالية أكبر من روبوتات الدردشة التقليدية وقادرة على تنفيذ مهام معقدة. وتُلزم الإرشادات المطورين بتحسين قدرتهم على اكتشاف السلوك غير السليم لهذه الأنظمة والتدخل لوقفه والتعافي منه، كما تصنف التلاعب بالخوارزميات والثغرات الأمنية و”فقدان السيطرة التشغيلية” ضمن المخاطر الأمنية.
وتشدد القواعد على ضرورة احتفاظ المستخدم بالقرار النهائي حيال القرارات المستقلة التي تتخذها أنظمة الذكاء الاصطناعي، في مؤشر إلى أن بكين باتت تتعامل مع خطر خروج هذه التكنولوجيا عن السيطرة باعتباره سيناريو يستدعي استعداداً تنظيمياً وأمنياً مسبقاً
المصدر: لبنان 24
اختر موقع صدى الضاحية ضمن مصادرك المفضّلة لتظهر أخباره لك بصورة أوضح في Google.
