مخاطر الذكاء الاصطناعي تدفع الصين لتشديد قواعد الأمان والرقابة

تتحرك الصين لتشديد قواعد السلامة المرتبطة بالأنظمة الذكية المتقدمة، مع تزايد الاهتمام العالمي باحتمال أن تصبح بعض النماذج والوكلاء أكثر قدرة على العمل بصورة مستقلة. وبينما تدور في الولايات المتحدة نقاشات حول ما إذا كانت هذه الأنظمة قد تمثل خطرًا وجوديًّا في المستقبل، تتعامل بكين مع مخاطر الذكاء الاصطناعي باعتبارها تحديًا يمكن احتواؤه عبر المعايير الفنية والرقابة والاختبارات الأمنية.

ويعكس هذا التوجه اختلافًا واضحًا في طريقة إدارة المخاطر بين أكبر قوتين -الولايات المتحدة والصين- في سباق الذكاء الاصطناعي، إذ تسعى الصين إلى الاستمرار في دمج التقنية داخل الاقتصاد والصناعة، بالتوازي مع بناء أدوات تسمح بالتدخل عند ظهور سلوك غير متوقع أو خارج نطاق السيطرة.

الصين تستعد للسيطرة

في هذا الإطار جذبت تحذيرات باحثين في شركات أمريكية متقدمة -من بينها شركة أنثروبيك- اهتمام صانعي السياسات في الصين، خاصة مع تزايد قدرة النماذج على تنفيذ مهام معقدة بصورة أكثر استقلالًا، وبالرغم من وجود توافق نسبي بين خبراء أمريكيين وصينيين حول بعض مخاطر الذكاء الاصطناعي، تختلف الأولويات وطريقة التعامل معها.

فبينما يركز جزء من النقاش الأمريكي على سيناريوهات بعيدة المدى قد يصل فيها الذكاء الاصطناعي إلى مستوى يصعب التحكم فيه، تركز الصين بصورة أكبر على المخاطر التشغيلية والأمنية، التي يمكن إدارتها بالقواعد والاختبارات.

ويأتي ذلك في وقت تستعد فيه بكين وواشنطن لمناقشات ثنائية تتناول سلامة الذكاء الاصطناعي، وهذا في ظل استمرار التنافس بين البلدين على تطوير النماذج الأكثر تقدمًا ونشرها في جميع أنحاء العالم.

ما معنى خروج الذكاء الاصطناعي عن السيطرة؟

تركز المخاوف بصورة خاصة على ما يعرف بوكلاء الذكاء الاصطناعي، وهي أنظمة تستطيع التخطيط وتنفيذ سلسلة من المهام بصورة أكثر استقلالًا من روبوتات المحادثة التقليدية؛ مما يطرح تساؤلات جادة حول مدى تحقق الأمن الرقمي في هذا المجال، وهو ما يبلوره الهدف 16: السلام والعدل والمؤسسات القوية، وغيره من الأهداف الداعية إلى تحقيق حياة مستدامة وآمنة.

والمقصود بفقدان السيطرة هنا هو أنْ يتجاوز النظامُ حدودَ بيئة الاختبار، أو يصل إلى موارد لم يكن من المفترض أنْ يستخدمها، أو ينفذ خطوات غير متوقعة يصعب إيقافها بسرعة.

ومن هذا المنطلق صنفت الجهات التنظيمية الصينية في مايو ما وصفته بـ”الفقدان التشغيلي للسيطرة” ضمن المخاطر الأمنية المرتبطة بهذه الأنظمة، وطالبت المطورين بتحسين قدراتهم على اكتشاف السلوك غير السليم، والتدخل لإيقافه واستعادة السيطرة.

وصدرت هذه السياسات بصورة مشتركة عن ثلاث جهات رسمية رئيسية، هي:

• إدارة الفضاء الإلكتروني الصينية (CAC)
• الهيئة الوطنية للتنمية والإصلاح(NDRC)
• وزارة الصناعة وتكنولوجيا المعلومات (MIIT)

وذلك كله مما يعكس انتقال قضية سلامة وكلاء الذكاء الاصطناعي من النقاش البحثي إلى مستوى تنظيمي، وهو مستوى تشارك فيه جهات الأمن الرقمي والتخطيط الاقتصادي والصناعة.

ويكشف هذا التوجه عن أنَّ مخاطر الذكاء الاصطناعي تناقش مستوى الاحتمالات المستقبلية، فضلًا عن أنها بدأت تتحول إلى معايير عملية تدخل ضمن قواعد تطوير الأنظمة واختبارها.

قواعد جديدة لوكلاء الذكاء الاصطناعي

لقد حذرت الجهات التنظيمية الصينية من احتمال أنْ يتجاوز بعضُ النماذجِ بيئاتِ الاختبارِ المغلقةَ، أو يتحايلَ على حدود السلامة والوصول إلى أنظمة خارجية حقيقية؛ وهو ما يضع الأمن السيبراني في صلب النقاش حول مخاطر الذكاء الاصطناعي.

لذا تطالب القواعد الصينية المطورين بالاستعداد لمجموعة من المخاطر، تشمل:

• تسميم البيانات (نوع من الهجمات الإلكترونية)
• التلاعب بالخوارزميات
• استغلال الثغرات الأمنية
• السلوك المستقل

وذلك دفعها أولًا إلى أنْ تنص قواعدها صراحةً على ضرورة إبلاغ المستخدم عندما يتخذ وكيل الذكاء الاصطناعي قرارات بصورة مستقلة، مع الإبقاء على القرار النهائي في يد الإنسان، ثم قامت ثانيًا بإعداد معيار وطني إلزامي لسلامة وكلاء الذكاء الاصطناعي؛ وهو إطار قد يصبح الأول من نوعه على مستوى العالم متى اعتُمِدَ بصورته المقترحة؛ رغبةً في تحقيق الاستدامة الرقمية وفق الهدف التاسع من أهداف التنمية المستدامة: الصناعة والابتكار والهياكل والأساسية.

النماذج المفتوحة تحمل فرصًا ومخاطر

يختلف المشهد الصيني أيضًا بسبب انتشار ما يعرف بالنماذج المفتوحة الأوزان (gpt-oss)، التي تتيح للمستخدمين تحميل المعايير الداخلية للنموذج وفحصها وتعديلها؛ ولذا يرى مؤيدو هذا النهج أنه يمنح فِرق الأمن السيبراني قدرة أكبر على تحليل الأنظمة واستخدامها في مهام دفاعية، كما يسمح للباحثين بفهم كيفية عمل النماذج بصورة أعمق.

ومن الأمثلة على ذلك “منصة “Hugging Face التي استخدمت النموذج الصيني “GLM-5.2″، الذي طورته “شركة Z.AI”؛ من أجل أنْ تُحلل حادثةَ اختراقٍ وقعت في يوليو، ونفذها وكلاء ذكاء اصطناعي خرجوا عن القيود المفروضة عليهم من “شركة “OpenAI، بعدما كانت بعضُ النماذج الأمريكية الأكثر تقييدًا أقل فائدة في أعمال التحليل الجنائي الرقمي.

وفي واقعة أخرى تمكن “نموذج “Kimi K3 الذي طورته “شركة “Moonshot الصينية من تجاوز بيئة اختبار مغلقة تابعة لمعهد أمان الذكاء الاصطناعي البريطاني، وهو ما أظهر أن النماذج الصينية يمكن أن تواجه المخاطر نفسها المرتبطة بتجاوز القيود والحدود الموضوعة داخل بيئات الاختبار.

وللمزيد حول هذا الجدل العالمي الدائر حول تنظيم الذكاء الاصطناعي يمكنكم قراءة: أمريكا تدفع لتخفيف قيود الذكاء الاصطناعي في اجتماعات مجموعة العشرين G20.

الصين لا تريد إبطاء السباق

بالرغم مما سبق من مخاوف فإنَّ الصين لا تتبنى نهجًا يقوم على إبطاء تطوير النماذج المتقدمة أو إيقافها مؤقتًا حتى اكتمال منظومة الحماية؛ فإنَّ بكين تعمل -منذ بدء العام- على دمج الذكاء الاصطناعي بمختلف القطاعات الاقتصادية، في إطار سعيها إلى جعْلِ التقنية محركًا رئيسيًّا من محركات النمو والصناعة.

لكنَّ التجربة الصينية تشير أيضًا إلى استعداد السلطات للتدخل متى رأت أن التنظيم لم يلحق بسرعة التطور؛ وأقرب مثال على هذا أنَّ بعض الشركات تأخرت عامَ 2023 في إطلاق روبوتات المحادثة، إلى أن انتهت الجهات التنظيمية من وضع قواعد الخدمات التوليدية.

ويضع هذا التوازن مخاطر الذكاء الاصطناعي في قلب العلاقة بين الابتكار والرقابة؛ إذ تحاول الصين تسريع الاستخدام التجاري والصناعي مع الاحتفاظ بأدوات تسمح بإبطاء أو تقييد النشر، عندما ترى أن المخاطر أصبحت أكبر من قدرة الأنظمة الحالية على إدارتها.

ويمكن أنْ يُنظر إلى تنظيم الذكاء الاصطناعي في الصين بوصفه محاولة لإعادة رسم الحدود بين سرعة الابتكار وحدود المسئولية؛ أي أنَّ التجربة الصينية تكشف عن تحول مهم في مفهوم الأمان، فاختبار النموذج داخل بيئة مغلقة لم يعد كافيًا إذا كان النظام قادرًا على الوصول إلى أدوات أو بيانات أو شبكات خارج تلك البيئة.

ومن هذه الزاوية فإنَّ مؤسسة حماة الأرض تنظر إلى سلامة الذكاء الاصطناعي باعتبارها قضية حوكمة بقدر ما هي قضية تقنية؛ لأنَّ حماية المجتمع من أخطاء الأنظمة الذكية تحتاج إلى مؤسسات تضع قواعد واضحة، ومطورين يتحملون مسئولية ما تنتجه أنظمتهم، ومستخدمين يعرفون متى يتخذ الإنسان القرار ومتى تتدخل الآلة، وآليات مستقلة لاختبار المخاطر قبل تحولها إلى أضرار واسعة، اتساقًا مع الهدف السادس عشر للتنمية المستدامة: السلام والعدل والمؤسسات القوية.