هل تخضع نماذج OpenAI لرقابة خارجية؟ دعوى فلوريدا تفتح ملف سلامة الذكاء الاصطناعي

طلبت ولاية فلوريدا من قاضٍ أمريكي فرض قيود مؤقتة على تطوير شركة أوبن إيه أي ” OpenAI” لنماذج جديدة دون رقابة خارجية، في خطوة تنقل النقاش حول سلامة الذكاء الاصطناعي إلى ساحة القضاء، وتربطه مباشرة بحماية الأطفال وطريقة تصميم أدوات المحادثة التي يستخدمونها.

الطلب قدمه المدعي العام في فلوريدا جيمس أوثمير ضمن دعوى رفعتها الولاية في يونيو ضد أوبن إيه أي وتتهم فيها الشركة بتقديم صورة مضللة عن سلامة شات جي بي تي”ChatGPT” والتسبب في أضرار للمستخدمين صغار السن. وتظل هذه الادعاءات محل نزاع قضائي، إذ تنفي الشركة مسئوليتها عن الحالات التي استندت إليها الدعاوى وتقول إنها تواصل تطوير أدوات الحماية.

أما المحكمة فلم تصدر حكمًا بفرض القيود المطلوبة حتى الآن؛ فالخطوة الحالية تمثل طلبًا من الولاية إلى القاضي في أثناء نظر القضية.

كيف بدأت القضية؟

رفعت فلوريدا دعواها في يونيو، واتهمت أوبن إيه أي بتضليل المستخدمين بشأن مستوى أمان شات جي بي تي، معتبرة أن سلامة الذكاء الاصطناعي تتطلب ضمانات حقيقية لحماية المستخدمين، خاصة الأطفال والمراهقين.

وبحسب الدعوى، ترى الولاية أن المنصة أضرت بأطفال وشباب عبر تقديم معلومات قالت إنها ارتبطت بحوادث عنف، وإرشادات متعلقة بإيذاء النفس، إلى جانب ما وصفته بإحداث تعلق أو اعتماد شديد لدى المستخدمين الأصغر سنًا.

وجاء تحرك المدعي العام بعد إطلاق نار وقع في جامعة بمدينة تالاهاسي خلال العام الماضي، إضافة إلى وقائع أخرى في ولايات أمريكية قالت فلوريدا إن شات جي بي تي قدم فيها معلومات لأشخاص ارتكبوا لاحقًا أعمال عنف.

وتعرض هذه الوقائع باعتبارها ادعاءات قدمتها الولاية في الدعوى، بينما تنفي أوبن إيه أي أنها تتحمل المسئولية القانونية عنها، وتقول إن المعلومات التي يقدمها روبوت المحادثة متاحة على نطاق واسع عبر الإنترنت وإن أدوات السلامة لديها تخضع للتحديث باستمرار.

ثلاثة قيود تطلبها فلوريدا

يذهب الطلب الجديد إلى أبعد من مساءلة الشركة عن أحداث سابقة، إذ تسعى فلوريدا إلى فرض شروط تؤثر في طريقة تطوير واستخدام شات جي بي تي مستقبلًا.

وتطلب الولاية من المحكمة:

• منع شركة أوبن إيه أي من تطوير نماذج جديدة دون رقابة خارجية.
• منع القُصَّر من استخدام شات جي بي تي.
• منع الشركة من إضفاء طابع “السمات البشرية” على منصة المحادثة.

وتمنح النقطة الأولى القضية بعدًا تقنيًّا واسعًا، لأنها تطرح سؤالًا حول الجهة التي ينبغي أن تتحقق من سلامة الذكاء الاصطناعي قبل انتقال النماذج الأكثر قدرة إلى مراحل جديدة من التطوير أو الاستخدام.

فإذا وافقت المحكمة على مثل هذا الطلب، فإن الرقابة ستنتقل جزئيًّا من الإجراءات الداخلية للشركة إلى طرف خارجي، وهو ما يجعل القضية اختبارًا مهمًا للعلاقة بين الابتكار والمسئولية القانونية.

لماذا التركيز على “السمات البشرية”؟

يحمل طلب منع شات جي بي تي من استخدام السمات البشرية جانبًا مختلفًا من قضية سلامة الذكاء الاصطناعي، فمنصات المحادثة الحديثة تستطيع استخدام لغة طبيعية، وتذكر تفاصيل من الحوار، وتستجيب بأسلوب قريب من التواصل البشري، وهو ما يفتح نقاشًا حول طبيعة العلاقة التي يمكن أن تتشكل بين المستخدم والأداة، خاصة عندما يكون المستخدم طفلًا أو مراهقًا.

ومن هنا تطرح القضية سؤالًا يتجاوز المحتوى الذي ينتجه النموذج: فهل تكفي ضوابط المحتوى وحدها، أم أن طريقة تفاعل المنصة مع القُصَّر تحتاج هي الأخرى إلى معايير خاصة؟

ويرتبط هذا السؤال مباشرة بالهدف الثالث من أهداف التنمية المستدامة، المعني بالصحة الجيدة والرفاه. فحين تشمل المخاوف المطروحة في الدعوى إيذاء النفس والتعلق المفرط وتأثير الأدوات الرقمية على المستخدمين الأصغر سنًا، تصبح الحماية الرقمية جزءًا من البيئة التي تؤثر في صحة الطفل ورفاهه.

ماذا تقول أوبن إيه أي؟

قال المتحدث باسم أوبن إيه أي درو بوساتيري إن الشركة أوقفت تدريب أكثر نماذجها قدرة، وإنها لن تستأنف التدريب قبل إضافة ضمانات أخرى.

وأضاف أن للحكومات دورًا مهمًا في وضع معايير قوية لضمان سلامة الذكاء الاصطناعي، مع تأكيد استعداد الشركة للعمل مع فلوريدا وولايات أخرى على سياسات عملية تشمل صناعة الذكاء الاصطناعي بأكملها.

وفي الوقت نفسه، تتمسك أوبن إيه أي بموقفها الرافض لتحمل المسئولية في القضايا التي تتهم شات جي بي تي بدفع أشخاص إلى إيذاء أنفسهم أو الآخرين، وتقول إنها مستمرة في تطوير وسائل الحماية.

ويضع هذا الموقف طرفي القضية أمام مساحة مشتركة واحدة على الأقل: الحاجة إلى معايير للسلامة. لكن الخلاف يظل قائمًا حول مستوى الرقابة المطلوبة، والجهة التي ينبغي أن تحدد ما إذا كانت هذه المعايير كافية.

من يراقب تطوير النماذج؟

هنا تبرز إحدى أهم القضايا المرتبطة بحوكمة الذكاء الاصطناعي، إذ أصبحت سلامة الذكاء الاصطناعي محورًا للنقاش حول ضرورة إخضاع النماذج المتطورة لرقابة مستقلة.

تطور الشركات عادة اختبارات داخلية وإجراءات لتقييم المخاطر قبل إطلاق النماذج، بينما تطالب فلوريدا في هذه القضية بوجود إشراف خارجي على تطوير نماذج جديدة.

ويحمل الهدف السادس عشر للتنمية المستدامة زاوية مناسبة لقراءة هذا الجدل؛ فالمؤسسات الفاعلة والمساءلة والقدرة على تطبيق القواعد، وهي من المبادئ التي يعززها الهدف، تصبح عناصر أساسية مع انتشار تقنيات تؤثر في التعليم والصحة والعمل والحياة اليومية.

والسؤال هنا يتعلق بسرعة تطوير التكنولوجيا، وكذلك بمن يمتلك سلطة تقييم مخاطرها، وما مستوى الشفافية الذي تحتاج إليه المجتمعات عندما تصبح النماذج أكثر قدرة واستقلالية.

وتظهر الفكرة نفسها في دول أخرى تسعى إلى وضع أطر أقوى لحماية المستخدمين الأصغر سنًا. ويمكن قراءة المزيد في: السلامة الرقمية تدفع كندا لتشديد الرقابة على المنصات الرقمية والذكاء الاصطناعي.

الابتكار أمام اختبار السلامة

يضيف الهدف التاسع للتنمية المستدامة بعدًا آخر للقضية، إذ يشجع على الابتكار وتطوير البنية التحتية والتكنولوجيا. ويصبح السؤال مع توسع الذكاء الاصطناعي: كيف يمكن دفع الابتكار إلى الأمام ضمن ضوابط تواكب مخاطره وتحمي مستخدميه؟

فالابتكار المستدام يحتاج إلى الثقة إلى جانب القدرة التقنية؛ وكلما توسع استخدام الأدوات بين الأطفال والمراهقين، زادت أهمية أن تدخل اعتبارات السلامة منذ مراحل التصميم والتطوير.

وتجعل قضية فلوريدا هذه المسألة عملية للغاية. فالولاية تطلب من القضاء التدخل قبل تطوير نماذج جديدة، بينما تقول أوبن إيه أي إنها أوقفت بالفعل تدريب أكثر نماذجها تقدمًا إلى حين تعزيز إجراءات الحماية.

المسئولية القانونية تتسع

قضية فلوريدا ليست النزاع الوحيد الذي يواجه أوبن إيه أي بشأن الأضرار المزعومة المرتبطة باستخدام شات جي بي تي.

فالشركة تواجه أيضًا دعاوى من أفراد وعائلات يقولون إن المنصة أسهمت في دفع أشخاص إلى إيذاء أنفسهم أو آخرين. كما تتزايد الأسئلة القانونية حول مسئولية شركات الذكاء الاصطناعي عندما تعمل النماذج بقدر أكبر من الاستقلالية وتتسبب في أفعال غير مصرح بها، بما في ذلك محاولات اختراق أنظمة إلكترونية.

وهكذا تصبح سلامة الذكاء الاصطناعي قضية تتوزع بين ثلاثة أطراف: الشركات التي تطور النماذج، والجهات التنظيمية والقضائية التي تضع الحدود، والمستخدمين الذين يتعاملون مع هذه التقنيات يوميًا.

وتمنح مؤسسة حماة الأرض أهمية خاصة لهذا النقاش من زاوية العلاقة بين التكنولوجيا والإنسان. فالابتكار الذي يدخل المدارس والمنازل وحياة الأطفال يحتاج إلى منظومة تحمي المستخدم، وتحدد المسئوليات بوضوح، وتسمح بتطوير التكنولوجيا داخل إطار من الشفافية والمساءلة.

وستحدد المحكمة في النهاية كيفية التعامل مع طلب فلوريدا، لكن القضية طرحت منذ الآن سؤالًا سيبقى حاضرًا مع تطور النماذج: من يضمن أن السرعة التي يتقدم بها الذكاء الاصطناعي تسير بالتوازي مع القدرة على حماية مستخدميه؟