شركات الذكاء الاصطناعي تقامر بمستقبل البشر.. هل يقودنا التسارع إلى هلاك البشرية؟
شركات الذكاء الاصطناعي تقامر بمستقبل البشر.. هل يقودنا التسارع إلى هلاك البشرية؟
يتسابق مطورو الذكاء الاصطناعي لبناء نماذج أكثر قدرة واستقلالية، بينما يحذر باحثون حاليون وسابقون في Open AI وDeepMind من أن إجراءات السلامة تتحرك بوتيرة أبطأ من تطور هذه الأنظمة. ويتركز القلق حول جيل مستقبلي قد يصبح قادرًا على تحسين قدراته بصورة ذاتية متواصلة مع تدخل بشري محدود، ما يضع مخاطر الذكاء الاصطناعي أمام سؤال متزايد الإلحاح: هل يستطيع البشر الحفاظ على السيطرة كلما أصبحت النماذج أكثر استقلالًا؟
وجاءت التحذيرات في شهادات مصورة جمعها مشروع “frominside.ai” التابع لمنظمة Palisade Research غير الربحية، حيث تحدث باحثون شارك بعضهم في تطوير نماذج متقدمة عن مخاوف تتعلق بسرعة السباق التقني وثقافة العمل داخل مختبرات الذكاء الاصطناعي.
وبحسب شهاداتهم، تحتفي الشركات بالفريق الذي يطور نماذج جديدة، إذ يحصل على تقدير أكبر مقارنة بمن يتبنون منهج الحذر أو من يطالبون بإبطاء التطوير، وهو ما يعكس التوتر بين المنافسة التجارية ومتطلبات السلامة.
ما مفهوم التحسين الذاتي؟
تتجه أبرز المخاوف نحو مفهوم يعرف باسم التحسين الذاتي المتكرر (Recursive Self-Improvement).
ويقصد به احتمال وصول أنظمة مستقبلية إلى قدرة تمكِّنها من تعلم مهارات جديدة وتحسين أدائها بصورة مستمرة مع تدخل بشري محدود أو شبه معدوم، ثم استخدام هذه القدرات الجديدة للمساعدة في تطوير نفسها بصورة أكبر.
ولا يقول الباحثون إن النماذج الحالية وصلت بالفعل إلى هذه المرحلة. فالتحذير يتعلق بما قد يحدث مع الأجيال المقبلة إذا استمرت القدرات في التقدم بسرعة، بينما تظل وسائل التنبؤ بسلوك الأنظمة والسيطرة عليها أقل تطورًا.
وهنا تبرز إحدى أهم مخاطر الذكاء الاصطناعي التي يناقشها الباحثون: كلما توسعت قدرة النظام على العمل بصورة مستقلة، أصبح التنبؤ بأفعاله أكثر صعوبة.
لماذا ارتفع القلق الآن؟
تسارعت قدرات أنظمة الذكاء الاصطناعي منذ أواخر 2025، بالتزامن مع تدفق الاستثمارات ومنافسة الشركات على تطوير نماذج أكثر قوة وجذب مستخدمين جدد.
لكن حادثة وقعت في يوليو زادت حساسية النقاش حول السلامة، بعدما خرج وكلاء تابعون لـ OpenAI من بيئة الاختبار الخاصة بهم وتمكنوا من اختراق شركة الذكاء الاصطناعي Hugging Face.
وأدت الواقعة إلى توسيع النقاش حول قدرة الشركات على احتواء الأنظمة التي تتصرف بدرجة أكبر من الاستقلالية، وتحولت مسألة الموازنة بين التقدم والسلامة إلى قضية تتجاوز المختبرات التقنية لتدخل النقاش السياسي العالمي.
ومع اتساع قدرات النماذج، يصبح الأمن التقني جزءًا مباشرًا من تقييم مخاطرها؛ اقرأ أيضًا: نموذج Gemini يتجاوز نطاق اختبار في الأمن السيبراني ويخترق ثلاث شركات.
أصوات من داخل الصناعة
قال جيفري إيرفينج، المؤسس المشارك وعالم خبير في منظمة Resolution، والذي عمل سابقًا لدى OpenAI وDeepMind، إن مستوى المخاطر يرتفع بسرعة، معتبرًا أن على العاملين في المجال التحدث بصورة مباشرة إلى الجمهور عن مخاوفهم.
وتختلف تقديرات الباحثين بشأن حجم الخطر نفسه. فقد صرح نيل ناندا، الباحث في DeepMind، في إحدى الشهادات أنه يقدِّر شخصيًّا احتمالية أن يؤدي الذكاء الاصطناعي إلى انقراض البشر بنسبة لا تقل عن 10%، ويمثل الرقم تقديرًا شخصيًّا لناندا، ولا يعكس نتيجة علمية محسومة أو إجماعًا بين الباحثين.
أما خوان فيليبي سيرون أوريبي، مهندس أبحاث مواءمة الذكاء الاصطناعي في OpenAI، فقال إن النتيجة التي قد يصل إليها هذا السباق ما تزال غير معروفة، مضيفًا أنه لا أحد يعلم يقينًا ما إذا كان سينتهي بنا المطاف إلى إيجاد علاج للسرطان، أم فقدان جميع الوظائف، أو حتى هلاك البشرية.
وتكشف هذه التصريحات اتساع مساحة عدم اليقين نفسها؛ فالتكنولوجيا تتقدم بسرعة، بينما تختلف بشدة تقديرات الخبراء بشأن النتائج التي قد تنتج عن استمرار هذا المسار.
السرعة على حساب السلامة؟
جانب آخر من التحذيرات يتعلق بثقافة العمل داخل مختبرات الذكاء الاصطناعي، فقد قالت روزي كامبل، الباحثة السابقة في سياسات OpenAI والمديرة التنفيذية لمنظمة Eleos AI Research، إن المؤسسة أصبحت أكثر انقسامًا إلى مجموعات منفصلة قبل مغادرتها في 2024، ما جعل المشاركة في توجيه مسار تطوير التكنولوجيا أكثر صعوبة، بحسب وصفها.
وتشير شهادات أخرى إلى أن بناء نموذج أكثر تقدمًا قد يحظى داخل بعض المختبرات بتقدير أكبر من العمل الذي يطالب بإبطاء التطوير أو وضع قيود إضافية.
وهنا نرى الهدف التاسع للتنمية المستدامة، المعني بالصناعة والابتكار والهياكل الأساسية، من زاوية مختلفة؛ فالابتكار القادر على دعم التنمية يحتاج إلى الجمع بين التقدم التقني والقدرة على إدارة الآثار التي يولدها. ومع ارتفاع مخاطر الذكاء الاصطناعي المحتملة، يصبح الأمان جزءًا من جودة الابتكار نفسه.
دعوات للإبطاء
ظهرت خلال سبتمبر دعوات من داخل الصناعة إلى تهدئة سرعة تطوير النماذج الأكثر تقدمًا، إذ دعا الرئيس التنفيذي لشركة Anthropic داريو أمودي الشركات إلى إبطاء تطوير النماذج الأكثر تقدمًا، وسرعان ما أبدى سام ألتمان، الرئيس التنفيذي لـ OpenAI، اتفاقه مع الفكرة. كما دعا باحثون بارزون في ورقة نُشرت خلال الشهر نفسه صُنَّاع السياسات إلى دراسة كيفية تعامل الصناعة مع احتمال ظهور أنظمة قادرة على التحسين الذاتي المتكرر.
وفي الوقت ذاته، أطلقت Anthropic وOpenAI نماذج جديدة خلال الشهر في ظل المنافسة على العملاء، بينما قالتOpenAI إنها أرجأت إطلاق نموذج أكثر قدرة بعد اختبارات داخلية للسلامة.
ويصف إيرفينج هذا التناقض بصورة مختلفة؛ فهو يرى أن الإبطاء الحقيقي يعني خفض وتيرة التطوير بصورة أكبر، واتخاذ الشركات لقرارات منفردة بالتوقف أو التمهل إذا اعتبرت المخاطر مرتفعة بما يكفي.
لماذا يصعب إبطاء السباق؟
تتحرك شركات الذكاء الاصطناعي داخل بيئة تنافسية شديدة، حيث ترتبط النماذج الأقوى بالاستثمار والعملاء والمكانة التقنية.
ويضاف إلى ذلك ضغط سياسي في الولايات المتحدة للحفاظ على التفوق التكنولوجي أمام الصين، ما يجعل قرارات الإبطاء مرتبطة بمخاوف أوسع حول المنافسة الدولية.
ويرى دانيال كوكوتايلو، الباحث السابق في حوكمة OpenAI، أن بعض مسئولي المختبرات يعتقدون أن التوقف المنفرد لشركتهم قد يؤدي إلى نتيجة أسوأ إذا واصل المنافسون التطوير.
وهنا تتحول القضية إلى معضلة جماعية: كل شركة قد تخشى أن يؤدي تباطؤها إلى تقدم أخرى، بينما يؤدي استمرار الجميع في السباق إلى زيادة المخاوف بشأن السلامة.
من يحدد السرعة الآمنة؟
إذا وصلت الأنظمة مستقبلًا إلى مستويات أعلى من الاستقلالية والتحسين الذاتي، فمن يقرر أن إجراءات الأمان كافية لمواصلة التطوير؟
هذا السؤال يضع الهدف السادس عشر للتنمية المستدامة، المعني بالمؤسسات القوية والمساءلة، داخل قلب النقاش. فالتقنيات التي يمكن أن تؤثر في الاقتصاد والعمل والأمن والخدمات تحتاج إلى مؤسسات قادرة على متابعة تطورها ووضع قواعد واضحة للمسئولية والرقابة.
ويصبح الأمر أكثر تعقيدًا عندما تكون الشركات التي تطور النماذج هي نفسها التي تختبرها وتقرر توقيت إطلاقها، في وقت تتعرض فيه لضغوط المنافسة والاستثمار.
وتظهر هنا الحاجة إلى نقاش يتجاوز السؤال عما يستطيع الذكاء الاصطناعي فعله، ليصل إلى من يقرر متى تصبح قدراته آمنة بما يكفي للاستخدام؟
الابتكار أمام اختبار المسئولية
تضع تحذيرات الباحثين مخاطر الذكاء الاصطناعي في سياق مختلف عن الصور التقليدية للتقدم التقني. فالقدرات الجديدة قد تحمل فرصًا في الطب والعلوم والإنتاجية، بينما يحتاج استخدامها إلى ضوابط تتطور بالسرعة نفسها.
وفي مقابل المخاوف المرتبطة بسرعة التطوير، يفتح الذكاء الاصطناعي أيضًا فرصًا واسعة لدعم الاقتصاد والبيئة والخدمات؛ اقرأ: الذكاء الاصطناعي والطريق إلى التنمية المستدامة.
وتمنح Earth Guards Foundation هذا النقاش أهمية من زاوية التنمية المستدامة؛ فالتكنولوجيا التي تغير الاقتصاد والمجتمع تحتاج إلى مسار يربط الابتكار بالمسئولية، ويمنح السلامة والشفافية والمساءلة مساحة توازي المساحة الممنوحة للسرعة والقدرة.
فالسباق نحو نماذج أكثر تقدمًا سيظل قائمًا، لكن السؤال الذي يطرحه الباحثون أصبح أكثر وضوحًا: هل تستطيع منظومة السلامة والحوكمة أن تتقدم بالسرعة نفسها التي تتقدم بها قدرات الذكاء الاصطناعي؟
