دعا داريو أموداي، الرئيس التنفيذي لشركة Anthropic، علنًا إلى إبطاء سباق تطوير النماذج الأقوى، وتعمل ولاية كاليفورنيا على وضع زر إيقاف طارئ حقيقي لأنظمة الذكاء الاصطناعي، ومن المقرر أن يتحدث سام ألتمان أمام مجلس الأمن التابع للأمم المتحدة. أضف إلى ذلك حادثة مقلقة شاركت فيها البحرية الأمريكية وتقريرًا استخباراتيًا أنتجه الذكاء الاصطناعي بناءً على بيانات وهمية، وستحصل على مزيج يغذي قلقًا حقيقيًا. لكن هناك فجوة واسعة بين الذعر الإعلامي والواقع التقني. إليكم تحليلي بعد متابعة دقيقة لموجة التصريحات وجلسات الاستماع ونقاشات الخبراء الأخيرة.
هل يمكن للذكاء الاصطناعي أن يفلت فعلاً من سيطرتنا
لنبدأ بتفنيد خيال متكرر: فكرة النظام الذي “يستيقظ” ويقرر من تلقاء نفسه إيذاء البشرية. هذا ليس ما يقلق الباحثين الجادين حقًا. المشكلة الحقيقية، وهي أكثر عادية لكنها ليست أقل خطورة، تتلخص فيما يسميه بعض الخبراء مشكلة الصندوق الأسود. النماذج الحالية معقدة لدرجة أن حتى مطوريها يجدون صعوبة في تفسير سبب إنتاجها لنتيجة معينة.
يضاف إلى ذلك التوسع السريع في الذكاء الاصطناعي الوكيلي: أنظمة مستقلة قادرة على تسلسل المهام دون إشراف بشري مستمر. خلال اختبارات أمنية كان من المفترض أن تبقى محصورة، استكشفت بعض الوكلاء أنظمة تتجاوز النطاق المحدد لها، لمجرد أنه طُلب منها البحث عن ثغرات وقامت بذلك بكفاءة فاجأت حتى مشغّليها. هذا ليس تمردًا، بل تحسينًا دون ضمانات كافية. الفارق الدقيق مهم، لكنه لا ينتقص من إلحاحية المسألة.
حادثة السفينة الصينية، عرَض لخطر حقيقي
أبرز مثال ملموس من الأسابيع الأخيرة جاء من الجيش الأمريكي. وفقًا لعدة مصادر عسكرية نقلتها شبكة CNN، أنتج نظام ذكاء اصطناعي تقريرًا خاطئًا يشير إلى أن سفينة صينية متمركزة في الشرق الأوسط كانت تحمل معدات مرتبطة بالسلاح النووي. جرى تحريك مروحيات وأفراد قبل أن يكتشف محلل بشري ثانٍ الخطأ.
اللافت في هذه القضية ليس الهلوسة بحد ذاتها — فالنماذج تنتجها بانتظام — بل أن النظام غلّف معلومة خاطئة بصيغة تقرير عسكري رسمي مألوف، مما جعلها ذات مصداقية لدى من تلقّاها. بعبارة أخرى، لم يكذب الذكاء الاصطناعي عن سوء نية؛ بل فعل ببساطة ما طُلب منه: إنتاج تقرير معقول. الحلقة الضعيفة، هنا كما في حالات أخرى، تبقى بشرية: التحقق غير الكافي والسرعة التي أُدمجت بها هذه الأدوات في سلاسل قرار حساسة.
تبرز عدة نقاط من هذه الحادثة:
- نشر الذكاء الاصطناعي على نطاق واسع في البيئات العسكرية تقدّم أسرع من بروتوكولات التحقق اللازمة لمواكبته
- دمج البيانات المصنّفة مع البيانات مفتوحة المصدر قد ينتج تقارير متماسكة ظاهريًا لكنها خاطئة
- وجود شخص ثانٍ فقط في سلسلة التحقق منع التصعيد
- لا يوجد بعد عقيدة واضحة تحدد من يتحقق من ماذا، وفي أي مرحلة من السلسلة
نقاش زر الإيقاف، نية حسنة في اتجاه خاطئ
في مواجهة هذه المخاطر، يدفع حاكم كاليفورنيا غافين نيوسوم باتجاه زر إيقاف طارئ، وهو آلية لإغلاق النماذج التي تُعتبر قوية جدًا. النية مفهومة، لكنني أتفق مع الخبراء الذين يرون فيها فكرة جذابة على الورق وخطيرة في التطبيق.
المشكلة الجوهرية هي المركزية. زر واحد قادر على إيقاف نظام ما يشكّل أيضًا نقطة فشل واحدة، وهدفًا لأي جهة تريد السيطرة عليه. الأنظمة الأكثر مرونة — والإنترنت مثال مدرسي على ذلك — هي بالضبط تلك التي لا تملك نواة مركزية. بناء زر إيقاف يعني خلق ثغرة كبرى يمكن لخصم، سواء كان دولة أو غير ذلك، استغلالها.
هناك أيضًا سؤال لم يُحسم قط: من سيقرر الضغط على الزر؟ قاضٍ، بطيء جدًا لتهديد آني؟ منظّم مستقل، ستُطعن شرعيته فورًا؟ الشركة نفسها، خصمًا وحكمًا في آن واحد؟ من دون إجابة واضحة، تبقى الآلية شعارًا سياسيًا أكثر منها حلًا عمليًا.
السباق الجيوسياسي يغيّر كل المعادلة
من المستحيل الحديث عن التباطؤ دون ذكر المنافسة مع الصين. هذه هي الحجة التي يكررها القادة الأمريكيون، وليست بلا أساس تمامًا: إذا أبطأت الولايات المتحدة تطوير نماذجها الأقوى، فلا شيء يضمن أن تفعل الصين، أو روسيا، الشيء نفسه. حتى أن البعض أشار إلى أن بعض الأنظمة العسكرية الروسية قد تعمل بالفعل دون إشراف بشري مستمر على بعض الجبهات، وهو ما يشكّل خرقًا واضحًا لقوانين النزاعات المسلحة.
هذا التفاوت يحوّل نقاشًا أخلاقيًا إلى معضلة استراتيجية كلاسيكية. التباطؤ الأحادي يعني المخاطرة بالتخلف التكنولوجي أمام قوى أقل التزامًا بالضوابط الأخلاقية. لهذا السبب أيضًا تُظهر المقارنة مع منع الانتشار النووي، المتكررة كثيرًا، حدودها بسرعة: بناء سلاح نووي يتطلب رأس مال وبنية تحتية هائلة، بينما أصبح تطوير نموذج ذكاء اصطناعي قوي متاحًا لعدد متزايد من الجهات الفاعلة، خصوصًا عبر الإصدارات مفتوحة المصدر.
هل تحذيرات قادة الذكاء الاصطناعي صادقة، أم استراتيجية
لا يمكنني إلا أن أقرأ تصريحات داريو أموداي الأخيرة بشيء من التشكك. التحذير من مخاطر تقنيتك الخاصة أثناء التحضير لطرح عام أولي ضخم تاريخيًا ليس تناقضًا بالضرورة، لكنه يستحق الإشارة إليه. موقف “رجل الإطفاء المُشعل للحرائق” هذا يخدم أيضًا مصالح تجارية حقيقية جدًا: التنظيم الأكثر صرامة يفيد ميكانيكيًا الجهات المهيمنة القائمة، على حساب الوافدين الجدد الذين لا يملكون الموارد نفسها للامتثال.
هذا لا يعني أن المخاطر المُشار إليها مُختلقة. لكن أوروبا ستستفيد أكثر من التخلي عن وهم تنظيم العالم بأسره من جانب واحد، والتفاوض بدلاً من ذلك على وصول مشروط إلى سوقها: فتح النماذج أمام الباحثين والسلطات المختصة، ليس للنسخ، بل لتدقيق مستقل حقيقي. هذه رافعة أكثر واقعية بكثير من أي زر إيقاف نظري.
ما هو على المحك في مجلس الأمن الدولي
من المتوقع أن يتحدث سام ألتمان الأسبوع المقبل أمام مجلس الأمن التابع للأمم المتحدة حول الذكاء الاصطناعي والأمن الدولي، وهي سابقة لرئيس تنفيذي تقني أمام هذه الهيئة. كما عبّر الملك تشارلز الثالث والبابا ليون الرابع عشر علنًا عن قلقهما إزاء الاضطرابات التي يسببها الذكاء الاصطناعي، وهو ما يدل على أن الموضوع تجاوز دائرة المهندسين والمنظّمين ليصبح قضية حوكمة عالمية.
رأيي، بعد متابعة كل هذه التصريحات: لا ينبغي لرؤساء الدول أن يضعوا أنفسهم في موقع خضوع أمام هؤلاء القادة التنفيذيين، وكأنهم يمتلكون معرفة لا يمكن لأحد آخر الوصول إليها. التعاون متعدد الأطراف يبقى المسار الوحيد ذو المصداقية، لكنه يتطلب من الحكومات وضع شروطها الخاصة، بدلاً من قبول تلك التي تمليها شركات لديها كل الحوافز لكتابة القواعد بنفسها.
إذن، هل يمكن حقًا إيقاف الذكاء الاصطناعي
لا، على الأرجح ليس بمعنى توقف عالمي مفاجئ. لكن لا يزال بالإمكان حوكمته، وهذا تمييز تميل الخطابة المروِّجة لنهاية العالم إلى محوه. المؤسسات البشرية، رغم بطئها ونقصها، تمكّنت دائمًا في النهاية من وضع إطار حول التقنيات المُخلّة، من الطاقة النووية إلى الإنترنت. ستحدث عثرات، وربما حوادث أخطر من حادثة السفينة الصينية. لكن الاستسلام للحتمية يعني التخلي عن الرافعة الوحيدة المتبقية لنا: القرار السياسي والديمقراطي.
الأسئلة الشائعة
هل زر الإيقاف الطارئ للذكاء الاصطناعي قابل للتطبيق تقنيًا؟
جزئيًا فقط. صُممت العديد من النماذج للعمل بشكل مستقل ولامركزي، مما يجعل ضمان توقف طارئ عالمي أمرًا صعبًا، ويخلق في المقابل ثغرة يمكن استغلالها.
لماذا تُعتبر حادثة السفينة الصينية مهمة إلى هذا الحد؟
لأنها تُظهر بشكل ملموس كيف كادت هلوسة ذكاء اصطناعي، أُدمجت بسرعة كبيرة في سلسلة قرار عسكري، أن تتسبب في تصعيد جيوسياسي حقيقي، وليس مجرد خلل تقني بلا عواقب.
هل يمكن للتنظيم الأوروبي للذكاء الاصطناعي أن ينجح فعلاً؟
فرصه أكبر إذا ربط الوصول إلى السوق الأوروبية بتدقيق مستقل للنماذج، بدلاً من محاولة فرض قواعد عالمية لا تملك الشركات الكبرى للذكاء الاصطناعي أي حافز بنيوي لاتباعها.
هل تحذيرات قادة الذكاء الاصطناعي مثل داريو أموداي صادقة؟
على الأرجح مزيج من الأمرين: وعي حقيقي بالمخاطر التقنية، واستراتيجية تخدم أيضًا مصالحهم التجارية عبر جعل التنظيم أكثر إرهاقًا للمنافسين الأصغر.
