واستقالة موظف في OpenAI متخصص في سلامة الذكاء الاصطناعي، وهو ديفيد روبنسون، إشارة من هذا النوع. كان يقود حتى وقت قريب أعمال الشفافية داخل فريق السلامة في الشركة المطوِّرة لـ ChatGPT. وفي مقال رأي نشرته مجلة ذي أتلانتيك، يحذّر من أن كبرى شركات الذكاء الاصطناعي لا تفعل ما يكفي للحدّ من مخاطر هذه التقنية. ويطالب لها بمستوى من الصرامة يضاهي ما هو معمول به في القطاع النووي.
أبرز ما ورد
- غادر ديفيد روبنسون، المسؤول السابق عن الشفافية في OpenAI، الشركة.
- يرى في مقاله بمجلة ذي أتلانتيك أن يقظة الشركة غير كافية قياسًا بوتيرة إطلاقاتها السريعة.
- يدعو إلى إدارة شركات الذكاء الاصطناعي كما تُدار المحطات النووية، بمستويات متعددة من التكرار الاحتياطي.
- ينضم إلى عدد متزايد من العاملين في القطاع الذين يدقّون ناقوس الخطر.
استقالة جديدة، لكن الرسالة مختلفة
لا يكتب روبنسون مرافعة ضد زملائه السابقين، وهذا ما يجعل نصه جديرًا بالاهتمام. يقول: «زملائي السابقون لامعون وكادحون ويجتهدون في اتخاذ القرارات الصحيحة». أما مأخذه فيتعلق بالإيقاع. فهو يرى أن الشركة، في سباقها المحموم من إطلاق إلى آخر، لا تبلغ مستوى اليقظة الذي يعدّه ضروريًا.
ويصف ثقافة ازدهرت بفضل التجريب: جرّب، لاحظ، صحّح. وقد كان لهذا الأسلوب منطقه طويلًا في البرمجيات الموجهة للجمهور. ويشدد روبنسون على أن عواقبه الحتمية تتفاقم كلما تقدمت قدرات التقنية. وفي النسخة المتوفرة لديّ، يوضح هذه الفكرة بمثال محدد يخص OpenAI. غير أن المقطع مبتور في النص الذي أعتمد عليه، لذلك لا أنقله.
لماذا يغيّر التشبيه النووي النقاش
يتمحور المقال حول مقارنة. فروبنسون يرى أنه ينبغي إدارة شركات الذكاء الاصطناعي كما تُدار المحطات النووية، «بمستويات متعددة من التكرار الاحتياطي وتخطيط صارم ودقيق»، حتى لا تؤدي الأخطاء البشرية، «النادرة بقدر ما هي حتمية»، إلى كارثة.
وهذه الصورة تستحق التوقف عندها. ففي المحطة النووية لا يفترض أحد أن المشغّل معصوم من الخطأ. يُبنى النظام على أساس أنه سيخطئ يومًا ما، وتُكدَّس الحواجز كي لا يترك هذا الخطأ أي أثر. وهذا عكس منطق الإطلاق السريع الذي يقوم على النشر أولًا والتصحيح لاحقًا.
لذلك يطالب روبنسون بـ«شيء أقرب بكثير إلى الكمال منذ البداية». ويقرّ بصعوبة كبيرة: فشركات الذكاء الاصطناعي اليوم لا تعرف كيف تحقق ذلك. وبحسبه، هناك آخرون يعرفون. ومرة أخرى، نهاية الجملة مبتورة في المادة التي بين يديّ، وأفضّل ألا أكملها نيابة عنه.
والذي أخرج به، بصفتي متابعًا للقطاع، هو ما يترتب على التشبيه أكثر من التشبيه نفسه. فالحديث عن ثقافة السلامة والتكرار الاحتياطي والتخطيط ينقل السؤال من حسن النية الفردية إلى بنية المؤسسات.
حركة أوسع داخل القطاع
روبنسون ليس وحده. فبحسب النص الذي أعتمد عليه، تنضم مغادرته إلى عدد متزايد من العاملين في القطاع الذين يدقّون ناقوس الخطر. ويذهب بعضهم إلى القول إن هذه التقنية قد تقضي يومًا ما على البشرية، وهو رأي لا يزال محل جدل واسع بين الباحثين.
وأكثر السوابق تداولًا تعود إلى مايو 2024. فقد غادر يان لايكه، الذي كان يشارك في قيادة فريق «المحاذاة الفائقة» في OpenAI، الشركة، وانتقد تراجع ثقافة السلامة أمام منتجات أكثر جاذبية. ثم دمجت OpenAI ذلك الفريق في بقية أعمالها البحثية بدل الإبقاء عليه كوحدة مستقلة، بعد رحيل قائديه، ومنهما الشريك المؤسس إيليا سوتسكيفر. وفي وقت أقرب، في مارس 2026، استقالت كايتلين كالينوفسكي، مسؤولة الروبوتات في OpenAI، بعد اتفاق مع البنتاغون، مشيرة إلى أسباب تتعلق بالحوكمة وإلى ضرورة تحديد ضمانات واضحة.
تختلف الدوافع من حالة إلى أخرى. أما السؤال الجوهري فيعود في كل مرة: إلى أي مدى يمكن للشركات التي تطوّر هذه النماذج أن تنظّم نفسها بنفسها؟
ما يقوله اللاعبون الآخرون
القطاع لا يتحدث بصوت واحد. فبحسب المعطيات المتوفرة لديّ، دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى إبطاء تطوير أكثر النماذج تقدمًا. كما أعلن أن شركته ستستعين بمقيّمين خارجيين لفحص التقنية وتأمينها. وقد تحدث مسؤولون آخرون، من بينهم سام ألتمان في OpenAI، علنًا في الموضوع، لكن المقطع المعني مبتور في نصي، ولا أستطيع نقل مضمونه.
ويجب التزام الدقة. فالشركات المعنية تقول عمومًا إنها تستثمر في السلامة، وإن النشر التدريجي هو بالضبط ما يتيح التعلّم. أما المنتقدون فيردّون بأن التعلّم عبر الممارسة يزداد خطورة كلما ازدادت التقنية قوة. وللحجتين منطقهما، وهذا تحديدًا ما يجعل حسم النقاش صعبًا.
ما هو على المحك في الأشهر المقبلة
أرى ثلاث مسائل تستحق المتابعة.
- ردّ OpenAI. هل علّقت الشركة على مقال روبنسون؟ لا أملك ما يؤكد ذلك أو ينفيه، ويجب التحقق منه قبل النشر.
- دور المقيّمين الخارجيين. سيُحكم على إعلان أنثروبيك بنتائجه: من يقيّم، وبأي صلاحيات وصول، وبأي قدر من الاستقلالية؟
- الضغط التنظيمي. إذا طالب العاملون أنفسهم بمعايير على غرار الصناعات الثقيلة، فمن المرجح أن يزداد وزن المطالبة بقواعد ملزمة لدى صانعي القرار السياسي.
خاتمة تبقى مفتوحة
أتجنب استخلاص حكم نهائي من هذه المغادرة. فشهادة واحدة، مهما كان صاحبها مؤهلًا، لا تروي كل ما يجري داخل شركة. ومع ذلك، فاستقالة مسؤول عن الشفافية داخل فريق للسلامة تطرح سؤالًا بسيطًا: هل يمكن تشغيل أنظمة تزداد قوة باستمرار بأساليب شركة ناشئة تجرّب بسرعة؟ جواب روبنسون هو لا. أما اللاعبون الآخرون فلا يزال عليهم أن يثبتوا أن لديهم جوابًا مختلفًا.
الأسئلة الشائعة
من هو ديفيد روبنسون؟
كان يقود سابقًا أعمال الشفافية داخل فريق السلامة في OpenAI. وقد غادر الشركة ونشر مقال رأي في ذي أتلانتيك.
ماذا يأخذ على OpenAI؟
يرى أن الشركة، في سباقها من إطلاق إلى آخر، لا تبلغ مستوى اليقظة المطلوب. لكنه يشيد بعمل زملائه السابقين ونواياهم.
ماذا تعني «ضمانات بمستوى نووي»؟
يقترح روبنسون إدارة شركات الذكاء الاصطناعي كما تُدار المحطات النووية، بمستويات متعددة من التكرار الاحتياطي وتخطيط صارم، حتى لا تنتهي الأخطاء البشرية بكارثة.
ما موقف أنثروبيك؟
بحسب النص الذي أعتمد عليه، دعا رئيسها التنفيذي داريو أمودي إلى إبطاء تطوير أكثر النماذج تقدمًا، وأعلن الاستعانة بمقيّمين خارجيين.
