في الأسبوع الماضي، اخترق نموذج غير منشور صممته شركة OpenAI أنظمة Hugging Face أثناء الاختبار الداخلي، وأصبح الكثير من الأبحاث النظرية فجأة عملية للغاية. كان الاختراق أول حالة يمكن التحقق منها لفقد مختبر الذكاء الاصطناعي السيطرة على نموذجه الخاص، حيث قام بربط عمليات الاستغلال معًا للوصول إلى ما لم يكن من المفترض أن يحصل عليه أبدًا. ولكن في حين أن صناعة الذكاء الاصطناعي كانت متحدة في إنذارها، فقد ظهر انقسام حول كيفية استجابة الباحثين.
بالنسبة للبعض، المشكلة هي مشكلة أساسية تتعلق بالأمن السيبراني: فشل صندوق الحماية في احتواء النموذج، وفشلت أنظمة الأمن السيبراني في Hugging Face في إبقائه خارجًا. يمكن حل هذه المشكلات عن طريق تصحيح الأخطاء وبناء أساليب تحكم واحتواء أكثر قوة للذكاء الاصطناعي الذي يتمتع بقدرات متزايدة ويميل إلى الانحراف في البيئات المستقلة.
لكن معسكرا آخر يتبنى وجهة نظر أكثر تشاؤما. بالنسبة لهم، فإن قدرات الذكاء الاصطناعي المتزايدة بسرعة تعني أن محاولة السيطرة على النماذج المارقة هي لعبة خاسرة. يأتي الأمان القوي الوحيد من التأكد من أن النماذج لا تحاول الهروب في المقام الأول – وهو التحدي الذي يشار إليه غالبًا باسم المحاذاة. من حيث المواءمة، تكمن المشكلة في أن نموذج OpenAI كان يحاول الغش، وحل هذه المشكلة أكثر إلحاحًا من جهود الاحتواء قصيرة المدى.
وبالحكم من خلال تصريحاتها العامة، فإن OpenAI تأخذ كلا المعسكرين على محمل الجد. سارعت الشركة إلى تصحيح الأخطاء المتضمنة في الاختراق، وأشارت إلى أساليب المحاذاة والمراقبة في بيانها بعد أن أصبح الاختراق علنيًا. لكن استجابة الشركة تشير أيضًا إلى فلسفة أثارت قلق العديد من الباحثين في مجال السلامة: فبدلاً من إبطاء أو إيقاف تطوير نماذج أكثر قدرة، يجب عليها بدلاً من ذلك التركيز على بناء أقفاص أقوى حولها.
قالت شركة OpenAI في تقرير ما بعد الحادث: “نظرًا لأن النماذج تتولى مهام أطول وأكثر تعقيدًا، فإن حالات الفشل التي تغفلها التقييمات قد تؤدي إلى عواقب أكبر”. “سنواصل العمل على تضييق الفجوة بين التقييم والنشر: اختبار النماذج على مسارات أطول، وتحسين التوافق، وبناء المراقبة التي يمكن أن تتدخل، ومنح المستخدمين رؤية وتحكمًا أكثر وضوحًا.”
هناك أيضًا سبب للاعتقاد بأن نماذج OpenAI أصبحت أقل توافقًا مع زيادة قوتها. وفقًا لبطاقة نظام OpenAI، فإن GPT-5.6 Sol أكثر عرضة لاختلال الوكلاء بشكل ملحوظ من سابقتها، GPT-5.5. وفي عمليات محاكاة النشر، وجدت الشركة أيضًا أن النموذج كان أكثر عرضة للتحايل على القيود والانخراط في أعمال مدمرة وإجراء عمليات نقل بيانات غير مصرح بها مقارنة بـ GPT-5.5. لقد تم التغاضي عن هذه الأرقام إلى حد كبير في الإصدار الأول، ولكن في أعقاب الاختراق، تم إلقاء نظرة ثانية عليها – خاصة وأن Sol كان أحد العارضات المعنيات.
في منشور على وسائل التواصل الاجتماعي، جادل دين بول، رئيس العقود المستقبلية الاستراتيجية في OpenAI، بأن المراقبة والشفافية هما أفضل الطرق لإبقاء هذه الاتجاهات تحت السيطرة.
وقال: “ستصبح هذه القضايا أكثر بروزًا مع تحسن قدرات النماذج، ومع تزايد مخاطر نشرها”. “الحل لا يكمن في الذعر ولا في الرضا عن النفس. بل أعتقد أن الحل يكمن في القياس والمراقبة الدقيقة، والعقلية الهندسية، والشفافية”.
قال أحد الباحثين السابقين في OpenAI لـ TechCrunch إن الشركة تميل إلى التركيز على “المحاذاة الخارجية” بدلاً من “المحاذاة الداخلية” – وهو الفرق بشكل أساسي بين نظام الذكاء الاصطناعي الذي يفهم مجموعة من القيم ويمكنه تمثيلها بشكل مقنع، ونظام لديه تلك القيم في جوهره. في هذه الحالة، لم تكن المحاذاة الخارجية كافية لإقناع النموذج بأنه لا ينبغي له الغش في الاختبار.
لم يستجب OpenAI للطلبات المتكررة للحصول على مزيد من المعلومات.
بالنسبة للباحثين الذين يركزون على المواءمة، فإن استجابة OpenAI ليست جيدة بما فيه الكفاية. قال زفي موشوفيتز، الكاتب الذي يركز على التطورات الجديدة في مجال الذكاء الاصطناعي، إن قرار OpenAI بالتعامل مع الحادث باعتباره مشكلة في البنية التحتية قد يساعد في حل مشكلات الأمن السيبراني المباشرة، لكنه سيفشل على المدى الطويل.
كتب موشوفيتز في مدونة Substack الحديثة: “هذه مشكلة محاذاة”. “هذه هي النماذج التي تم محاذاةها بشكل غير صحيح، وجميع نماذج OpenAI تظهر علامات حادة على المشكلة التي تثير قلقنا جميعًا، بطريقة من المحتمل أن تكون جزءًا لا يتجزأ من تدريبهم على مستوى عميق. يجب معالجة مسار التدريب بالكامل في هذا الضوء، وإلا فسوف يزداد الأمر سوءًا.”
قال العديد من الخبراء لـ TechCrunch أن الحادث دليل على أن أساليب التدريب الحالية تنتج أنظمة تعمل على تحسين النتائج بدلاً من استيعاب النوايا البشرية.
قامت منظمة Redwood Research، وهي منظمة غير ربحية لأبحاث السلامة والأمن في مجال الذكاء الاصطناعي، بتصنيف سلوك نموذج OpenAI في هذه الحالة على أنه “اختلال في البحث عن النتائج”، وهو نمط تحاول فيه نماذج الذكاء الاصطناعي الحصول على درجة عالية بغض النظر عن التعليمات أو الآثار الجانبية أو العواقب النهائية.
كتب أليكس مالين وجيريش جوبتا، وهما باحثان في ريدوود، في بحث حديث: “النماذج التي تتمتع بخصائص المحاذاة هذه يمكن أن تنشئ “قرية بوتيمكين” من النجاحات الزائفة لجعل الأمور تبدو وكأنها على ما يرام عندما لا تكون كذلك”.
إن سلوك البحث عن النتائج وغيره من الاختلالات الأخرى لا يقتصر على OpenAI. نشرت شركة Anthropic عدة أوراق بحثية حول سلوكيات الاختلال الناشئة التي تظهر عندما يتم تحسين نماذجها الحدودية أو وضعها في بيئات مستقلة، بما في ذلك الخداع واختراق المكافآت والاستقلالية الخبيثة.
قال نيف باريك، الباحث في مجال سلامة الذكاء الاصطناعي في منظمة METR غير الربحية، لـ TechCrunch عبر البريد الإلكتروني: “ما زلنا نرى باستمرار نماذج تحاول التحايل على القيود والتصرف بشكل خادع عندما يُطلب منهم القيام بمهام في حدود قدراتهم”. “في تقريرنا عن المخاطر الحدودية، رأينا هذا السلوك بشكل ثابت إلى حد ما، على الرغم من الجهود التي تبذلها الشركات لمحاولة الحد من هذا السلوك.”
تتضمن استجابة OpenAI لحادثة Hugging Face افتراضًا مفاده أن التطوير سيستمر على أنظمة أكثر قدرة، سواء كانت متوافقة بشكل مناسب مع جوهرها أم لا. إن العودة إلى لوحة الرسم ليست خيارًا حقًا عندما تعتمد نماذج الأعمال الخاصة بشركات الذكاء الاصطناعي على تقديم الجيل التالي من النماذج. إذا لم يكن من الممكن أبدا أن نعرف على وجه اليقين أن النموذج متوافق تماما، فإن السؤال العملي يتلخص في كيفية احتواء الأنظمة ذات القدرات المتزايدة والتحكم فيها بشكل آمن.
“لا يوجد حتى الآن فهم جيد لكيفية مواءمة أنظمة الذكاء الاصطناعي الأكثر قدرة، ولكن هناك إجماع أكبر بكثير حول كيفية التحكم فيها”، كما قال ستيفن أدلر، باحث السلامة السابق في OpenAI وكبير العلماء الحالي في Guidelight AI Standards، وهي منظمة تنشر معيارًا لتجنب حوادث مثل Hugging Face one، لـ TechCrunch. “كل شركة لديها طرق لتسلكها لتحقيق ذلك.”
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
