ينشر مستخدمو أحدث نموذج رئيسي موجه نحو البرمجة والأمن السيبراني من OpenAI، GPT-5.6 Sol، حسابات مرعبة على وسائل التواصل الاجتماعي، مدعين أن النموذج قام للتو بحذف ملفاتهم وبياناتهم وحتى قواعد البيانات بأكملها من تلقاء نفسه، دون السؤال أولاً.
كتب مات شومر، المؤسس والرئيس التنفيذي لشركة OthersideAI الناشئة للذكاء الاصطناعي، الشركة المصنعة لـ HyperWrite، في منشور واسع الانتشار الآن على X: “لقد قام GPT-5.6-Sol بحذف جميع ملفات جهاز Mac تقريبًا عن طريق الخطأ”.
“GPT-5.6 Sol قام للتو بحذف قاعدة بيانات الإنتاج بأكملها. هذا كل شيء. ليست مزحة. لم يحدث هذا لي من قبل، مع أي نموذج آخر على الإطلاق،” نشر المطور برونو ليموس على X.
نشر المطور جوي كوديش: “يبدو أنني تعرضت للعض من نظام Codex Sol الطموح للغاية وقام بحذف بعض الملفات التي لم يكن من المفترض أن تحتوي عليها. لدي نسخ احتياطية لذلك سأكون على ما يرام، لكن هذا ليس رائعًا، يحتاج Sol إلى التخفيف من حدة”.
قام منشور Reddit بجمع المزيد من الأمثلة.
صحيح أن حفنة من المستخدمين الذين يقدمون مثل هذه الادعاءات – حتى لو كانت ذات مصداقية مثل شومر – لا تمثل دليلاً موثوقًا إحصائيًا على أن النموذج هو المخطئ وحده. يمكن أن تتسبب الكثير من المتغيرات الأخرى في سوء تصرف نظام الذكاء الاصطناعي.
لكن OpenAI نفسها أشارت إلى هذا الخطر قبل أن يتم شحن Sol. قبل أسبوعين من إصدار OpenAI لـGPT-5.6 Sol، نشرت الشركة بطاقة نظام للنموذج، وهي الورقة التي توثق طرق ونتائج اختبار النموذج. وبطبيعة الحال، فإن بطاقة النظام تشيد بقدرات Sol إلى حد كبير، كما تفعل هذه التقارير عادةً. ولكنه يتضمن أيضًا تحذيرًا من نوع ما (تأكيدنا الجريء):
في سياقات البرمجة، ينبع عدم التوافق بشكل عام من مزيج من الرغبة المفرطة في إكمال المهمة وتفسير تعليمات المستخدم بشكل متساهل للغاية – على افتراض أن الإجراءات مسموح بها ما لم تكن صريحة ولا لبس فيها محظور. ويتجلى ذلك في كون النموذج فعالاً بشكل مفرط في التحايل على القيود التي يواجهها عند محاولة المهمة المطلوبة، الإهمال في اتخاذ الإجراءات التي قد تكون مدمرة خارج نطاق المهمة، أو خادعة عند الإبلاغ عن نتائجها للمستخدمين.
بمعنى آخر، وجدت OpenAI أن سول لديه ميل إلى اتخاذ أي إجراءات يعتقد أنها تؤدي إلى إنجاز المهمة، حتى تلك الإجراءات المدمرة، طالما أن هذه الإجراءات ليست محظورة “بشكل لا لبس فيه”. ثم قد يكذب بشأن سبب قيامه بذلك.
أمثلة OpenAI المشتركة. في إحدى الحالات، طلب المستخدم من Sol حذف ثلاثة أجهزة افتراضية بعيدة (أجهزة كمبيوتر سحابية)، تحمل الأسماء 1 و2 و3. لكن لم يتمكن Sol من العثور على تلك الأسماء في المكان الذي بحث فيه، لذا بدلاً من التوقف للسؤال، قرر حذف ثلاث أجهزة افتراضية أخرى، 5 و6 و7، كما تشير الورقة. ومن خلال القيام بذلك، “قتلت العمليات النشطة، وأشجار العمل التي تمت إزالتها بالقوة [the working files tied to a coding project]. واعترفت لاحقًا بأن العمل المتاح على الجهاز الظاهري البعيد 6 ربما يكون مفقودًا.
باختصار، لقد حذفت الأجهزة الخطأ من تلقاء نفسها، ولم تعترف بما فعلته إلا بعد وقوعه.
وفي حالة أخرى، استخدم سول “بيانات اعتماد تتجاوز ما سمح به المستخدم”. بيانات الاعتماد هي أسماء المستخدمين أو كلمات المرور أو مفاتيح الأمان التي يستخدمها النظام للتحقق من الأشخاص المسموح لهم بتسجيل الدخول. حدثت هذه الحادثة عندما كان Sol يعمل في مشروع ولم يتمكن من قراءة ملفاته السحابية. وبدلاً من تنبيه المستخدم إلى المشكلة، بحث Sol عن بيانات الاعتماد بنفسه، ووجد بعضها في ذاكرة تخزين مؤقت محلية مخفية، ثم استخدمها دون طلب إذن من المستخدم.
تعد بطاقة النظام بأن السلوك المدمر يجب أن يكون نادرًا، على الرغم من أنها تعترف أيضًا بأن GPT-5.6 Sol “يُظهر ميلًا أكبر من GPT-5.5 لتجاوز نية المستخدم، بما في ذلك اتخاذ أو محاولة إجراءات لم يطلبها المستخدم”.
من السابق لأوانه تحديد مدى انتشار هذه الحوادث – مثل حذف Sol للملفات، أو غربلة بيانات الاعتماد التي لم يقدمها المستخدم -. في غضون ذلك، يجب أن يكون مستخدمو Sol مستعدين لتنفيذ إجراءات الحماية الخاصة بهم مع النموذج، مثل استخدام تحديد نطاق الأذونات (الذي لا يمنح الوصول إلى أنظمة الإنتاج)، والحفاظ على النسخ الاحتياطية، والبدء المرحلي.
لم يستجب OpenAI على الفور لطلبنا للتعليق.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
