يُقرأ منشور X الذي أصبح الآن واسع الانتشار من الباحثة الأمنية في Meta AI Summer Yue، في البداية، مثل الهجاء. طلبت من وكيل OpenClaw AI الخاص بها التحقق من صندوق بريدها الإلكتروني الممتلئ واقتراح ما يجب حذفه أو أرشفته.
شرع الوكيل في الركض بشكل مسعور. بدأت في حذف جميع رسائل البريد الإلكتروني الخاصة بها في “تشغيل سريع” بينما تجاهلت أوامرها من هاتفها بالتوقف.
كتبت: “اضطررت إلى الركض إلى جهاز Mac mini الخاص بي كما لو كنت أقوم بنزع فتيل قنبلة”، ونشرت صورًا لمطالبات التوقف التي تم تجاهلها كإيصالات.
أصبح جهاز Mac Mini، وهو كمبيوتر Apple ميسور التكلفة والذي يوضع بشكل مسطح على المكتب ويمكن وضعه في راحة يدك، الجهاز المفضل هذه الأيام لتشغيل OpenClaw. (يُباع جهاز Mini “مثل الكعك الساخن”، كما يبدو أن أحد موظفي شركة Apple “المرتبك” أخبر باحث الذكاء الاصطناعي الشهير أندريه كارباثي عندما اشترى واحدة لتشغيل بديل OpenClaw يسمى NanoClaw).
OpenClaw هو بالطبع وكيل الذكاء الاصطناعي مفتوح المصدر الذي حقق شهرة من خلال Moltbook، وهي شبكة اجتماعية مخصصة للذكاء الاصطناعي فقط. كان عملاء OpenClaw في قلب تلك الحلقة التي تم فضح زيفها إلى حد كبير الآن على Moltbook والتي بدا فيها أن الذكاء الاصطناعي كان يتآمر ضد البشر.
لكن مهمة OpenClaw، وفقًا لصفحتها على GitHub، لا تركز على الشبكات الاجتماعية. يهدف إلى أن يكون مساعدًا شخصيًا للذكاء الاصطناعي يعمل على أجهزتك الخاصة.
لقد وقع جمهور وادي السيليكون في حب OpenClaw لدرجة أن كلمتي “مخلب” و”مخالب” أصبحتا الكلمات الطنانة المفضلة للعملاء الذين يعملون على الأجهزة الشخصية. وتشمل هذه العوامل الأخرى ZeroClaw وIronClaw وPicoClaw. حتى أن فريق البودكاست الخاص بـ Y Combinator ظهر في أحدث حلقة له وهم يرتدون أزياء جراد البحر.
حدث تك كرانش
بوسطن، MA
|
9 يونيو 2026
لكن مشاركة يو بمثابة تحذير. وكما لاحظ آخرون في X، إذا واجه باحث في مجال أمن الذكاء الاصطناعي هذه المشكلة، فما هو الأمل الذي يحمله البشر العاديون؟
“هل كنت تختبر حواجز الحماية الخاصة بها عن عمد أم أنك ارتكبت خطأً مبتدئًا؟” سألها مطور برامج على X.
أجابت: “خطأ مبتدئ”. لقد كانت تختبر وكيلها باستخدام صندوق بريد وارد أصغر حجمًا، كما أسمته، وكان يعمل بشكل جيد مع رسائل البريد الإلكتروني الأقل أهمية. لقد اكتسبت ثقتها، لذا اعتقدت أنها ستتخلى عن الشيء الحقيقي.
وكتبت أن يوي تعتقد أن الكم الكبير من البيانات الموجودة في صندوق الوارد الحقيقي الخاص بها “أدى إلى الضغط”. يحدث الضغط عندما تصبح نافذة السياق – السجل الجاري لكل ما قيل للذكاء الاصطناعي وما فعله في الجلسة – كبيرة جدًا، مما يجعل الوكيل يبدأ في تلخيص المحادثة وضغطها وإدارتها.
عند هذه النقطة، قد يتخطى الذكاء الاصطناعي التعليمات التي يعتبرها الإنسان مهمة للغاية.
في هذه الحالة، ربما تكون قد تخطيت مطالبتها الأخيرة – حيث طلبت منها عدم التصرف – وعادت مرة أخرى إلى تعليماتها من صندوق الوارد الخاص بـ “اللعبة”.
كما أشار العديد من الأشخاص الآخرين على X، لا يمكن الوثوق بالمطالبات لتكون بمثابة حواجز أمنية. قد تسيء النماذج فهمها أو تتجاهلها.
قدم العديد من الأشخاص اقتراحات تراوحت بين الصيغة الدقيقة التي كان ينبغي أن يستخدمها Yue لإيقاف العميل، إلى طرق مختلفة لضمان التزام أفضل بحواجز الحماية، مثل كتابة التعليمات إلى ملفات مخصصة أو استخدام أدوات أخرى مفتوحة المصدر.
ومن أجل الشفافية الكاملة، لم تتمكن TechCrunch من التحقق بشكل مستقل مما حدث لصندوق البريد الوارد الخاص بـ Yue. (لم تستجب لطلبنا للتعليق، على الرغم من أنها استجابت للعديد من الأسئلة والتعليقات التي أرسلتها عبر X.)
ولكن لا يهم حقا.
المغزى من الحكاية هو أن الوكلاء الذين يستهدفون العاملين في مجال المعرفة، في المرحلة الحالية من تطورهم، محفوفون بالمخاطر. الأشخاص الذين يقولون إنهم يستخدمونها بنجاح يقومون بتجميع طرق لحماية أنفسهم.
وفي يوم ما، وربما قريبًا (بحلول عام 2027؟ 2028؟)، قد تكون جاهزة للاستخدام على نطاق واسع. يعلم الخير أن الكثير منا يرغب في المساعدة فيما يتعلق بالبريد الإلكتروني وطلبات البقالة وتحديد مواعيد طبيب الأسنان. لكن ذلك اليوم لم يأت بعد.
