حتى في الوقت الذي تعمل فيه OpenAI على تقوية متصفح Atlas AI الخاص بها ضد الهجمات الإلكترونية، تعترف الشركة بأن الحقن الفوري، وهو نوع من الهجوم الذي يتلاعب بوكلاء الذكاء الاصطناعي لاتباع تعليمات ضارة غالبًا ما تكون مخفية في صفحات الويب أو رسائل البريد الإلكتروني، يمثل خطرًا لن يختفي في أي وقت قريب – مما يثير تساؤلات حول مدى أمان عمل وكلاء الذكاء الاصطناعي على الويب المفتوح.
“الحقن الفوري، مثل الكثير من عمليات الاحتيال والهندسة الاجتماعية على شبكة الإنترنت، من غير المرجح أن يتم حله بالكامل”، كتب OpenAI في منشور مدونة يوم الاثنين يوضح بالتفصيل كيفية تعزيز الشركة لدرع Atlas لمكافحة الهجمات المتواصلة. واعترفت الشركة بأن “وضع الوكيل” في ChatGPT Atlas “يوسع سطح التهديد الأمني”.
أطلقت OpenAI متصفح ChatGPT Atlas الخاص بها في أكتوبر، وسارع الباحثون الأمنيون إلى نشر عروضهم التوضيحية، موضحين أنه من الممكن كتابة بضع كلمات في مستندات Google كانت قادرة على تغيير سلوك المتصفح الأساسي. وفي اليوم نفسه، نشرت Brave منشورًا على مدونة يوضح أن الحقن الفوري غير المباشر يمثل تحديًا منهجيًا للمتصفحات التي تعمل بالذكاء الاصطناعي، بما في ذلك متصفح Perplexity’s Comet.
OpenAI ليست الوحيدة التي تدرك أن الحقن الفوري لن يختفي. حذر المركز الوطني للأمن السيبراني في المملكة المتحدة في وقت سابق من هذا الشهر من أن هجمات الحقن الفوري ضد تطبيقات الذكاء الاصطناعي التوليدية “قد لا يتم تخفيفها تمامًا”، مما يعرض مواقع الويب لخطر الوقوع ضحية لانتهاكات البيانات. نصحت الوكالة الحكومية البريطانية المتخصصين في مجال الإنترنت بتقليل مخاطر وتأثير الحقن الفوري، بدلاً من التفكير في إمكانية “إيقاف” الهجمات.
ومن جانب OpenAI، قالت الشركة: “نحن نعتبر الحقن الفوري تحديًا أمنيًا طويل المدى للذكاء الاصطناعي، وسنحتاج إلى تعزيز دفاعاتنا ضده بشكل مستمر.”
رد الشركة على هذه المهمة العبثية؟ دورة استباقية وسريعة الاستجابة تقول الشركة إنها تظهر وعدًا مبكرًا بالمساعدة في اكتشاف استراتيجيات الهجوم الجديدة داخليًا قبل استغلالها “في البرية”.
وهذا لا يختلف تمامًا عما يقوله المنافسون مثل Anthropic وGoogle: لمحاربة الخطر المستمر للهجمات السريعة، يجب أن تكون الدفاعات متعددة الطبقات واختبارها بشكل مستمر. على سبيل المثال، يركز عمل جوجل الأخير على الضوابط المعمارية وعلى مستوى السياسة للأنظمة الوكيلة.
ولكن حيث تتخذ OpenAI أسلوبًا مختلفًا، فهي تستخدم “المهاجم الآلي المعتمد على LLM”. هذا المهاجم هو في الأساس روبوت قامت OpenAI بتدريبه، باستخدام التعلم المعزز، للعب دور المتسلل الذي يبحث عن طرق لتسلل تعليمات ضارة إلى وكيل الذكاء الاصطناعي.
يمكن للروبوت اختبار الهجوم في المحاكاة قبل استخدامه بشكل حقيقي، ويوضح المحاكي كيف سيفكر الذكاء الاصطناعي المستهدف وما هي الإجراءات التي سيتخذها إذا رأى الهجوم. يمكن للروبوت بعد ذلك دراسة هذا الرد، وتعديل الهجوم، والمحاولة مرارًا وتكرارًا. إن هذه الرؤية العميقة للاستدلال الداخلي للذكاء الاصطناعي المستهدف هي شيء لا يستطيع الغرباء الوصول إليه، لذلك، من الناحية النظرية، يجب أن يكون روبوت OpenAI قادرًا على العثور على العيوب بشكل أسرع من أي مهاجم في العالم الحقيقي.
إنه تكتيك شائع في اختبار سلامة الذكاء الاصطناعي: قم ببناء وكيل للعثور على حالات الحافة واختبارها بسرعة في المحاكاة.
“ملكنا [reinforcement learning]كتب OpenAI: “يمكن للمهاجمين المدربين توجيه العميل إلى تنفيذ عمليات سير عمل ضارة معقدة وطويلة المدى تتكشف على مدى عشرات (أو حتى مئات) الخطوات. “لقد لاحظنا أيضًا استراتيجيات هجوم جديدة لم تظهر في حملة الفريق الأحمر البشري أو التقارير الخارجية.”
في عرض توضيحي (في الصورة في الجزء أعلاه)، أظهر OpenAI كيف قام مهاجمه الآلي بإدخال بريد إلكتروني ضار إلى البريد الوارد للمستخدم. عندما قام وكيل الذكاء الاصطناعي لاحقًا بفحص البريد الوارد، اتبع التعليمات المخفية في البريد الإلكتروني وأرسل رسالة استقالة بدلاً من صياغة رد خارج المكتب. ولكن بعد التحديث الأمني، تمكن “وضع الوكيل” من اكتشاف محاولة الحقن الفوري بنجاح وإبلاغ المستخدم بها، وفقًا للشركة.
وتقول الشركة إنه على الرغم من صعوبة تأمين الحقن الفوري بطريقة مضمونة، إلا أنها تعتمد على اختبارات واسعة النطاق ودورات تصحيح أسرع لتقوية أنظمتها قبل أن تظهر في هجمات حقيقية.
رفض متحدث باسم OpenAI مشاركة ما إذا كان تحديث أمان Atlas قد أدى إلى انخفاض ملموس في عمليات الحقن الناجحة، لكنه قال إن الشركة تعمل مع أطراف ثالثة لتقوية Atlas ضد الحقن الفوري منذ ما قبل الإطلاق.
يقول رامي مكارثي، الباحث الأمني الرئيسي في شركة الأمن السيبراني Wiz، إن التعلم المعزز هو إحدى الطرق للتكيف المستمر مع سلوك المهاجم، ولكنه جزء فقط من الصورة.
وقال مكارثي لـ TechCrunch: “إن إحدى الطرق المفيدة للتفكير في المخاطر في أنظمة الذكاء الاصطناعي هي الاستقلالية مضروبة في الوصول”.
قال مكارثي: “تميل المتصفحات الوكيلة إلى الجلوس في جزء مليء بالتحديات من تلك المساحة: استقلالية معتدلة مقترنة بإمكانية وصول عالية جدًا”. “تعكس العديد من التوصيات الحالية هذه المقايضة. إن الحد من الوصول المسجل يؤدي في المقام الأول إلى تقليل التعرض، في حين أن طلب مراجعة طلبات التأكيد يقيد الاستقلالية.”
هاتان اثنتين من توصيات OpenAI للمستخدمين لتقليل المخاطر التي يتعرضون لها، وقال متحدث باسم شركة Atlas إنها مدربة أيضًا للحصول على تأكيد المستخدم قبل إرسال الرسائل أو سداد المدفوعات. تقترح OpenAI أيضًا أن يقوم المستخدمون بإعطاء الوكلاء تعليمات محددة، بدلاً من تزويدهم بإمكانية الوصول إلى صندوق الوارد الخاص بك وإخبارهم “باتخاذ الإجراء المطلوب”.
“يسهل النطاق الواسع للمحتوى المخفي أو الضار التأثير على الوكيل، حتى عند وجود إجراءات وقائية،” وفقًا لـ OpenAI.
في حين تقول شركة OpenAI إن حماية مستخدمي Atlas من الحقن الفوري هي أولوية قصوى، إلا أن مكارثي يثير بعض الشكوك حول عائد الاستثمار للمتصفحات المعرضة للمخاطر.
قال مكارثي لـ TechCrunch: “بالنسبة لمعظم حالات الاستخدام اليومي، لا تقدم المتصفحات الوكيلة بعد قيمة كافية لتبرير ملف تعريف المخاطر الحالي الخاص بها”. “إن المخاطر كبيرة نظرًا لقدرتهم على الوصول إلى البيانات الحساسة مثل البريد الإلكتروني ومعلومات الدفع، على الرغم من أن هذا الوصول هو أيضًا ما يجعلهم أقوياء. وسوف يتطور هذا التوازن، ولكن اليوم لا تزال المقايضات حقيقية للغاية.”
