لعدة أشهر، ابتكر عمالقة الذكاء الاصطناعي برامج خاصة تم فحصها وحواجز حماية صارمة للحد من استخدام نماذجهم من قبل المتسللين الخبيثين. لكن هذه القيود تعيق الآن عمل المدافعين الشرعيين عن الشبكات، فضلاً عن عمل الباحثين في مجال الأمن السيبراني الهجومي.
في يونيو/حزيران، فرضت حكومة الولايات المتحدة قيودًا على الصادرات على نماذج الذكاء الاصطناعي التي حظيت بتغطية إعلامية كبيرة من شركة Anthropic، مثل Mythos وFable. وكان الدافع وراء هذه الخطوة جزئيًا على الأقل هو تقرير ادعى أنه من الممكن تجاوز حواجز الحماية الخاصة بالنماذج المصممة لمنع المستخدمين من استخدامها لبناء وتنفيذ هجمات إلكترونية ضارة.
بغض النظر عما إذا كان الدافع وراء الحادث حقًا هو المخاوف من كسر الحماية، فالحقيقة هي أن Anthropic قامت مرارًا وتكرارًا بتسويق Mythos على أنها نوع من الآلات الإلكترونية الخاصة بيوم القيامة والتي لا يمكن منحها إلا للمستخدمين الذين تم فحصهم بعناية، وحتى ذلك الحين مع وجود حواجز حماية صارمة. (تم رفع ضوابط التصدير على Fable 5 وMythos 5 منذ ذلك الحين. وعادت Fable 5 إلى الوصول العام في 1 يوليو؛ وأعيد تقديم Mythos 5 فقط إلى المنظمات الأمريكية التي تم فحصها كجزء من عملية المراجعة الحكومية.)
هذا النوع من حراسة البوابة ليس فريدًا بالنسبة إلى ميثوس. يقدم كل من Anthropic، مع نماذجه الأخرى، وOpenAI برامج للباحثين في مجال الأمن السيبراني يمكنهم التقدم بها للخضوع للفحص والوصول – في حالة الموافقة – إلى النماذج ذات قيود أقل للأمن السيبراني: برنامج OpenAI’s Trusted Access for Cyber and Anthropic’s Cyber Verification Program.
وقد تعرضت حواجز الحماية هذه لانتقادات واسعة النطاق، لا سيما من قبل الباحثين الذين تتمثل مهمتهم في العثور على نقاط الضعف غير المعروفة في الأنظمة واستنباط طرق لاستغلالها قبل أن يفعل المجرمون ذلك.
خلال ظهوره الأخير على أحد برامج الأمن السيبراني، قال مارك دود، وهو باحث أمني معروف: “ليس من المريح بالنسبة لي أن تتخذ هذه الشركات العشوائية الكبيرة قرارات تعسفية بشأن ما هو آمن وما هو غير آمن”.
قضى دود عقودًا من الزمن في البحث عن “الأيام الصفرية” وبيعها – وهي عيوب برمجية لم تكن معروفة سابقًا والاستغلالات التي تستغلها – إلى الحكومات الغربية، بدلاً من الإبلاغ عنها إلى صانعي البرامج حتى يتم تصحيحها. وتدفع الحكومات علاوة على نقاط الضعف على وجه التحديد لأنها تظل مفتوحة، وهو أمر مفيد للعمليات الاستخباراتية.
واعترف دود بأن عمله قد يجعله متحيزًا، لكنه ليس وحيدًا. وصف العديد من الأشخاص الذين يعملون في مجال الأمن السيبراني الهجومي – الذين يبحثون بشكل استباقي في الأنظمة بحثًا عن نقاط الضعف – لموقع TechCrunch كيفية استخدام أدوات الذكاء الاصطناعي والتعامل مع حواجز الحماية الخاصة بهم.
وقال كريس أنلي، كبير العلماء في شركة الاستشارات الأمنية العملاقة NCC Group، إن مطالبة نموذج الذكاء الاصطناعي بمحاولة استغلال الخلل هو خطوة أساسية في التأكد من أنها ثغرة أمنية حقيقية تستحق الإصلاح. ولكن إذا دفع حاجز الحماية النموذج إلى رفض الإجابة على السؤال بشكل صريح، فإن حاجز الحماية يؤذي المدافعين، على حد قوله.
قال آنلي: “هذا هو المكان الذي يأتي فيه الجزء الهجومي مقابل الدفاعي وحواجز الحماية بالكامل، لأن “إصلاح هذا الرمز” كمطالبة يعد آلية أساسية للدفاع ولكنه أيضًا خريطة طريق للعثور على نقاط الضعف الحرجة في قاعدة التعليمات البرمجية”. “لذلك، في الوقت نفسه، نفس الأداة هي أداة هجومية وأداة دفاعية، ولا يمكن حقًا التخلص من الاثنين.”
وتابع: “إنها مثل المطرقة”. “لا يمكنك بناء منزل بدون مطرقة. إنها بالتأكيد أداة، ولكنها أيضًا سلاح لا يمكن اختزاله.”
عندما يواجه هو وزملاؤه مثل هذا العائق، فإنهم في بعض الأحيان يلجأون إلى نماذج الذكاء الاصطناعي مفتوحة المصدر والتي لا تحتوي على أي حواجز حماية على الإطلاق.
واتفق باولو ستاجنو، كبير مسؤولي التكنولوجيا في شركة CrowdFense، وهي شركة معروفة تعمل على تطوير واكتساب وبيع نقاط الضعف غير المعروفة للوكالات الحكومية، مع دود، قائلاً إن شركات الذكاء الاصطناعي “تعامل العملاء بشكل أساسي مثل الأطفال الذين يحتاجون إلى مجالسة الأطفال” من خلال برامجها وحواجز الحماية التي تم فحصها.
وقال ستاجنو إنه وزملاؤه يستخدمون النماذج الحدودية، ولكن فقط من أجل الهندسة العكسية. وقال إنهم يتجنبون استخدام الذكاء الاصطناعي للمساعدة في العثور على نقاط الضعف أو إنشاء برامج استغلال، لأن إدخال هذا العمل في نموذج قائم على السحابة يخاطر بتسريب بيانات الثغرات الحساسة أو استيعابها في عمليات التدريب المستقبلية. وقال إنهم يستخدمون في هذه الخطوة نماذج مفتوحة المصدر يتم تشغيلها محليًا، حيث أنهم لا يعتمدون على مشاركة البيانات خارج النموذج.
وقال جوزيبي كالي، الباحث الأمني الذي اكتشف أيام الصفر وقام بتطوير ثغرات، إن حواجز الحماية لا تعيق عمله. وذلك لأنه لا يستخدم الذكاء الاصطناعي في العمل الهجومي؛ بدلاً من ذلك، يستخدمه في الهندسة العكسية الأولية، لفهم الكود الذي يقوم بتحليله، وبناء أدوات الدعم. ولهذا السبب، قال إن أدوات الذكاء الاصطناعي يمكنها تسريع العملية وتسمح له بالتركيز على اكتشاف نقاط الضعف.
قال كالي: “ما زلت أرغب في امتلاك الاكتشاف الفعلي للأخطاء وتحويلها إلى أسلحة بنفسي، ولن يتغير ذلك إذا تم رفع جميع حواجز الحماية غدًا”. “أنا أشعر بالغيرة من أخطائي، وأحب هذه اللعبة كثيرًا لدرجة أنني لا أسمح للعارضات بلعبها نيابةً عني.”
قال أحد الباحثين في إحدى الشركات المصنعة لمكونات الهواتف الذكية، والذي تحدث شريطة عدم الكشف عن هويته لأنه غير مخول بالتحدث إلى الصحافة، إن صاحب العمل ليس جزءًا من برنامج Anthropic’s CVP، ونتيجة لذلك، فإن أدواته بالكاد مفيدة للعثور على نقاط الضعف لأن حواجز الحماية صارمة للغاية.
وقال ذلك الشخص: “إذا هبت رياح فإننا نفعل أي شيء يتعلق بالأمن، لكنها تتوقف ولا يمكن استخدامها”.
قال كريس طومسون – الرئيس التنفيذي لشركة RemoteThreat للأمن السيبراني ومؤسس Offensive AI Con، وهو حدث يركز على الأمن الهجومي والذكاء الاصطناعي – إنه من خلال تجربته في استخدام نماذج الذكاء الاصطناعي الحدودية، يمكن أن تكون حواجز الحماية غير متسقة وتعمل بشكل مختلف كل يوم. وهذا صحيح حتى داخل الحدود الأكثر مرونة لبرامج Anthropic وOpenAI التي تم فحصها.
وقال طومسون: “أعتقد أن التأثير العملي هو أنك تقضي الكثير من الوقت في التفاوض مع النموذج بدلاً من العمل على برنامج الأمان الأساسي”. “بدلاً من تحليل نقاط الضعف والتفكير المنطقي من خلال قابلية الاستغلال، فإنك تحاول العثور على سبب حصولك على نتائج غير متسقة أو سبب قيام النماذج بإفراط في تطهير المخرجات.”
ونتيجة لذلك، يعتمد الباحثون على النماذج الصينية مفتوحة المصدر، أو يتم دفعهم نحوها، مثل نموذج GLM، وهي نماذج قابلة للتنزيل مجانًا ويمكن تشغيلها محليًا دون أي تدقيق أو قيود على الاستخدام، حسبما قال طومسون.
وقال: “لديك هؤلاء الباحثون المسؤولون الذين تم إبعادهم عن الأنظمة التي تحكمها الولايات المتحدة إلى الأنظمة المملوكة لأجانب”. “أعتقد أن وضع هذه الحواجز في مكانها يضر أكثر من نفعه.”
وبدلاً من تشديد القيود بشكل أكبر، دعا طومسون مختبرات الذكاء الاصطناعي الحدودية إلى فتح برامجها، وتوفير الوصول المسؤول، وكذلك محاسبة أولئك الذين يسيئون استخدام أدواتها. وإلا، كما قال، فإن المدافعين سيخسرون سباق الذكاء الاصطناعي.
وقال طومسون: “هناك هذه العاصفة الكبيرة قادمة. هناك هذه الموجة الكبيرة من الهجمات التي ستحدث بسرعة وعلى نطاق لم يسبق له مثيل”. “لكن نفس شركات الاستشارات الأمنية والباحثين الشرعيين الذين يحاولون إحداث فرق يتم خنقهم الآن.”
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
