لقد أتيحت لي الفرصة مؤخرًا للجلوس مع فرانسيس دي سوزا، المدير التنفيذي للعمليات في Google Cloud، خلف الكواليس في إحدى الفعاليات في لوس أنجلوس. وسط الضجيج المحيط بنا، قدم دي سوزا، الذي يتحدث بأسلوب أستاذ جامعي هادئ ومدروس، نصائح مفيدة للشركات التي تتنقل في لحظة أمان الذكاء الاصطناعي التي نعيشها جميعًا، مشيرًا إلى أنه “ستكون هناك فترة انتقالية، وبعد ذلك أعتقد أننا سنصل إلى هذا المكان الأفضل”.
لم يكن يتحدث عن جوجل في تلك اللحظة، ولكن من الواضح أنه حتى جوجل لا تزال تكتشف الأمور.
كانت الرسالة الأساسية لدي سوزا هي إحدى الرسائل التي كان متخصصو الأمن يحاولون إقناع المديرين التنفيذيين بها منذ سنوات، والتي أصبحت الآن ملحة بفضل الذكاء الاصطناعي: لا يمكن أن يكون الأمن فكرة لاحقة. وقال: “بينما تشرع الشركات في رحلة الذكاء الاصطناعي هذه، فإنها تحتاج إلى اتباع نهج المنصة”. “الأمان ليس شيئًا يمكنك الاستفادة منه لاحقًا، وهو ليس شيئًا يمكنك تركه للموظفين ليقوموا به بأنفسهم.” وحذر على وجه التحديد من “الذكاء الاصطناعي الظلي” – حيث يلجأ الموظفون إلى أدوات المستهلك دون إشراف تنظيمي – وقال إن الشركات بحاجة إلى المطالبة بالأمن والحوكمة وقابلية التدقيق من منصاتها منذ البداية. “لا يوجد شيء اسمه استراتيجية الذكاء الاصطناعي دون استراتيجية بيانات واستراتيجية أمنية. يجب أن يسيرا جنبًا إلى جنب.”
تجدر الإشارة إلى أنه لم يكن يروج لخدمة Google Cloud بمفرده. وعندما لاحظت أن نصيحته بدت وكأنها إعلان على جوجل، رفض ذلك. وقال إن Google ملتزمة بنهج متعدد السحابة، وأوضح أن الشركات التي تعتقد أنها تعمل على سحابة واحدة من المؤكد أنها ليست كذلك. وقال: “حتى لو اختاروا سحابة واحدة، فإنهم يعتمدون على تطبيقات SaaS، فهناك شركاء أعمال قد يستخدمون سحابات مختلفة”. “من المهم أن تتمتع الشركات بوضع أمني متسق عبر السحابات وعبر النماذج.”
كما أوضح أيضًا أن مشهد التهديد قد تغير بشكل جذري لدرجة أن النماذج الدفاعية القديمة أصبحت بطيئة للغاية. وأشار إلى أن متوسط الوقت بين الاختراق الأولي والتسليم إلى المرحلة التالية من الهجوم انخفض من ثماني ساعات إلى 22 ثانية، وأن سطح الهجوم توسع إلى ما هو أبعد من محيط الشبكة التقليدية. “بالإضافة إلى ممتلكاتك المعتادة، لديك نماذج الآن. لديك خطوط بيانات تستخدم لتدريب النماذج. لديك وكلاء، لديك مطالبات. كل هذا يحتاج إلى الحماية.”
أحد التهديدات التي أشار إليها دي سوزا والتي لا تحظى بالاهتمام الكافي: يمكن للوكلاء الذين يتحركون عبر الأنظمة الداخلية للشركة أن يظهروا مستودعات البيانات المنسية التي لم يفكر فيها أحد منذ سنوات. “تمتلك الكثير من المؤسسات خوادم SharePoint قديمة [and access controls] لم يتم تحديثها حقًا، ولكن لم يكن الأمر مهمًا لأنه لم يكن أحد يعرف مكانها حقًا. لكن الوكلاء الذين يتجولون في مؤسستك سيجدون أصول البيانات هذه وسيكشفون البيانات الموجودة عليها.
الجواب من وجهة نظره هو التوفيق بين سرعة الآلة وسرعة الآلة. وقال: “إننا نشهد الآن ظهور دفاع فاعل بالكامل يعتمد على الذكاء الاصطناعي، حيث يمكن للمؤسسات تشغيل وكلاء يقودون دفاعهم”. “بدلاً من وجود دفاع يقوده الإنسان أو حتى إنسان في الحلقة، يمكنك الآن أن يكون لديك بشر يشرفون على دفاع وكيل كامل.” وأضاف أن هذه أصبحت قضية قيادية، وليست مجرد مسألة تكنولوجية. “هذه مشكلة على مستوى مجلس الإدارة ومشكلة الفريق التنفيذي. إنها ليست مجرد مشكلة تخص الفريق الأمني.”
ولكن حتى مع تولي الذكاء الاصطناعي المزيد من عبء العمل الدفاعي، فإن عدد الأشخاص المؤهلين للإشراف عليه غير متوفر – وتتضاعف نقاط الضعف التي يقدمها الذكاء الاصطناعي نفسه بشكل أسرع من قدرة الفرق الأمنية على معالجتها. قالت ليا كيسنر، كبيرة مسؤولي أمن المعلومات في LinkedIn، لصحيفة نيويورك تايمز هذا الأسبوع: “سنحتاج إلى أشخاص للتعامل مع نهاية العالم للحشرات”، مضيفة أنها لا تتوقع أن تفهم الصناعة أمن الذكاء الاصطناعي بأي طريقة مستدامة طويلة المدى لعدة سنوات على الأقل.
وهو ما يعيدنا إلى مزودي المنصة أنفسهم. نشر السجل سلسلة من التقارير على مدار الأسابيع القليلة الماضية لتوثيق موجة من مطوري Google Cloud الذين تعرضوا لفواتير مكونة من خمسة أرقام بعد مكالمات API غير المصرح بها لنماذج Gemini – وهي خدمات لم يستخدمها الكثير منهم مطلقًا أو تم تمكينها عن قصد. اتبعت الحالات نمطًا مألوفًا: أصبحت مفاتيح واجهة برمجة التطبيقات (API) التي تم نشرها في الأصل لخرائط Google، والتي تم وضعها علنًا وفقًا لتعليمات Google الخاصة، قادرة بهدوء على الوصول إلى Gemini بعد أن قامت Google بتوسيع نطاقها دون الكشف بوضوح عن التغيير.
قال رود دانان، الرئيس التنفيذي لمنصة Prentus للتحضير للمقابلات، إن فاتورته وصلت إلى 10,138 دولارًا في حوالي 30 دقيقة بعد أن استغل المهاجمون مفتاح واجهة برمجة التطبيقات (API) المخترق الخاص به. استيقظ إيسورو فونسيكا، وهو مطور مقيم في سيدني تعرض حسابه للاختراق بالمثل، على اتهامات بقيمة 17000 دولار أسترالي تقريبًا على الرغم من اعتقاده أن لديه حدًا أقصى للإنفاق قدره 250 دولارًا. وما لم يعرفه أي منهما هو أن أنظمة Google الآلية قامت بترقية مستويات الفوترة الخاصة بها استنادًا إلى سجل الحساب، مما أدى إلى رفع الحدود القصوى الفعلية إلى ما يصل إلى 100000 دولار دون موافقة صريحة.
قامت Google برد المبلغين بعد أن نشر The Register تقريره الأولي. ومع ذلك، قالت جوجل لموقع The Register إنها ليس لديها خطط لتغيير سياسة ترقية الطبقة التلقائية، قائلة إنها تعطي الأولوية لمنع انقطاع الخدمة على فرض تفضيلات الميزانية المعلنة للمستخدمين.
في غضون ذلك، هناك سؤال منفصل حول ما يحدث عندما يحاول المطور إيقاف الأمور. أفاد موقع The Register هذا الأسبوع عن بحث أجرته شركة Aikido الأمنية، والذي وجد أنه حتى المطورين الذين يلتقطون مفتاحًا مخترقًا ويحذفونه على الفور قد لا يكونون آمنين. ووفقا للنتائج التي توصلت إليها أيكيدو، يبدو أن المهاجمين يمكنهم الاستمرار في استخدام هذا المفتاح لمدة تصل إلى 23 دقيقة لأن إلغاء جوجل ينتشر تدريجيا عبر بنيته التحتية. قال جوزيف ليون، الباحث في رياضة الأيكيدو، لموقع The Register إنه خلال تلك الفترة، لا يمكن التنبؤ بمعدلات النجاح – ففي بعض الدقائق، لا تزال أكثر من 90% من الطلبات تتم مصادقتها – ويمكن للمهاجمين استخدام الوقت لتصفية الملفات وبيانات المحادثة المخزنة مؤقتًا من Gemini.
وأشار ليون أيضًا إلى أن تنسيقات بيانات الاعتماد الأحدث الخاصة بشركة Google لا يبدو أنها تعاني من نفس المشكلة: حيث يتم إبطال بيانات اعتماد واجهة برمجة تطبيقات حساب الخدمة في حوالي خمس ثوانٍ، ويستغرق تنسيق المفتاح الأحدث الذي يبدأ بـ AQ من Gemini حوالي دقيقة. “كلاهما يعمل على نطاق جوجل،” كتب في ورقة أيكيدو ذات الصلة. “يشير كلاهما إلى أن هذا الأمر قابل للحل تقنيًا لمفاتيح Google API أيضًا.” باختصار، وفقًا لليون، فإن فترة الـ 23 دقيقة ليست عائقًا هندسيًا ولكنها مسألة أولويات للشركة.
وهذا أمر يستحق أخذه في الاعتبار عند قراءة نصيحة دي سوزا، وهي نصيحة سليمة ويجب أن تؤخذ على محمل الجد. إنه ليس مخطئًا، ولكن توجد حاليًا فجوة بين الأنظمة الأساسية التي تصف الأدوية ومدى سرعة تكيفها مع نفسها، ومن الجيد أن تكون على دراية بهذا أيضًا.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
