هناك وضعان لنشاط الذكاء الاصطناعي يدفعان حدود بنية مركز البيانات، مما يزيد الحاجة إلى اختبار الجيل التالي
قال ستيفن دوغلاس، رئيس استراتيجية السوق في Spirent، في منتدى البنية التحتية للذكاء الاصطناعي RCR الذي عقد مؤخرًا: “أصبح الاتصال هو العمود الفقري لتوسيع نطاق الذكاء الاصطناعي”.
لسنوات عديدة، تم بناء نسيج الشبكة داخل مراكز البيانات من أجل تدفقات حركة المرور التي يمكن التنبؤ بها نسبيًا. يتطلب اختبار هذه البنية الأساسية التحقق من صحة الأداء مقابل تلك الأنماط والأحمال المعروفة. ولكن مع تولي الذكاء الاصطناعي زمام الأمور، فإنه يعيد كتابة قواعد الاختبار.
سلوك غير نمطي
“تقليديا، [data center networks] تم تصميمها لبنيات حسابية عالية الأداء. وقال دوغلاس: “إننا نراها الآن تتطور من طوبولوجيا الشجرة الدهنية التقليدية ثلاثية الطبقات إلى بنية خلفية مخصصة أكثر بساطة وكفاءة”.
تتميز البنية الجديدة ذات المستويين للعمود الفقري بأنها مسطحة وأكثر انسيابية من طوبولوجيا شبكة Clos، وبالتالي تتطلب عددًا أقل من القفزات، مما يقلل من زمن الوصول. وهذا يوفر إنتاجية متسقة عالية المستوى واتصالات بدون فقدان – وكل ذلك مناسب بشكل أفضل للذكاء الاصطناعي.
“هذا هو [required] قال دوجلاس: “نظرًا للاختلاف الجذري في حركة المرور التي تولدها أعباء العمل. تولد أعباء عمل الذكاء الاصطناعي تدفقات متوازية للغاية ثنائية الاتجاه وكثيفة النطاق الترددي مع متطلبات زمن وصول ومزامنة صارمة للغاية.”
في البيئات الكلاسيكية، تكون أنماط حركة المرور حتمية إلى حد كبير. يمكن للمهندسين توقع مكان حدوث الازدحام وتحديد حجم الشبكة وفقًا لذلك لتجنب الاختناقات. على النقيض من ذلك، يقدم التدريب والاستدلال على الذكاء الاصطناعي تدفقات اتصال ديناميكية وغير حتمية. وتتميز هذه الانفجارات الهائلة وحساسية الكمون.
نظرًا للاتصال المستمر والموزع من خادم إلى خادم، فإن تدريب الذكاء الاصطناعي يكون مكثفًا للغاية بين الشرق والغرب. يتطلب نقل مجموعات البيانات الضخمة معدلات إنتاجية عالية جدًا وعدم فقدان أي حزم.
وقال دوجلاس: “حتى الخسائر البسيطة يمكن أن تعطل المزامنة وتقلل من دقة عملية التدريب بأكملها”.
تتطلب حركة الاستدلال نفس القدر من المتطلبات، ولكن بطريقة مختلفة قليلاً. يتطلب معدلات اتصال وتزامنًا عالية لدعم ملايين الأجهزة والتطبيقات التي تستعلم عن نماذج الذكاء الاصطناعي في الوقت الفعلي. وأشار إلى أن “أحجام المعاملات وأحجامها تختلف بشكل كبير اعتمادًا على مدى تعقيد كل طلب، مما يؤدي إلى زيادات متقطعة وغير متوقعة في الكثافة”.
غالبًا ما تؤدي هذه الأنواع من عمليات تبادل البيانات بين العقد الحسابية إلى حدوث مشكلات مثل الاستخدام غير الفعال لوحدة معالجة الرسومات، ومشكلات سلامة التدريب، وتجاوز سعة المخزن المؤقت، وانخفاض الإنتاجية مما يؤدي إلى بطء أوقات الاستجابة.
نهج اختبار أكثر صرامة
إن أكبر نقطة ضعف في بنية مراكز البيانات اليوم هي الاتصال. قال دوجلاس: “أصبح الاتصال هو العمود الفقري لتوسيع نطاق الذكاء الاصطناعي”.
ولمواجهة هذا التحدي، يرى دوجلاس أن الاختبار هو عامل تمكين حاسم لهذا النسيج.
نظرًا لأن مجموعات الذكاء الاصطناعي تتسع لمئات وآلاف من وحدات معالجة الرسومات والمسرعات المتخصصة، فإن اختبار أداء نسيج Ethernet واتصالاته البينية وسلوك RoCEv2، يضمن قدرة النسيج على تغذية البيانات إلى وحدات معالجة الرسومات بسرعة عالية. بالإضافة إلى ذلك، يوفر قياس الأداء نظرة ثاقبة للمقاييس، مثل فقدان إنتاجية النسيج، والاستجابة للازدحام، ودعم سلوكيات الانفجار الصغير لأحمال عمل الذكاء الاصطناعي.
يعد اختبار أداء مكتبات الاتصال الجماعية التي تنفذ إجراءات اتصال جماعية ومن نقطة إلى نقطة مختلفة للتدريب على وحدات معالجة الرسومات المتعددة والعقد المتعددة أمرًا مهمًا لضمان عدم تأثر أوقات القياس أو التقارب سلبًا.
جزء كبير من الإدارة الفعالة للشبكة هو التحكم في الازدحام الذي يضمن تدفق البيانات بسلاسة دون زيادة التحميل على الشبكة. يعد التحقق من صحة الشبكة في ظل الأحمال الثقيلة والمتقطعة أمرًا بالغ الأهمية لمنع تجاوز المخزن المؤقت.
المجالات المهمة الأخرى التي يكون فيها الاختبار ضروريًا هي أوقات إكمال المهمة (JCT) وزمن الاستجابة. وقال: “إنها تكشف عن التأثيرات الحقيقية للأعمال نظرًا لأن التقدم العام في التدريب يتم تقييده بواسطة أبطأ عامل GPU في دورة المزامنة تلك”.
وأخيرًا، بالنسبة لحركة مرور الذكاء الاصطناعي من الشرق إلى الغرب، يعد التشفير عنصرًا بالغ الأهمية. يوصي دوغلاس بإجراء اختبار للتأكد من أن النفقات العامة للتشفير لا تؤثر على النطاق الترددي الفعال للنسيج أو تضيف إلى تدريب وحدة معالجة الرسومات وأوقات الاستدلال.
كان هناك وقت في الماضي غير البعيد عندما كانت مراكز البيانات فائقة الحجم هي المعقل الرئيسي لبناء البنية التحتية للذكاء الاصطناعي. ومع انتشار الذكاء الاصطناعي عبر الصناعات، فإن هذا العالم يتغير بسرعة، مما يفسح المجال أمام سوق حيث يلعب مقدمو الخدمات السحابية الأصغر والمتخصصون مثل السحابات الجديدة ومصانع الذكاء الاصطناعي السيادية شخصيات داعمة قوية في دورة الذكاء الاصطناعي الفائقة. في هذا الواقع الجديد، تعيش أعباء عمل الذكاء الاصطناعي عبر العديد من الشبكات، مما يجعل الاختبار ضرورة حتمية جديدة عبر البنى التحتية.
قال دوغلاس: “هناك شيء واحد واضح من التطبيقات المبكرة لبنيات الذكاء الاصطناعي وهو أن حركة مرور الذكاء الاصطناعي تختلف اختلافًا جوهريًا عن حركة مرور الشبكة التقليدية، وهذا سبب كبير وراء أهمية الاختبار للغاية”.
