غالبًا ما يكون أداء الذكاء الاصطناعي مشكوكًا فيه، واستخدامه في التطبيقات الحيوية للسلامة دون مراقبة مستمرة أو تكيف متكرر ربما يكون أسوأ طريقة ممكنة
الآلات ليس لديها أخلاق. إنهم لا يستطيعون التفلسف، أو حل مأزق أخلاقي، أو فهم السببية كما يفعل البشر – وهذا هو كعب أخيل للذكاء الاصطناعي.
التوقع مقابل الواقع
أظهر استطلاع أجرته شركة KPMG على 17000 مشارك من 17 دولة حول العالم أن ثقة الجمهور وقبولهم للذكاء الاصطناعي في أدنى مستوياتها. ومن الغريب أن الاستطلاع وجد أن موقفهم يتغير على نطاق واسع مع التطبيق المعني. على سبيل المثال، تظهر استطلاعات الرأي أن قبول الذكاء الاصطناعي يكون في أدنى مستوياته عند استخدامه للموارد البشرية – في حين أنه في أعلى مستوياته في مسائل الرعاية الصحية.
ولكن هنا لكمة القناة الهضمية الحقيقية. غالبًا لا يتم التحقق من صحة مخرجات الذكاء الاصطناعي باستخدام الأدلة التجريبية. وفي المواقف عالية المخاطر، يمكن أن يترجم هذا الإغفال البسيط إلى عواقب وخيمة. تخيل سيارة ذاتية القيادة في حارة عالية السرعة. هناك العديد من الظروف المحتملة التي يمكن أن تظهر على الطريق – وإذا لم يأخذ نظام الذكاء الاصطناعي الموجود خلف العجلات في الاعتبار كل واحدة منها على مستوى جزء صغير من الثانية، فمن الممكن أن تسير الأمور بشكل جانبي بسهولة.
يمكن أن تكون المهمة مرهقة بالنسبة للذكاء الاصطناعي. الأدلة: تتمتع سيارات تسلا ذاتية القيادة بتاريخ مثير للقلق من الحوادث؛ لقد قام ChatGPT بثقة بإثارة الأكاذيب وأنصاف الحقائق لأسئلة غير معروفة له. أثارت هذه الحالات جدلاً ساخنًا حول سلامة أنظمة الذكاء الاصطناعي.
قالت صوفي جيركين، مديرة الحلول في Keysight، في مقابلة مع: “إن الذكاء الاصطناعي دائمًا ما يكون تقريبيًا”. أخبار RCR اللاسلكية. “ومن المهم أن نأخذ في الاعتبار أن الذكاء الاصطناعي سيوفر دائمًا إجابة، حتى لو كانت هذه الإجابة خاطئة أو تم تقديمها بثقة تنبؤية منخفضة.”
يمكن للمرء أن يجادل حول الغرض من تجارب ما قبل النشر وعمليات المحاكاة. من المؤكد أنهم موجودون للتأكد من أن النموذج يقدم ما وعد به، ولكن هناك “فجوة في الواقع”.
قال جيركن: “غالبًا ما تقدم أنظمة الذكاء الاصطناعي أداءً قويًا في المختبر، ولكن أثناء النشر، تواجه عمليات توزيع البيانات وحالات الحافة والتغيرات البيئية التي لم يتم تمثيلها بشكل كامل أثناء التدريب”.
وأضافت: “حتى عمليات المحاكاة عالية الدقة لا يمكنها إعادة إنتاج خصائص المستشعر، أو تأثيرات المحرك، أو التقلبات البيئية، أو الحالات النادرة، أو التفاعلات الخاصة بالمجال بشكل مثالي”.
جعل النماذج شفافة وجدير بالثقة
أطلقت Keysight برنامجًا جديدًا في CES 2026 يسعى إلى تصحيح هذه المشكلة. يعد AI Software Integrity Builder الجديد بمثابة أداة دورة حياة مصممة لتأسيس الثقة والشفافية في أنظمة الذكاء الاصطناعي من خلال سد هذه الفجوة.
تشكل طبيعة الصندوق الأسود لأنظمة الذكاء الاصطناعي مخاطر جسيمة في الصناعات ذات الأهمية الحيوية للسلامة مثل السيارات والأتمتة الصناعية وأنظمة النقل وما إلى ذلك. خطأ صغير ناتج عن انخفاض القدرة على التفسير يمكن أن يكون الفرق بين الحياة والموت. إن معايير مثل ISO/PAS 8800 وقانون الاتحاد الأوروبي للذكاء الاصطناعي واضحة من حيث النتائج، ولكنها غامضة من حيث الأساليب. لذا، إذا كان لدى نظام الذكاء الاصطناعي مشكلة في قابلية التفسير، فهو عبارة عن تقنية معطلة.
تضع Keysight البرنامج الجديد كحل ضمان للذكاء الاصطناعي يتيح للمهندسين مقارنة سلوك مختبر النموذج مع ذلك الموجود في الميدان. حيث تتوقف معظم الحلول عند تحليل مجموعة البيانات والتحقق من صحة الأداء، يضمن AI Software Integrity Builder السلامة من خلال توفير رؤى في المجالات الأساسية مثل تكامل البيانات، واستدلال النموذج، والسلوك في العالم الحقيقي، والتوافق.
فهو يوفر للمطورين نظرة سريعة على العمليات العصبية وراء اتخاذ القرار في الذكاء الاصطناعي، ويجيب على أسئلة، مثل ما الذي يحدث داخل النموذج؟ هل مجموعات بيانات التدريب كاملة ومتوازنة وعالية الجودة؟ هل يتصرف النموذج كما ينبغي في التدريب، وبشكل موثوق بعد ذلك؟
يخبر الحل المطورين عن الفجوات والتحيزات وأوجه عدم الاتساق في البيانات – ويساعد على فهم قيود النموذج من خلال إظهار الأنماط والعلاقات الارتباطية الأساسية.
أما بالنسبة للمستخدمين النهائيين المستهدفين لـ Keysight، فأجاب جيركين، “أي بيئة يجب أن تثبت الامتثال والموثوقية وسلوك الذكاء الاصطناعي الآمن في ظل ظروف تشغيل متنوعة يمكن أن تستفيد من AI Software Integrity Builder. وبعيدًا عن السيارات، يشمل ذلك، على سبيل المثال، مجالات مثل الأتمتة الصناعية، والروبوتات، وأنظمة السكك الحديدية والنقل، وتصنيع أشباه الموصلات والإلكترونيات، وغيرها من الصناعات التي يتفاعل فيها الذكاء الاصطناعي مع العمليات المادية ذات الصلة بالسلامة. وقد تم تصميم الحل للتكيف مع المجالات التشغيلية المختلفة.”
افعل المزيد بموارد أقل
وقال جيركين إن أحد النقاط البارزة هو الاختبار القائم على الاستدلال، وهي القدرة التي تميزه عن الحلول النقطية. تتيح هذه الميزة للمهندسين اكتشاف الانحرافات والانحرافات والحصول على توصيات حول كيفية إصلاحها في التكرارات المستقبلية.
وقالت: “نظرًا لأن معظم الأدوات تتوقف عند تقييم النموذج ولا تتضمن اختبارًا قائمًا على الاستدلال، فغالبًا ما يحتاج العملاء إلى الجمع بين أدوات متعددة بأنفسهم، مما يؤدي إلى عمليات مجزأة وتوافق غير كامل”.
الهدف الأوسع لـ Keysight مع AI Software Integrity Builder هو أخذ سير عمل اختبار مجزأ وتحويله إلى تسلسل سلس من المهام حيث يتم تأسيس الجدارة بالثقة من الجذور، وليس تركها للتكرارات المستقبلية.
ستعتمد شبكات المستقبل على الذكاء الطرفي المدعم بالذكاء الاصطناعي والتدفق الهائل لبيانات الوصلة الصاعدة من أجهزة إنترنت الأشياء، مما يخلق سياقات جديدة حاسمة للسلامة. وفي ذلك المستقبل، يصبح ضمان الذكاء الاصطناعي في العالم الحقيقي أمرًا ضروريًا، وليس اختياريًا. لذا، قبل أن نصل إلى هذه النقطة، تحتاج أنظمة الذكاء الاصطناعي إلى تحسين ما تفعله – خاصة عند العمل في بيئات حساسة للسلامة.
قد تتعلم أنظمة الذكاء الاصطناعي أو لا تتعلم العلاقة السببية في المستقبل، ولكن في الوقت الحالي، تقع المسؤولية على عاتق صانعيها لتغذيتها ببيانات عالية الجودة، وفهم سبب قيامها بما تفعله، وما يمكنها وما لا يمكنها فعله – لجعلها جديرة بالثقة، حيث يحاولون توجيهها نحو عتبات أداء أعلى. لأنه، كما قال الكاتب توماس إل فريدمان في صحيفة نيويورك تايمز، فإن الذكاء الاصطناعي، في غياب الثقة، لديه القدرة على أن يصبح “قاذفة بازوكا نووية”.
