أعلن الاتحاد الدولي للاتصالات (ITU) يوم الخميس أنه أطلق مبادرة جديدة لتطوير أطر تضمن أن يكون سلوك عملاء الذكاء الاصطناعي جديرًا بالثقة وخاضعًا للمساءلة.
في حين أن الذكاء الاصطناعي الوكيل يعد شركات الاتصالات بمكاسب كبيرة في الإنتاجية، فإنه يقدم أيضًا مخاطر جديدة تتراوح من وكلاء مستقلين ينتحلون صفة الأشخاص أو المؤسسات، إلى اتخاذ إجراءات غير مصرح بها عبر الأنظمة المترابطة.
ويهدف الفريق المتخصص الجديد التابع للاتحاد الدولي للاتصالات والمعني بالثقة والهوية للبشر والذكاء الاصطناعي (FG-TIDA) – الذي تم الكشف عنه في القمة العالمية للذكاء الاصطناعي من أجل الصالح العام المنعقدة هذا الأسبوع في جنيف – إلى معالجة هذه التحديات من خلال تطوير أطر تحافظ على التحكم البشري الهادف في مهام مثل تنفيذ المعاملات المالية وتشغيل البنية التحتية الحيوية.
وقالت ديبورا كومبارين، الرئيس المشارك لمجموعة FG-TIDA، إن المجموعة ستتناول تحديات إدارة الثقة للأشخاص ووكلاء الذكاء الاصطناعي، والموثوقية الشاملة لأنظمة الذكاء الاصطناعي الوكيل، وطرق تعزيز الثقة في كيفية تصرف وكلاء الذكاء الاصطناعي مع الاحتفاظ بالسلطة على أفعالهم.
وقال كومبارين في بيان: “سيقوم عملاء الذكاء الاصطناعي قريبًا بالتفاوض والتعامل واتخاذ القرارات نيابة عنا”. “وقبل أن يصبح هذا المستقبل حقيقة، نحتاج إلى أسس دولية مشتركة تحدد من هم هؤلاء الوكلاء، ومتى يمكن الوثوق بهم، وكيف سيظل الناس مسيطرين. وهذا هو التحدي الذي تم إنشاء مجموعة التركيز هذه للتصدي له”.
وأضاف الرئيس المشارك أمير بانيفاتيمي: “يقدم Agentic AI فئة جديدة من الجهات الفاعلة الرقمية التي ستتعاون بشكل متزايد مع الناس ومع بعضهم البعض”. “تخبرنا الهوية من يتصرف، وتخبرنا الجدارة بالثقة كيف يمكن أن نتوقع من هذا الفاعل أن يتصرف. إن الجمع بين هذه العناصر معًا يخلق الأساس المشترك اللازم لأنظمة الذكاء الاصطناعي القابلة للتشغيل البيني والخاضعة للمساءلة والموثوقة على نطاق عالمي.”
FG-TIDA مفتوح للخبراء الفنيين وكذلك المتخصصين في السياسة والقانون والتنظيم لتطوير المصطلحات والتعاريف المشتركة؛ والبنى المرجعية للهوية والثقة واكتشاف الوكيل وقابلية التشغيل البيني؛ أطر الثقة ونماذج دورة الحياة (الضمان)؛ وآليات التشغيل البيني للهوية الرقمية وبيانات الاعتماد؛ معايير ومعايير الأمان للتقييم المستمر لوكلاء الذكاء الاصطناعي؛ وخريطة طريق موحدة لتنسيق العمل عبر مجتمعات الخبراء.
وسيقدم فريق FG-TIDA تقاريره إلى فريق خبراء الاتحاد الدولي للاتصالات المعني بمعايير الأمن، لجنة الدراسات 17 لقطاع تقييس الاتصالات.
وسينضم إلى كومبارين وبانيفاتيمي فريق قيادي أكبر سيتم الانتهاء منه في الأسابيع المقبلة. ومن المقرر أن تعقد المجموعة، المفتوحة لجميع الخبراء المهتمين، اجتماعها الأول في باريس في شهر نوفمبر/تشرين الثاني المقبل.
