اعترفت شركة Discord بأن هناك خطأ في نظام إدارة الذكاء الاصطناعي الخاص بها أدى عن طريق الخطأ إلى حظر أكثر من 8000 مستخدم على مدار الشهرين الماضيين، بعد وضع علامة غير صحيحة على الصور غير الضارة – بما في ذلك جداول البيانات ولوحات الشطرنج وقوام الألعاب، بالإضافة إلى الخلفيات الشفافة البيضاء والرمادية – على أنها محتوى ضار.
وأكدت الشركة أن المشكلة أثرت على الحسابات منذ شهر مايو، حيث تم حظر 200 مستخدم إضافي خلال عطلة نهاية الأسبوع قبل أن يتعرف فريقها على المشكلة ويصلحها. جميع الحسابات المتأثرة قيد الاستعادة حاليًا.
يسلط الحادث الضوء على أحد التحديات المتزايدة المحيطة بالاعتدال بمساعدة الذكاء الاصطناعي حيث تعتمد العديد من المنصات بشكل متزايد على الأنظمة الآلية لتحديد المواد غير القانونية أو المسيئة على نطاق واسع.
في موضوع مفصل عن X، أوضح Discord أن نظام الأمان الآلي الخاص به يعمل عن طريق مطابقة المحتوى الذي تم تحميله مع قواعد بيانات المواد الضارة المعروفة. وفي حين أن هذه التكنولوجيا مصممة لرصد المحتوى غير القانوني، إلا أن الشركة أقرت بأنها يمكن أن تولد في بعض الأحيان نتائج إيجابية كاذبة. يقوم مشرف بشري بمراجعة المحتوى، ولكن هناك خطأ تسبب في قيام النظام بحظر الحسابات المتأثرة على الفور.
وكتبت الشركة: “نحن نعمل على توفير ضمانات أفضل حتى لا يحدث هذا مرة أخرى”.
تقوم أنظمتنا بوضع علامة على المحتوى من خلال مطابقته مع المواد الضارة المعروفة. يمكن أن يؤدي هذا النوع من مطابقة التشابه إلى نتائج إيجابية خاطئة، ولهذا السبب يقوم أحد أعضاء فريق الثقة والسلامة لدينا دائمًا بمراجعة المحتوى الذي تم الإبلاغ عنه قبل اتخاذ أي إجراء.
السلوك المقصود هو …
– دعم Discord (@discord_support) 7 يوليو 2026
عبر X وReddit، ادعى المستخدمون أنه تم تعليقهم نهائيًا لمجرد تحميل صور تحتوي على أنماط شبكة مربعة. تكهن العديد من المستخدمين بأن أدوات إدارة الذكاء الاصطناعي الخاصة بـ Discord أصبحت حساسة بشكل متزايد للأنماط الشبيهة بالشبكة لأنها تم استخدامها سابقًا في محاولات إخفاء أو إخفاء محتوى NSFW واستغلال الأطفال من أنظمة الكشف الآلية.
أعرب المستخدمون المتأثرون عن إحباطهم على وسائل التواصل الاجتماعي، حيث يجادل البعض بأن الحظر الدائم للحساب الذي يعتمد فقط على الاكتشاف الآلي يمكن أن يكون له عواقب وخيمة، خاصة بالنسبة للمستخدمين الذين يعتمدون على Discord في العمل، أو مجتمعات الألعاب، أو الاتصالات الاجتماعية بعيدة المدى.
كتب أحد مستخدمي X: “إن خسارة حساب Discord بسبب شيء غير عادل مثل هذا يمكن أن يكون مدمرًا للغاية ويؤثر على المستخدمين بشدة، وكل يوم يتأثر ملايين المستخدمين بحظر الذكاء الاصطناعي الكاذب. يجب إيقاف هذا”.
تم حظر حسابي بشكل خاطئ من النظام الأساسي الخاص بك بسبب خطأ في نظام الذكاء الاصطناعي التلقائي الخاص بك الذي اكتشف أنسجة اللعبة الخاصة بي على أنها CSAM. أحتاج إلى استعادة حسابي لأنني مدير لعبة وأستخدم Discord في جميع اتصالاتي. لقد طلبت مراجعة تعليقي.@discord @discord_support pic.twitter.com/QfAkCIJo6S
– جدبريانت 🎂 اليوم (@ jdbryantdev) 4 يوليو 2026
ليس Discord وحده الذي يواجه مشاكل الاعتدال بسبب الأنظمة الآلية. في العام الماضي، أبلغ مستخدمو مجموعات Instagram وFacebook عن عمليات تعليق واسعة النطاق للحسابات غير مبررة، والتي يعتقد الكثيرون أنها ناجمة عن أنظمة الإشراف على الذكاء الاصطناعي. على الرغم من أن المستخدمين أشاروا إلى أن الأتمتة هي السبب المحتمل، إلا أن ميتا لم تؤكد علنًا ما إذا كانت أخطاء الذكاء الاصطناعي هي المسؤولة. والآن، يسعى مجلس الرقابة التابع لشركة Meta إلى زيادة الشفافية.
واجه Tumblr العام الماضي أيضًا شكاوى من المستخدمين الذين قالوا إن حساباتهم تم تعليقها بشكل جماعي دون تفسيرات واضحة.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
