أصبح من الأسهل من أي وقت مضى على الجهات الفاعلة السيئة نشر البريد العشوائي عبر الإنترنت حيث أصبح من السهل الوصول إلى نماذج اللغات الكبيرة القوية (LLMs). إذا قضيت حوالي 10 دقائق على الإنترنت في السنوات القليلة الماضية، فستعرف أن هذا يعني أن محتوى البريد العشوائي والروبوتات أصبح مشكلة أكبر مما كانت عليه بالفعل.
تقول Reddit إنها طورت أدوات باستخدام حاملي شهادات LLM لتقليل البريد العشوائي، والتي تم إنشاء الكثير منها باستخدام حاملي LLM في المقام الأول. إنه أمر مثير للسخرية بعض الشيء، ولكن في عصر الذكاء الاصطناعي، ليس أمام المنصات خيار سوى محاربة النار بالنار. وفقًا للمنصة، يحظر Reddit 23 مليون مشاهدة غير مرغوب فيها يوميًا ويلتقط حوالي 25000 مشاركة وتعليقًا غير مرغوب فيه جديدًا كل يوم.
تعمل المنصات الاجتماعية على إنشاء أدوات آلية للحد من البريد العشوائي لسنوات، لكن Reddit يقول إن هذه الأدوات المحدثة تلتقط البريد العشوائي بمعدل أعلى.
يقول أحد منشورات مدونة Reddit: “إننا نستفيد من شهادات LLM للقبض على الأنماط الدقيقة للغاية والمنسقة للسلوك الزائف والضجيج المصطنع الذي كانت الأنظمة القديمة تفتقده في السابق”. تدعي الشركة أنها خفضت تعرض المستخدمين للبريد العشوائي بنسبة 20٪ في الفترة من يناير إلى مارس مقارنة بالأشهر الثلاثة السابقة.
تسمح منصات مثل YouTube وMeta وInstagram للمستخدمين بنشر محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي طالما أنهم يكشفون عنه، ويذهب TikTok إلى حد السماح للمستخدمين بتبديل مقدار المحتوى الناتج عن الذكاء الاصطناعي الذي يريدون رؤيته.
إذا كانت المنصات قادرة على اكتشاف المحتوى الناتج عن الذكاء الاصطناعي بشكل أسرع، فهذا يعني أيضًا أن لديها القدرة على الإبلاغ عن المحتوى المخالف مثل خطاب الكراهية بسرعة أكبر. لكن خبراء النظام الأساسي يذكروننا باستمرار بأن الإشراف على محتوى الذكاء الاصطناعي يجب أن يقترن بالإشراف البشري للحصول على النتائج الأكثر فعالية.
