أصبحت مشكلة المواد الإباحية العميقة في عالم التكنولوجيا الآن أكبر من مجرد X.
في رسالة إلى قادة X، وMeta، وAlphabet، وSnap، وReddit، وTikTok، طلب العديد من أعضاء مجلس الشيوخ الأمريكي من الشركات تقديم دليل على أن لديهم “وسائل حماية وسياسات قوية” مطبقة، وشرح كيف يخططون للحد من ظهور التزييف العميق الجنسي على منصاتهم.
وطالب أعضاء مجلس الشيوخ أيضًا الشركات بالحفاظ على جميع الوثائق والمعلومات المتعلقة بإنشاء الصور الجنسية التي تم إنشاؤها بواسطة الذكاء الاصطناعي واكتشافها والإشراف عليها وتحقيق الدخل منها، بالإضافة إلى أي سياسات ذات صلة.
تأتي الرسالة بعد ساعات من إعلان X أنها قامت بتحديث Grok لمنعها من إجراء تعديلات على أشخاص حقيقيين في الملابس الكاشفة، وتقييد إنشاء الصور وتحريرها عبر Grok للمشتركين الذين يدفعون. (X وxAI جزء من نفس الشركة.)
وفي إشارة إلى تقارير إعلامية حول مدى سهولة إنتاج شركة Grok لصور جنسية وعارية للنساء والأطفال، أشار أعضاء مجلس الشيوخ إلى أن حواجز حماية المنصات لمنع المستخدمين من نشر صور جنسية غير توافقية قد لا تكون كافية.
“نحن ندرك أن العديد من الشركات تتبع سياسات ضد الصور الحميمية غير التوافقية والاستغلال الجنسي، وأن العديد من أنظمة الذكاء الاصطناعي تدعي أنها تمنع المواد الإباحية الصريحة. ولكن في الممارسة العملية، كما رأينا في الأمثلة أعلاه، يجد المستخدمون طرقًا للالتفاف حول حواجز الحماية هذه. أو أن هذه الحواجز تفشل، “كما جاء في الرسالة.
تعرضت Grok، وبالتالي X، لانتقادات شديدة لتمكينها هذا الاتجاه، لكن المنصات الأخرى ليست محصنة.
حدث تك كرانش
سان فرانسيسكو
|
13-15 أكتوبر 2026
اكتسبت Deepfakes شعبية لأول مرة على Reddit، عندما انتشرت صفحة تعرض مقاطع فيديو إباحية اصطناعية لمشاهير قبل أن تقوم المنصة بإزالتها في عام 2018. وتضاعفت التزييفات العميقة الجنسية التي تستهدف المشاهير والسياسيين على TikTok وYouTube، على الرغم من أنها عادة ما تنشأ في مكان آخر.
استدعى مجلس الرقابة التابع لشركة Meta العام الماضي حالتين لصور الذكاء الاصطناعي الصريحة لشخصيات عامة نسائية، وسمحت المنصة أيضًا لتطبيقات التعري لبيع الإعلانات على خدماتها، على الرغم من أنها رفعت دعوى قضائية ضد شركة تدعى CrushAI لاحقًا. كانت هناك تقارير متعددة عن أطفال ينشرون صورًا مزيفة لأقرانهم على Snapchat. كما أصبح تطبيق Telegram، الذي لم يتم إدراجه في قائمة أعضاء مجلس الشيوخ، سيئ السمعة أيضًا لاستضافته لروبوتات مصممة لخلع صور النساء.
ولم تستجب X وAlphabet وReddit وSnap وTikTok وMeta على الفور لطلبات التعليق.
تطالب الرسالة الشركات بتقديم:
- تعريفات السياسة للمحتوى “المزيف العميق” أو “الصور الحميمية غير التوافقية” أو المصطلحات المشابهة.
- أوصاف لسياسات الشركات ونهج التنفيذ فيما يتعلق بالتزييف العميق غير التوافقي لأجساد الأشخاص بواسطة الذكاء الاصطناعي، والصور غير العارية، والملابس المعدلة، و”التعري الافتراضي”.
- وصف لسياسات المحتوى الحالية التي تتناول الوسائط المحررة والمحتوى الصريح، بالإضافة إلى التوجيه الداخلي المقدم للمشرفين.
- كيف تحكم السياسات الحالية أدوات الذكاء الاصطناعي ومولدات الصور من حيث صلتها بالمحتوى الإيحائي أو الحميم.
- ما هي المرشحات أو حواجز الحماية أو التدابير التي تم تنفيذها لمنع توليد وتوزيع التزييف العميق؟
- ما هي الآليات التي تستخدمها الشركات لتحديد محتوى التزييف العميق ومنع إعادة تحميله.
- كيف يمنعون المستخدمين من الاستفادة من هذا المحتوى.
- كيف تمنع المنصات نفسها من تحقيق الدخل من المحتوى غير التوافقي الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
- كيف تمكنهم شروط الخدمة الخاصة بالشركات من حظر أو تعليق المستخدمين الذين ينشرون محتوى مزيفًا عميقًا.
- ما الذي تفعله الشركات لإخطار ضحايا التزييف العميق الجنسي بدون رضاهم؟
تم توقيع الرسالة من قبل أعضاء مجلس الشيوخ ليزا بلانت روتشستر (ديمقراطية من ولاية ديلاوير)، وتامي بالدوين (ديمقراطية من ولاية ويسكونسن)، وريتشارد بلومنثال (ديمقراطية من ولاية كونيتيكت)، وكيرستن جيليبراند (ديمقراطية من ولاية نيويورك)، ومارك كيلي (ديمقراطية من أريزونا)، وبن راي لوجان (ديمقراطية من ولاية ويسكونسن)، وبريان شاتز (ديمقراطية من هاواي)، وآدم شيف (ديمقراطية من كاليفورنيا).
وتأتي هذه الخطوة بعد يوم واحد فقط من تصريح مالك شركة xAI، إيلون ماسك، بأنه “ليس على علم بأي صور عارية لقاصرين تم إنشاؤها بواسطة Grok”. في وقت لاحق من يوم الأربعاء، فتح المدعي العام في كاليفورنيا تحقيقًا في برنامج الدردشة الآلي الخاص بـ xAI، بعد ضغوط متزايدة من الحكومات في جميع أنحاء العالم الغاضبة من عدم وجود حواجز حماية حول Grok مما سمح بحدوث ذلك.
أكدت شركة xAI أنها تتخذ إجراءات لإزالة “المحتوى غير القانوني على X، بما في ذلك [CSAM] والعري غير التوافقي”، على الرغم من أن الشركة ولا Musk لم يتناولا حقيقة السماح لـ Grok بإجراء مثل هذه التعديلات في المقام الأول.
لا تقتصر المشكلة أيضًا على الصور الجنسية التي تم التلاعب بها دون رضاهم. على الرغم من أن خدمات إنشاء الصور وتحريرها المستندة إلى الذكاء الاصطناعي لا تسمح للمستخدمين بـ “خلع ملابسهم”، إلا أنها تسمح للمرء بسهولة بإنشاء صور مزيفة بعمق. ولاختيار بعض الأمثلة، يقال إن Sora 2 من OpenAI سمح للمستخدمين بإنشاء مقاطع فيديو صريحة تظهر الأطفال؛ يبدو أن شركة Nano Banana من Google قد أنشأت صورة تظهر إطلاق النار على تشارلي كيرك؛ وحصدت مقاطع الفيديو العنصرية التي تم إنشاؤها باستخدام نموذج فيديو الذكاء الاصطناعي من Google ملايين المشاهدات على وسائل التواصل الاجتماعي.
وتزداد المشكلة تعقيدًا عندما تظهر مولدات الصور والفيديو الصينية في الصورة. تقدم العديد من شركات وتطبيقات التكنولوجيا الصينية – وخاصة تلك المرتبطة بـ ByteDance – طرقًا سهلة لتحرير الوجوه والأصوات ومقاطع الفيديو، وقد انتشرت هذه المخرجات إلى منصات التواصل الاجتماعي الغربية. لدى الصين متطلبات أقوى لتصنيف المحتوى الاصطناعي لا توجد في الولايات المتحدة على المستوى الفيدرالي، حيث تعتمد الجماهير بدلاً من ذلك على سياسات مجزأة ومطبقة بشكل مشكوك فيه من المنصات نفسها.
وقد أقر المشرعون الأمريكيون بالفعل بعض التشريعات التي تسعى إلى كبح جماح المواد الإباحية المزيفة، لكن التأثير كان محدودا. ويهدف قانون Take It Down، الذي أصبح قانونًا اتحاديًا في شهر مايو، إلى تجريم إنشاء ونشر الصور الجنسية غير التوافقية. لكن هناك عددا من الأحكام في القانون تجعل من الصعب مساءلة منصات توليد الصور، لأنها تركز معظم التدقيق على المستخدمين الأفراد بدلا من ذلك.
وفي الوقت نفسه، يحاول عدد من الولايات أن تأخذ الأمور بأيديها لحماية المستهلكين والانتخابات. هذا الأسبوع، اقترحت حاكمة نيويورك كاثي هوشول قوانين تتطلب تصنيف المحتوى الناتج عن الذكاء الاصطناعي على هذا النحو، وحظر التزييف العميق غير التوافقي في فترات محددة تسبق الانتخابات، بما في ذلك تصوير مرشحي المعارضة.
