لأكثر من عامين، ظل تطبيق يسمى ClothOff يرهب النساء الشابات عبر الإنترنت – وكان من الصعب للغاية إيقافه. تمت إزالة التطبيق من متجري التطبيقات الرئيسيين وتم حظره من معظم منصات التواصل الاجتماعي، لكنه لا يزال متاحًا على الويب ومن خلال روبوت Telegram. وفي أكتوبر/تشرين الأول، رفعت إحدى العيادات في كلية الحقوق بجامعة ييل دعوى قضائية من شأنها إزالة التطبيق بالكامل، مما أجبر المالكين على حذف جميع الصور ووقف التشغيل بالكامل. لكن مجرد العثور على المتهمين كان تحديا.
يوضح البروفيسور جون لانجفورد، المحامي الرئيسي المشارك في الدعوى القضائية: “لقد تم تأسيسها في جزر فيرجن البريطانية، لكننا نعتقد أنها يديرها أخ وأخت وبيلاروسيا. بل وربما تكون جزءًا من شبكة أكبر حول العالم”.
إنه درس مرير في أعقاب الطوفان الأخير من المواد الإباحية غير التوافقية التي أنتجتها تقنية xAI الخاصة بإيلون موسك، والتي تضمنت العديد من الضحايا القاصرين. تعتبر مواد الاعتداء الجنسي على الأطفال هي المحتوى الأكثر سمية من الناحية القانونية على الإنترنت، حيث يعد إنتاجها أو نقلها أو تخزينها غير قانوني، ويتم فحصها بانتظام في كل خدمة سحابية رئيسية. ولكن على الرغم من الحظر القانوني الشديد، لا تزال هناك طرق قليلة للتعامل مع مولدات الصور مثل ClothOff، كما توضح حالة لانجفورد. يمكن مقاضاة المستخدمين الأفراد، لكن مراقبة منصات مثل ClothOff وGrok أصعب بكثير، مما يترك خيارات قليلة للضحايا الذين يأملون في الحصول على العدالة في المحكمة.
شكوى العيادة، المتوفرة على الإنترنت، ترسم صورة مثيرة للقلق. المدعية هي طالبة مجهولة في المدرسة الثانوية في نيوجيرسي، استخدم زملاؤها ClothOff لتغيير صورها على Instagram. كانت تبلغ من العمر 14 عامًا عندما تم التقاط صور Instagram الأصلية، مما يعني أن الإصدارات المعدلة بواسطة الذكاء الاصطناعي مصنفة قانونيًا على أنها صور إساءة معاملة الأطفال. ولكن على الرغم من أن الصور المعدلة غير قانونية بشكل واضح، فقد رفضت السلطات المحلية مقاضاة القضية، مشيرة إلى صعوبة الحصول على أدلة من أجهزة المشتبه بهم.
وجاء في الشكوى: “لم تحدد المدرسة ولا سلطات إنفاذ القانون على الإطلاق مدى توزيع CSAM لجين دو والفتيات الأخريات على نطاق واسع”.
ومع ذلك، فإن قضية المحكمة تتحرك ببطء. تم تقديم الشكوى في أكتوبر، وفي الأشهر التي تلت ذلك، كان لانجفورد وزملاؤه بصدد تقديم إشعار للمدعى عليهم – وهي مهمة صعبة نظرًا للطبيعة العالمية للشركة. بمجرد تقديم الخدمة لهم، يمكن للعيادة الضغط من أجل المثول أمام المحكمة، وفي النهاية، إصدار حكم، ولكن في هذه الأثناء لم يمنح النظام القانوني سوى القليل من الراحة لضحايا كلوث أوف.
قد تبدو قضية Grok وكأنها مشكلة أسهل في الإصلاح. إن تقنية xAI الخاصة بـ Elon Musk ليست مخفية، وهناك الكثير من المال في النهاية للمحامين الذين يمكنهم الفوز بالدعوى. لكن Grok هي أداة ذات أغراض عامة، مما يجعل من الصعب محاسبتها في المحكمة.
حدث تك كرانش
سان فرانسيسكو
|
13-15 أكتوبر 2026
قال لي لانجفورد: “تم تصميم برنامج ClothOff وتسويقه على وجه التحديد باعتباره منشئًا للصور والفيديوهات الإباحية العميقة”. “عندما تقاضي نظامًا عامًا يمكن للمستخدمين الاستعلام عنه لجميع أنواع الأشياء، يصبح الأمر أكثر تعقيدًا.”
لقد حظر عدد من القوانين الأمريكية بالفعل المواد الإباحية العميقة – وأبرزها قانون Take It Down Act. ولكن في حين أن مستخدمين محددين ينتهكون هذه القوانين بشكل واضح، فمن الصعب جدًا محاسبة النظام الأساسي بأكمله. تتطلب القوانين الحالية دليلاً واضحًا على نية الإيذاء، وهو ما يعني تقديم دليل على علم شركة xAI بأن أدواتها ستُستخدم لإنتاج مواد إباحية دون موافقة. وبدون هذا الدليل، فإن حقوق التعديل الأول الأساسية لـ xAI ستوفر حماية قانونية كبيرة.
يقول لانغفورد: “فيما يتعلق بالتعديل الأول للدستور، من الواضح تمامًا أن مواد الاعتداء الجنسي على الأطفال ليست تعبيرًا محميًا”. “لذلك عندما تقوم بتصميم نظام لإنشاء هذا النوع من المحتوى، فمن الواضح أنك تعمل خارج نطاق ما يحميه التعديل الأول للدستور. ولكن عندما تكون نظامًا عامًا يمكن للمستخدمين الاستعلام عن جميع أنواع الأشياء، فإن الأمر ليس واضحًا تمامًا”.
أسهل طريقة للتغلب على هذه المشكلات هي إظهار أن شركة xAI تجاهلت المشكلة عمدًا. إنه احتمال حقيقي، نظرًا للتقارير الأخيرة التي تفيد بأن ” ماسك ” وجه الموظفين لتخفيف إجراءات الحماية الخاصة بـ ” جروك “. ولكن حتى ذلك الحين، سيكون التعامل مع هذه القضية أكثر خطورة بكثير.
يقول لانجفورد: “يمكن للأشخاص العقلاء أن يقولوا إننا كنا نعلم أن هذه كانت مشكلة منذ سنوات مضت”. “كيف لم يكن لديك ضوابط أكثر صرامة للتأكد من عدم حدوث ذلك؟ هذا نوع من الاستهتار أو المعرفة، لكنها مجرد حالة أكثر تعقيدا”.
إن مشكلات التعديل الأول هذه هي السبب في أن أكبر رد فعل لـ xAI جاء من أنظمة المحاكم دون حماية قانونية قوية لحرية التعبير. اتخذت كل من إندونيسيا وماليزيا خطوات لمنع الوصول إلى برنامج Grok chatbot، في حين فتحت الهيئات التنظيمية في المملكة المتحدة تحقيقًا قد يؤدي إلى حظر مماثل. وقد اتخذت المفوضية الأوروبية وفرنسا وأيرلندا والهند والبرازيل خطوات أولية أخرى. وفي المقابل، لم تصدر أي وكالة تنظيمية أمريكية ردًا رسميًا.
من المستحيل أن نقول كيف ستنتهي التحقيقات، ولكن على أقل تقدير، يثير طوفان الصور الكثير من الأسئلة التي يتعين على المنظمين التحقيق فيها – وقد تكون الإجابات دامغة.
يقول لانغفورد: “إذا كنت تقوم بنشر أو توزيع أو توزيع مواد الاعتداء الجنسي على الأطفال، فإنك تنتهك الحظر الجنائي ويمكن محاسبتك”. “السؤال الصعب هو، ماذا عرف “س”؟ ماذا فعل “س” أو لم يفعل؟ ماذا يفعلون الآن رداً على ذلك؟ “
