في وقت سابق من هذا الأسبوع، أعلن مكتب المدعي العام في كاليفورنيا أنه كان يحقق في XAI بشأن التقارير التي تفيد بأن برنامج الدردشة الآلي الخاص بالشركة الناشئة، Grok، تم استخدامه لإنشاء صور جنسية غير موافقة للنساء والقاصرين. وفي يوم الجمعة، تابعت الحكومة الأمر بإرسال خطاب وقف وكف إلى الشركة، تطالبها باتخاذ إجراءات فورية لوقف إنتاج الصور الحميمة غير التوافقية ومواد الاعتداء الجنسي على الأطفال CSAM.
قال California AG Rob Bonta في بيان صحفي: “لقد أرسلت اليوم إلى xAI خطابًا بالتوقف والكف، أطالب فيه الشركة بالتوقف فورًا عن إنشاء وتوزيع الصور الحميمة وغير التوافقية والمواد المتعلقة بالاعتداء الجنسي على الأطفال”. “إن إنشاء هذه المواد غير قانوني. وأتوقع تمامًا أن تمتثل شركة xAI على الفور. ولا تتسامح كاليفورنيا مطلقًا مع ذلك [CSAM]”.
بالإضافة إلى ذلك، ادعى مكتب المدعي العام أن الذكاء الاصطناعي xAI يبدو أنه “يسهل الإنتاج على نطاق واسع” لصور عارية غير رضائية، والتي يتم “استخدام أمثالها لمضايقة النساء والفتيات عبر الإنترنت”. وقالت الوكالة إنها تتوقع أن تثبت شركة xAI أنها تتخذ خطوات لمعالجة هذه المشكلات خلال الأيام الخمسة المقبلة.
في قلب رد الفعل العكسي توجد ميزة الوضع “الحار” الخاصة بـ Grok، والتي أنشأها xAI لإنشاء محتوى صريح. لقد انتشرت القضية إلى ما هو أبعد من كاليفورنيا. وفتحت اليابان وكندا وبريطانيا تحقيقات في قضية جروك، كما قامت ماليزيا وإندونيسيا بحظر المنصة مؤقتًا تمامًا. على الرغم من فرض شركة xAI بعض القيود على ميزات تحرير الصور في وقت متأخر من يوم الأربعاء، إلا أن مكتب California AG مضى قدمًا في خطاب التوقف والكف.
وقد أدان حساب الأمان الخاص بـ X سابقًا هذا النوع من نشاط المستخدم، قائلًا: “أي شخص يستخدم Grok أو يدفعه إلى إنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني”. تواصلت TechCrunch مع xAI للتعليق وقوبلتها برسالة بريد إلكتروني آلية تقول “Legacy Media Lies”. تواصلت TC أيضًا مع مكتب California AG لمزيد من السياق.
لقد أدى ظهور أدوات الذكاء الاصطناعي التوليدية المجانية إلى تضخم مثير للقلق في المواد الجنسية غير الرضائية. لقد كانت العديد من المنصات تتصارع مع هذه المشكلة، وليس فقط X. وقد لفت هذا النشاط الدنيء انتباه ليس فقط قادة الدولة ولكن أيضًا الكونجرس. في الواقع، أرسل المشرعون يوم الخميس خطابًا إلى المديرين التنفيذيين للعديد من الشركات – بما في ذلك X وReddit وSnap وTikTok وAlphabet وMeta – يسألونهم عن كيفية تخطيطهم لوقف انتشار التزييف العميق الجنسي.
