وبحسب ما ورد طلبت شركة OpenAI من عائلة رين – التي توفي ابنها آدم رين البالغ من العمر 16 عامًا منتحرًا بعد محادثات مطولة مع ChatGPT – الحصول على قائمة كاملة بالحاضرين في حفل تأبين المراهق، مما يشير إلى أن شركة الذكاء الاصطناعي قد تحاول استدعاء الأصدقاء والعائلة.
طلبت OpenAI أيضًا “جميع المستندات المتعلقة بالخدمات التذكارية أو الأحداث على شرف المتوفى، بما في ذلك على سبيل المثال لا الحصر أي مقاطع فيديو أو صور فوتوغرافية تم التقاطها أو خطاب تأبين مقدم”، وفقًا لوثيقة حصلت عليها صحيفة فاينانشيال تايمز.
وفي حديثهم إلى “فاينانشيال تايمز”، وصف محامون من عائلة رين الطلب بأنه “مضايقة متعمدة”.
تأتي المعلومات الجديدة في الوقت الذي قامت فيه عائلة Raine بتحديث الدعوى القضائية ضد OpenAI يوم الأربعاء. رفعت العائلة لأول مرة دعوى قتل غير مشروعة ضد OpenAI في أغسطس بعد أن زعمت أن ابنهم انتحر بعد محادثات مع برنامج الدردشة الآلية حول صحته العقلية وتفكيره في الانتحار. تدعي الدعوى المحدثة أن OpenAI سارعت إلى إصدار GPT-4o في مايو 2024 عن طريق قطع اختبارات السلامة بسبب الضغوط التنافسية.
تزعم الدعوى أيضًا أنه في فبراير 2025، قامت OpenAI بإضعاف الحماية عن طريق إزالة منع الانتحار من قائمة “المحتوى غير المسموح به”، وبدلاً من ذلك نصحت الذكاء الاصطناعي فقط “بتوخي الحذر في المواقف الخطرة”. قالت العائلة إنه بعد هذا التغيير، ارتفع استخدام Adam’s ChatGPT من عشرات الدردشات اليومية، مع 1.6% تحتوي على محتوى لإيذاء النفس في يناير، إلى 300 محادثة يومية في أبريل، وهو الشهر الذي توفي فيه، مع 17% تحتوي على مثل هذا المحتوى.
ردًا على الدعوى المعدلة، قالت OpenAI: “إن رفاهية المراهقين هي أولوية قصوى بالنسبة لنا – فالقاصرون يستحقون حماية قوية، خاصة في اللحظات الحساسة. لدينا ضمانات مطبقة اليوم، مثل [directing to] الخطوط الساخنة للأزمات، وإعادة توجيه المحادثات الحساسة إلى نماذج أكثر أمانًا، والحث على فترات راحة خلال الجلسات الطويلة، ونحن مستمرون في تعزيزها.
بدأت OpenAI مؤخرًا في طرح نظام جديد لتوجيه الأمان وأدوات الرقابة الأبوية على ChatGPT. يدفع نظام التوجيه المحادثات الأكثر حساسية عاطفيًا إلى نموذج OpenAI الأحدث، GPT-5، الذي لا يتمتع بنفس الميول التملقية مثل GPT-4o. وتسمح أدوات الرقابة الأبوية للآباء بتلقي تنبيهات السلامة في مواقف محدودة حيث من المحتمل أن يكون المراهق معرضًا لخطر إيذاء نفسه.
حدث تك كرانش
سان فرانسيسكو
|
27-29 أكتوبر 2025
تواصلت TechCrunch مع OpenAI ومحامي عائلة Raine.
