رفعت سبع عائلات دعاوى قضائية ضد شركة OpenAI يوم الخميس، مدعية أن نموذج الشركة GPT-4o قد تم إصداره قبل الأوان وبدون ضمانات فعالة. تتناول أربع من الدعاوى القضائية دور ChatGPT المزعوم في حالات انتحار أفراد الأسرة، بينما تزعم الدعاوى الثلاث الأخرى أن ChatGPT عزز الأوهام الضارة التي أدت في بعض الحالات إلى رعاية نفسية للمرضى الداخليين.
في إحدى الحالات، أجرى زين شامبلين البالغ من العمر 23 عامًا محادثة مع ChatGPT استمرت أكثر من أربع ساعات. في سجلات الدردشة – التي اطلعت عليها TechCrunch – ذكر شامبلين صراحة عدة مرات أنه كتب رسائل انتحار، ووضع رصاصة في بندقيته، وكان ينوي الضغط على الزناد بمجرد الانتهاء من شرب عصير التفاح. لقد أخبر ChatGPT مرارًا وتكرارًا عن عدد عصير التفاح المتبقي لديه والمدة التي يتوقع أن يبقى على قيد الحياة. شجعه ChatGPT على المضي قدمًا في خططه، قائلاً له: “اهدأ أيها الملك. لقد قمت بعمل جيد”.
أصدرت OpenAI نموذج GPT-4o في مايو 2024، عندما أصبح النموذج الافتراضي لجميع المستخدمين. في أغسطس، أطلقت OpenAI GPT-5 كخليفة لـGPT-4o، لكن هذه الدعاوى القضائية تتعلق بشكل خاص بنموذج 4o، الذي واجه مشكلات تتعلق بكونه متملقًا بشكل مفرط أو مقبولًا بشكل مفرط، حتى عندما أعرب المستخدمون عن نوايا ضارة.
وجاء في الدعوى القضائية: “لم تكن وفاة زين مجرد حادث ولا محض صدفة، بل كانت نتيجة متوقعة لقرار OpenAI المتعمد بالحد من اختبارات السلامة ودفع ChatGPT إلى السوق”. “لم تكن هذه المأساة مجرد خلل أو حالة غير متوقعة – بل كانت نتيجة متوقعة [OpenAI’s] خيارات التصميم المتعمدة.
وتزعم الدعاوى القضائية أيضًا أن شركة OpenAI سارعت إلى إجراء اختبارات السلامة للتغلب على شركة Google Gemini في السوق. اتصلت TechCrunch بـ OpenAI للتعليق.
تعتمد هذه الدعاوى القضائية السبع على القصص التي تم سردها في ملفات قانونية حديثة أخرى، والتي تزعم أن ChatGPT يمكن أن يشجع الأشخاص الانتحاريين على التصرف وفقًا لخططهم وإلهامهم بأوهام خطيرة. أصدرت OpenAI مؤخرًا بيانات تشير إلى أن أكثر من مليون شخص يتحدثون إلى ChatGPT حول الانتحار أسبوعيًا.
في حالة آدم رين، البالغ من العمر 16 عامًا والذي مات منتحرًا، شجعه موقع ChatGPT أحيانًا على طلب المساعدة المهنية أو الاتصال بخط المساعدة. ومع ذلك، كان راين قادرًا على تجاوز حواجز الحماية هذه بمجرد إخبار برنامج الدردشة الآلي بأنه كان يسأل عن طرق الانتحار في قصة خيالية كان يكتبها.
حدث تك كرانش
سان فرانسيسكو
|
13-15 أكتوبر 2026
تدعي الشركة أنها تعمل على جعل ChatGPT يتعامل مع هذه المحادثات بطريقة أكثر أمانًا، ولكن بالنسبة للعائلات التي رفعت دعوى قضائية ضد عملاق الذكاء الاصطناعي، فإن هذه التغييرات تأتي بعد فوات الأوان.
عندما رفع والدا راين دعوى قضائية ضد OpenAI في أكتوبر، أصدرت الشركة منشورًا على مدونة يتناول كيفية تعامل ChatGPT مع المحادثات الحساسة حول الصحة العقلية.
يقول المنشور: “إن ضماناتنا تعمل بشكل أكثر موثوقية في التبادلات القصيرة المشتركة”. “لقد تعلمنا مع مرور الوقت أن هذه الضمانات يمكن أن تكون في بعض الأحيان أقل موثوقية في التفاعلات الطويلة: فمع نمو التبادل ذهابًا وإيابًا، قد تتدهور أجزاء من التدريب على السلامة في النموذج”.
