يقول OpenAI أن أكثر من مليون شخص يتحدثون إلى ChatGPT حول الانتحار أسبوعيًا

أصدرت OpenAI بيانات جديدة يوم الاثنين توضح عدد مستخدمي ChatGPT الذين يعانون من مشكلات الصحة العقلية ويتحدثون إلى برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي حول هذا الموضوع. تقول الشركة أن 0.15% من مستخدمي ChatGPT النشطين في أسبوع معين لديهم “محادثات تتضمن مؤشرات واضحة عن التخطيط أو النية الانتحارية المحتملة”. وبالنظر إلى أن ChatGPT لديه أكثر من 800 مليون مستخدم نشط أسبوعيًا، فهذا يعني أكثر من مليون شخص أسبوعيًا.

وتقول الشركة إن نسبة مماثلة من المستخدمين يظهرون “مستويات عالية من الارتباط العاطفي بـ ChatGPT”، وأن مئات الآلاف من الأشخاص تظهر عليهم علامات الذهان أو الهوس في محادثاتهم الأسبوعية مع برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي.

تقول OpenAI إن هذه الأنواع من المحادثات في ChatGPT “نادرة للغاية”، وبالتالي يصعب قياسها. ومع ذلك، تقدر الشركة أن هذه المشكلات تؤثر على مئات الآلاف من الأشخاص كل أسبوع.

شاركت OpenAI المعلومات كجزء من إعلان أوسع حول جهودها الأخيرة لتحسين كيفية استجابة النماذج للمستخدمين الذين يعانون من مشكلات الصحة العقلية. تدعي الشركة أن أحدث أعمالها على ChatGPT تضمن التشاور مع أكثر من 170 خبيرًا في الصحة العقلية. تقول OpenAI إن هؤلاء الأطباء لاحظوا أن الإصدار الأحدث من ChatGPT “يستجيب بشكل أكثر ملاءمة واتساقًا من الإصدارات السابقة”.

في الأشهر الأخيرة، سلطت العديد من القصص الضوء على كيفية تأثير روبوتات الدردشة المدعومة بالذكاء الاصطناعي سلبًا على المستخدمين الذين يعانون من تحديات تتعلق بالصحة العقلية. وقد وجد الباحثون سابقًا أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي يمكن أن تقود بعض المستخدمين إلى جحر الأرانب الوهمية، إلى حد كبير من خلال تعزيز المعتقدات الخطيرة من خلال السلوك المتملق.

أصبحت معالجة مخاوف الصحة العقلية في ChatGPT مشكلة وجودية بالنسبة لـ OpenAI. تتم حاليًا رفع دعوى قضائية ضد الشركة من قبل والدي صبي يبلغ من العمر 16 عامًا أسر أفكاره الانتحارية إلى ChatGPT في الأسابيع التي سبقت انتحاره. كما حذر المدعون العامون في ولايتي كاليفورنيا وديلاوير – الذين قد يمنعون إعادة الهيكلة المخطط لها للشركة – شركة OpenAI من أنها بحاجة إلى حماية الشباب الذين يستخدمون منتجاتها.

في وقت سابق من هذا الشهر، ادعى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في منشور على X أن الشركة “تمكنت من التخفيف من مشكلات الصحة العقلية الخطيرة” في ChatGPT، على الرغم من أنه لم يقدم تفاصيل. ويبدو أن البيانات التي تمت مشاركتها يوم الاثنين هي دليل على هذا الادعاء، على الرغم من أنها تثير قضايا أوسع حول مدى انتشار المشكلة. ومع ذلك، قال ألتمان إن OpenAI ستعمل على تخفيف بعض القيود، حتى أنها ستسمح للمستخدمين البالغين بالبدء في إجراء محادثات مثيرة مع برنامج الدردشة الآلي المدعم بالذكاء الاصطناعي.

في إعلان يوم الاثنين، تدعي OpenAI أن الإصدار المحدث مؤخرًا من GPT-5 يستجيب بـ “استجابات مرغوبة” لقضايا الصحة العقلية بنسبة 65٪ تقريبًا أكثر من الإصدار السابق. في تقييم يختبر استجابات الذكاء الاصطناعي حول المحادثات الانتحارية، تقول OpenAI إن نموذج GPT-5 الجديد الخاص بها متوافق بنسبة 91% مع السلوكيات المرغوبة للشركة، مقارنة بنسبة 77% لنموذج GPT-5 السابق.

وتقول الشركة أيضًا إن أحدث إصدار لها من GPT-5 يتوافق أيضًا مع ضمانات OpenAI بشكل أفضل في المحادثات الطويلة. وقد أشارت شركة OpenAI سابقًا إلى أن إجراءات الحماية الخاصة بها كانت أقل فعالية في المحادثات الطويلة.

علاوة على هذه الجهود، تقول OpenAI إنها تضيف تقييمات جديدة لقياس بعض أخطر تحديات الصحة العقلية التي تواجه مستخدمي ChatGPT. وتقول الشركة إن اختبار السلامة الأساسي لنماذج الذكاء الاصطناعي سيتضمن الآن معايير للاعتماد العاطفي وحالات الطوارئ المتعلقة بالصحة العقلية غير الانتحارية.

قامت OpenAI أيضًا مؤخرًا بطرح المزيد من الضوابط لآباء الأطفال الذين يستخدمون ChatGPT. وتقول الشركة إنها تبني نظامًا للتنبؤ بالعمر لاكتشاف الأطفال تلقائيًا باستخدام ChatGPT، وفرض مجموعة أكثر صرامة من الضمانات.

ومع ذلك، من غير الواضح مدى استمرار تحديات الصحة العقلية المتعلقة بـ ChatGPT. في حين يبدو أن GPT-5 يمثل تحسنًا مقارنة بنماذج الذكاء الاصطناعي السابقة من حيث السلامة، إلا أنه لا يزال هناك شريحة من استجابات ChatGPT التي تعتبرها OpenAI “غير مرغوب فيها”. لا تزال OpenAI أيضًا تجعل نماذج الذكاء الاصطناعي الأقدم والأقل أمانًا، بما في ذلك GPT-4o، متاحة لملايين المشتركين الذين يدفعون.

إذا كنت أنت أو أي شخص تعرفه بحاجة إلى المساعدة، فاتصل بالرقم 1-800-273-8255 للحصول على المساعدة شريان الحياة الوطني لمنع الانتحار. يمكنك أيضًا إرسال رسالة نصية إلى 741-741 مجانًا؛ النص 988؛ أو احصل على دعم على مدار 24 ساعة من خط نص الأزمة. خارج الولايات المتحدة، يرجى زيارة الرابطة الدولية لمنع الانتحار لقاعدة بيانات الموارد.