أعلنت شركة ميتا يوم الخميس أنها ستقوم الآن بإخطار أولياء الأمور إذا ناقش ابنهم المراهق الانتحار أو إيذاء النفس باستخدام برنامج Meta AI الخاص بالشركة. وتقول Meta إنها تعمل أيضًا على القدرة على الاتصال بخدمات الطوارئ إذا كانت محادثات شخص ما تشير إلى أنه قد يكون معرضًا لخطر إيذاء نفسه.
تأتي هذه التغييرات في الوقت الذي تواجه فيه شركة ميتا وغيرها من شركات التكنولوجيا تدقيقًا من قبل المنظمين وأولياء الأمور حول كيفية استجابة روبوتات الدردشة المستندة إلى الذكاء الاصطناعي للمستخدمين في الأزمات، وخاصة المراهقين – وهو سؤال يتعلق بالمسؤولية يشكل بشكل متزايد كيفية تصميم شركات الذكاء الاصطناعي وتسويق منتجاتها.
تقول Meta إنها قامت ببناء نظام ذكاء اصطناعي مخصص لتحديد المحادثات التي يشير فيها المراهق بوضوح إلى إيذاء نفسه.
وكتب ميتا في منشور بالمدونة: “نحن نتفهم مدى إزعاج هذه التنبيهات بالنسبة للوالدين”. “لهذا السبب، بينما نواصل تحسين اكتشافنا، ستتم مراجعة جميع الدردشات التي تم الإبلاغ عنها بواسطة الذكاء الاصطناعي الخاص بنا يدويًا قبل إرسال تنبيه. إذا كانت نية المراهق غامضة، فسوف نخطئ في جانب الحذر وننبه الوالدين. في حين أن هذا يعني أننا قد نخطر الآباء أحيانًا عندما لا يكون هناك سبب حقيقي للقلق، فإننا نشعر أن هذه هي نقطة البداية الصحيحة، وسنستمر في المراقبة للمساعدة في التأكد من أننا في المكان الصحيح.”
وتقول ميتا إن هذه التنبيهات أصبحت الآن مباشرة للآباء الذين يستخدمون Instagram Parental Supervision في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، وسيتم طرحها عالميًا بحلول نهاية العام.
يعتمد هذا التحديث على التنبيهات التي ترسلها Meta بالفعل إلى الآباء عندما يبحث ابنهم المراهق بشكل متكرر عن مصطلحات الانتحار أو إيذاء النفس على Instagram. كما أنه يعتمد على ميزة تسمح للآباء برؤية المواضيع التي ناقشها أبناؤهم المراهقون مع Meta AI خلال الأسبوع الماضي.
وأعلنت Meta أيضًا أن إعداد “المحتوى المحدود” الخاص بها – والذي يتيح للآباء وضع أبنائهم المراهقين في تجربة أكثر تقييدًا على Instagram – ينطبق الآن على Meta AI أيضًا. تم تدريب Meta AI بالفعل على تجنب المحادثات الجنسية أو الرومانسية أو المناقشات المتعلقة بالكحول مع المراهقين، ويعمل إعداد المحتوى المحدود على توسيع تلك الضمانات من خلال جعل برنامج الدردشة الآلية يرفض نطاقًا أوسع من المطالبات. لم تحدد Meta ما تتضمنه هذه المطالبات الإضافية، لكن TechCrunch طلبت من الشركة مزيدًا من المعلومات.
بالإضافة إلى ذلك، تقول Meta إنها ستتصل بخدمات الطوارئ إذا كانت محادثة شخص ما مع Meta AI، سواء كان المستخدم بالغًا أو مراهقًا، تشير إلى أن شخصًا ما معرض لخطر الانتحار. تجدر الإشارة إلى أن Meta تتخذ هذه الخطوة بالفعل عندما ينشر شخص ما شيئًا ما على Facebook أو Instagram يشير إلى أنه معرض للخطر، لذلك يمتد هذا الإجراء نفسه إلى المحادثات مع برنامج الدردشة الآلي الخاص به.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
