قالت Meta اليوم إنها توقف مؤقتًا وصول المراهقين إلى شخصيات الذكاء الاصطناعي الخاصة بها على مستوى العالم عبر جميع تطبيقاتها. ذكرت الشركة أنها لا تتخلى عن جهودها ولكنها تريد تطوير نسخة محدثة من شخصيات الذكاء الاصطناعي للمراهقين، حسبما صرحت الشركة حصريًا لـ TechCrunch.
وتأتي هذه الخطوة قبل أيام من رفع قضية ضد شركة Meta للمحاكمة في نيو مكسيكو، حيث تتهم الشركة بعدم بذل جهد لحماية الأطفال من الاستغلال الجنسي على تطبيقاتها. ذكرت مجلة Wired يوم الخميس أن شركة Meta سعت إلى الحد من الاكتشافات المتعلقة بتأثير وسائل التواصل الاجتماعي على الصحة العقلية للمراهقين.
في أكتوبر، قامت الشركة بمعاينة أدوات الرقابة الأبوية لشخصيات الذكاء الاصطناعي، مما يسمح للآباء والأوصياء بمراقبة المواضيع ومنع الوصول إلى شخصيات معينة. وقال ميتا إن الآباء سيكونون قادرين على إيقاف المحادثات مع شخصيات الذكاء الاصطناعي بشكل كامل. كان من المقرر إطلاق هذه الميزات هذا العام، لكن الشركة تقوم الآن بإيقاف تشغيل أحرف الذكاء الاصطناعي تمامًا للمراهقين بينما تقوم بتحديث أحرف الذكاء الاصطناعي إلى إصدار أحدث.
قالت Meta إنها سمعت من الآباء أنهم يريدون المزيد من الأفكار والتحكم في تفاعلات أبنائهم المراهقين مع شخصيات الذكاء الاصطناعي، ولهذا السبب قررت إجراء هذه التغييرات.
قامت الشركة باتخاذ إجراءات صارمة ضد وصول المراهقين إلى محتوى الذكاء الاصطناعي في تطبيقاتها. وفي أكتوبر أيضًا، طرحت Meta ميزات الرقابة الأبوية على Instagram، مع التركيز على تصميم تجربة المراهقين للتفاعل مع الذكاء الاصطناعي على تطبيقاتها. هذه الميزات، المستوحاة من تصنيف الفيلم PG-13، قيدت وصول المراهقين إلى موضوعات معينة مثل العنف الشديد والعري وتعاطي المخدرات المصورة.
“ابتداء من الأسابيع المقبلة، لن يتمكن المراهقون من الوصول إلى شخصيات الذكاء الاصطناعي عبر تطبيقاتنا حتى تصبح التجربة المحدثة جاهزة. وقالت الشركة في منشور مدونة محدث: “سينطبق هذا على أي شخص قدم لنا عيد ميلاد مراهق، بالإضافة إلى الأشخاص الذين يزعمون أنهم بالغون ولكننا نشك في أنهم مراهقين بناءً على تقنية التنبؤ بالعمر لدينا”.
وأضافت ميتا أنه عندما يتم طرح شخصيات الذكاء الاصطناعي الجديدة، سيكون لديهم أدوات تحكم أبوية مدمجة. وقالت الشركة إن الشخصيات الجديدة ستقدم استجابات مناسبة لعمرها وستلتزم بموضوعات مثل التعليم والرياضة والهوايات.
تخضع شركات التواصل الاجتماعي لتدقيق شديد من قبل الجهات التنظيمية. وبصرف النظر عن القضية المذكورة أعلاه في نيو مكسيكو، تواجه ميتا أيضًا محاكمة الأسبوع المقبل، حيث تُتهم المنصة بالتسبب في إدمان وسائل التواصل الاجتماعي. ومن المتوقع أن يتخذ الرئيس التنفيذي مارك زوكربيرج موقف الشاهد في هذه القضية بمجرد بدء المحاكمة.
إلى جانب المنصات الاجتماعية، اضطرت شركات الذكاء الاصطناعي إلى تعديل تجربتها للمراهقين بعد مواجهة دعاوى قضائية تزعم أنها تلعب دورًا في المساعدة على إيذاء النفس. في أكتوبر/تشرين الأول، منعت شركة Character.AI، وهي الشركة الناشئة التي تسمح للمستخدمين بالدردشة مع مختلف الصور الرمزية للذكاء الاصطناعي، المحادثات المفتوحة مع روبوتات الدردشة للمستخدمين الذين تقل أعمارهم عن 18 عامًا. وفي نوفمبر/تشرين الثاني، قالت الشركة الناشئة إنها ستبني قصصًا تفاعلية للأطفال. في الأشهر القليلة الماضية، أضافت OpenAI قواعد جديدة لسلامة المراهقين إلى ChatGPT وبدأت في التنبؤ بعمر المستخدم لتطبيق قيود المحتوى.
تصحيح: تم تحديث هذا المنشور لتوضيح أن الإصدار الجديد من شخصيات الذكاء الاصطناعي سيكون في متناول الجميع، وليس فقط المراهقين، عند إطلاقه. وسوف تشمل الضوابط الأبوية.
