ردا على المخاوف المتصاعدة حول سلامة الأطفال على الإنترنت، كشفت شركة OpenAI عن مخطط لتعزيز جهود حماية الطفل في الولايات المتحدة وسط ازدهار الذكاء الاصطناعي. ال مخطط سلامة الطفل، الذي تم إصداره يوم الثلاثاء، تم تصميمه للمساعدة في الكشف بشكل أسرع، وإعداد تقارير أفضل، وتحقيق أكثر كفاءة في حالات استغلال الأطفال بواسطة الذكاء الاصطناعي.
الهدف العام لخطة سلامة الطفل هو معالجة الارتفاع المثير للقلق في الاستغلال الجنسي للأطفال المرتبط بالتقدم في الذكاء الاصطناعي. وفقًا لمؤسسة مراقبة الإنترنت (IWF)، تم الكشف عن أكثر من 8000 تقرير عن محتوى الاعتداء الجنسي على الأطفال الناتج عن الذكاء الاصطناعي في النصف الأول من عام 2025، بزيادة قدرها 14٪ عن العام السابق. ويشمل ذلك المجرمين الذين يستخدمون أدوات الذكاء الاصطناعي لإنشاء صور مزيفة صريحة للأطفال بغرض الابتزاز المالي ولإنشاء رسائل مقنعة للاستمالة.
ويأتي مخطط OpenAI أيضًا وسط تدقيق متزايد من صناع السياسات والمعلمين والمدافعين عن سلامة الأطفال، خاصة في ضوء الحوادث المثيرة للقلق التي مات فيها شباب بسبب الانتحار بعد تعاطيهم المزعوم مع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.
في نوفمبر الماضي، رفع مركز قانون ضحايا وسائل التواصل الاجتماعي ومشروع قانون العدالة التقنية سبع دعاوى قضائية في محاكم ولاية كاليفورنيا، زاعمين أن OpenAI أصدرت GPT-4o قبل أن يصبح جاهزًا. تزعم الدعاوى أن طبيعة المنتج المتلاعبة نفسياً ساهمت في حالات الوفاة غير المشروعة عن طريق الانتحار والمساعدة على الانتحار. يستشهدون بأربعة أفراد ماتوا منتحرين وثلاثة آخرين عانوا من أوهام شديدة تهدد حياتهم بعد تفاعلات مطولة مع برنامج الدردشة الآلي.
تم تطوير هذا المخطط بالتعاون مع المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) وتحالف المدعي العام، بالإضافة إلى تعليقات المدعي العام لولاية نورث كارولينا جيف جاكسون والمدعي العام لولاية يوتا ديريك براون.
وتقول الشركة إن المخطط يركز على ثلاثة جوانب: تحديث التشريعات لتشمل مواد إساءة استخدام الذكاء الاصطناعي، وتحسين آليات الإبلاغ لإنفاذ القانون، ودمج الضمانات الوقائية مباشرة في أنظمة الذكاء الاصطناعي. ومن خلال القيام بذلك، لا تهدف OpenAI إلى اكتشاف التهديدات المحتملة في وقت مبكر فحسب، بل تهدف أيضًا إلى ضمان وصول المعلومات القابلة للتنفيذ إلى المحققين على الفور.
يعتمد مخطط OpenAI الجديد لسلامة الأطفال على المبادرات السابقة، بما في ذلك المبادئ التوجيهية المحدثة للتفاعلات مع المستخدمين تحت سن 18 عامًا، والتي تحظر إنشاء محتوى غير لائق، أو تشجيع إيذاء النفس، وتجنب النصائح التي من شأنها أن تساعد الشباب على إخفاء السلوك غير الآمن عن مقدمي الرعاية. أصدرت الشركة مؤخرًا مخططًا للسلامة للمراهقين في الهند.
حدث تك كرانش
سان فرانسيسكو، كاليفورنيا
|
13-15 أكتوبر 2026
