في أحدث جهودها لمعالجة المخاوف المتزايدة بشأن تأثير الذكاء الاصطناعي على الشباب، قامت OpenAI يوم الخميس بتحديث إرشاداتها حول كيفية تصرف نماذج الذكاء الاصطناعي الخاصة بها مع المستخدمين الذين تقل أعمارهم عن 18 عامًا، ونشرت موارد جديدة لمحو الأمية حول الذكاء الاصطناعي للمراهقين وأولياء الأمور. ومع ذلك، لا تزال هناك أسئلة حول مدى استمرارية ترجمة هذه السياسات إلى ممارسة عملية.
تأتي التحديثات في الوقت الذي تواجه فيه صناعة الذكاء الاصطناعي بشكل عام، وOpenAI على وجه الخصوص، تدقيقًا متزايدًا من صانعي السياسات والمعلمين والمدافعين عن سلامة الأطفال بعد أن مات العديد من المراهقين بسبب الانتحار بعد محادثات مطولة مع روبوتات الدردشة الخاصة بالذكاء الاصطناعي.
الجيل Z، الذي يشمل أولئك الذين ولدوا بين عامي 1997 و2012، هم المستخدمون الأكثر نشاطًا لبرنامج الدردشة الآلي الخاص بـ OpenAI. وبعد صفقة OpenAI الأخيرة مع ديزني، قد يتدفق المزيد من الشباب إلى المنصة، والتي تتيح لك القيام بكل شيء بدءًا من طلب المساعدة في الواجبات المنزلية إلى إنشاء صور ومقاطع فيديو حول آلاف المواضيع.
في الأسبوع الماضي، وقع 42 مدعيًا عامًا بالولاية على رسالة إلى شركات التكنولوجيا الكبرى، يحثونها على تنفيذ ضمانات على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي لحماية الأطفال والأشخاص الضعفاء. وبينما تعمل إدارة ترامب على تحديد الشكل الذي قد يبدو عليه المعيار الفيدرالي بشأن تنظيم الذكاء الاصطناعي، فقد قدم صناع السياسات مثل السيناتور جوش هاولي (جمهوري من ولاية ميسوري) تشريعات من شأنها أن تمنع القاصرين من التفاعل مع روبوتات الدردشة المستندة إلى الذكاء الاصطناعي تمامًا.
تعتمد مواصفات النموذج المحدثة من OpenAI، والتي تحدد إرشادات السلوك لنماذجها اللغوية الكبيرة، على المواصفات الحالية التي تحظر على النماذج إنشاء محتوى جنسي يتضمن قاصرين، أو تشجيع إيذاء النفس، أو الأوهام، أو الهوس. سيعمل هذا جنبًا إلى جنب مع نموذج التنبؤ بالعمر القادم الذي سيحدد متى ينتمي الحساب إلى قاصر ويطرح ضمانات المراهقين تلقائيًا.
بالمقارنة مع المستخدمين البالغين، تخضع العارضات لقواعد أكثر صرامة عندما يستخدمها المراهق. يتم توجيه العارضات لتجنب لعب الأدوار الرومانسية الغامرة، والعلاقة الحميمة من منظور الشخص الأول، ولعب الأدوار الجنسية أو العنيفة من منظور الشخص الأول، حتى عندما لا يكون ذلك مصورًا. وتدعو المواصفات أيضًا إلى مزيد من الحذر حول مواضيع مثل صورة الجسم وسلوكيات الأكل المضطربة، وتوجه النماذج إلى إعطاء الأولوية للتواصل حول السلامة على الاستقلالية عندما يتعلق الأمر بالضرر وتجنب النصائح التي من شأنها أن تساعد المراهقين على إخفاء السلوك غير الآمن عن مقدمي الرعاية.
تحدد OpenAI أن هذه الحدود يجب أن تظل سارية حتى عندما يتم تأطير المطالبات على أنها “خيالية أو افتراضية أو تاريخية أو تعليمية” – وهي تكتيكات شائعة تعتمد على سيناريوهات لعب الأدوار أو الحالات الطارئة من أجل جعل نموذج الذكاء الاصطناعي ينحرف عن إرشاداته.
حدث تك كرانش
سان فرانسيسكو
|
13-15 أكتوبر 2026
الأفعال تتحدث بصوت أعلى من الكلمات
تقول OpenAI إن ممارسات السلامة الأساسية للمراهقين تدعمها أربعة مبادئ توجه نهج النماذج:
- وضع سلامة المراهقين في المقام الأول، حتى عندما تتعارض اهتمامات المستخدم الأخرى مثل “أقصى قدر من الحرية الفكرية” مع المخاوف المتعلقة بالسلامة؛
- تعزيز الدعم في العالم الحقيقي من خلال توجيه المراهقين نحو العائلة والأصدقاء والمهنيين المحليين لتحقيق الرفاهية؛
- عامل المراهقين مثل المراهقين من خلال التحدث بدفء واحترام، وليس التعالي أو معاملتهم مثل البالغين؛ و
- كن شفافًا من خلال شرح ما يمكن للمساعد فعله وما لا يمكنه فعله، وتذكير المراهقين بأنه ليس إنسانًا.
تشارك الوثيقة أيضًا العديد من الأمثلة على برنامج الدردشة الآلي الذي يشرح سبب عدم قدرته على “لعب الأدوار كصديقتك” أو “المساعدة في التغييرات الشديدة في المظهر أو الاختصارات المحفوفة بالمخاطر”.
قالت ليلي لي، محامية الخصوصية والذكاء الاصطناعي ومؤسسة Metaverse Law، إنه من المشجع أن نرى OpenAI تتخذ خطوات لرفض برنامج الدردشة الآلي الخاص بها للانخراط في مثل هذا السلوك.
وأوضحت أن إحدى أكبر شكاوى المدافعين وأولياء الأمور بشأن برامج الدردشة الآلية هي أنها تشجع بلا هوادة المشاركة المستمرة بطريقة يمكن أن تسبب الإدمان للمراهقين، وقالت: “يسعدني جدًا أن أرى OpenAI تقول، في بعض هذه الردود، لا يمكننا الإجابة على سؤالك. وكلما رأينا ذلك، أعتقد أن هذا من شأنه كسر الحلقة التي قد تؤدي إلى الكثير من السلوك غير اللائق أو إيذاء النفس”.
ومع ذلك، فإن الأمثلة هي مجرد: أمثلة منتقاة بعناية للكيفية التي يود فريق السلامة في OpenAI أن تتصرف بها النماذج. تم إدراج التملق، أو ميل روبوت الدردشة الذي يعمل بالذكاء الاصطناعي إلى الموافقة بشكل مفرط مع المستخدم، كسلوك محظور في الإصدارات السابقة من Model Spec، لكن ChatGPT لا يزال منخرطًا في هذا السلوك على أي حال. وكان هذا صحيحاً بشكل خاص مع GPT-4o، وهو النموذج الذي ارتبط بالعديد من الأمثلة على ما يطلق عليه الخبراء “ذهان الذكاء الاصطناعي”.
أثار روبي تورني، المدير الأول لبرامج الذكاء الاصطناعي في Common Sense Media، وهي منظمة غير ربحية مكرسة لحماية الأطفال في العالم الرقمي، مخاوف بشأن التعارضات المحتملة ضمن إرشادات Model Spec الخاصة بأقل من 18 عامًا. وسلط الضوء على التوترات بين الأحكام التي تركز على السلامة ومبدأ “لا يوجد موضوع محظور”، الذي يوجه النماذج لمعالجة أي موضوع بغض النظر عن حساسيته.
وقال: “علينا أن نفهم كيف تتلاءم الأجزاء المختلفة من المواصفات معًا”، مشيرًا إلى أن أقسامًا معينة قد تدفع الأنظمة نحو المشاركة بدلاً من السلامة. وقال إن اختبار منظمته كشف أن ChatGPT غالبًا ما يعكس طاقة المستخدمين، مما يؤدي في بعض الأحيان إلى استجابات غير مناسبة للسياق أو لا تتماشى مع سلامة المستخدم.
في حالة آدم رين، المراهق الذي مات منتحرًا بعد أشهر من الحوار مع ChatGPT، انخرط برنامج الدردشة الآلية في مثل هذا الانعكاس، كما تظهر محادثاتهم. سلطت هذه الحالة الضوء أيضًا على كيفية فشل واجهة برمجة التطبيقات المعتدلة الخاصة بـ OpenAI في منع التفاعلات غير الآمنة والضارة على الرغم من الإبلاغ عن أكثر من 1000 حالة من ChatGPT تشير إلى الانتحار و377 رسالة تحتوي على محتوى لإيذاء النفس. لكن ذلك لم يكن كافيًا لمنع آدم من مواصلة محادثاته مع ChatGPT.
في مقابلة مع TechCrunch في سبتمبر، قال ستيفن أدلر، الباحث السابق في مجال السلامة في OpenAI، إن هذا يرجع تاريخيًا إلى أن OpenAI قامت بتشغيل المصنفات (الأنظمة الآلية التي تحدد المحتوى وتضع علامة عليه) بكميات كبيرة بعد وقوعه، وليس في الوقت الفعلي، لذلك لم يتمكنوا من بوابة تفاعل المستخدم مع ChatGPT بشكل صحيح.
يستخدم OpenAI الآن المصنفات الآلية لتقييم محتوى النص والصور والمحتوى الصوتي في الوقت الفعلي، وفقًا لوثيقة الرقابة الأبوية المحدثة للشركة. تم تصميم الأنظمة لكشف وحظر المحتوى المتعلق بمواد الاعتداء الجنسي على الأطفال، وتصفية المواضيع الحساسة، وتحديد إيذاء النفس. إذا أشار النظام إلى رسالة تشير إلى وجود مخاوف خطيرة تتعلق بالسلامة، فسيقوم فريق صغير من الأشخاص المدربين بمراجعة المحتوى الذي تم الإبلاغ عنه لتحديد ما إذا كانت هناك علامات على “الضيق الشديد”، وقد يقومون بإخطار أحد الوالدين.
أشاد تورني بالخطوات الأخيرة التي اتخذتها OpenAI نحو السلامة، بما في ذلك شفافيتها في نشر المبادئ التوجيهية للمستخدمين الذين تقل أعمارهم عن 18 عامًا.
قال تورني: “لا تنشر جميع الشركات إرشادات سياستها بنفس الطريقة”، مشيرًا إلى إرشادات Meta المسربة، والتي أظهرت أن الشركة سمحت لروبوتات الدردشة الخاصة بها بالمشاركة في محادثات حسية ورومانسية مع الأطفال. “هذا مثال على نوع الشفافية التي يمكن أن تدعم الباحثين في مجال السلامة وعامة الناس في فهم كيفية عمل هذه النماذج فعليًا وكيف من المفترض أن تعمل.”
في نهاية المطاف، على الرغم من ذلك، فإن السلوك الفعلي لنظام الذكاء الاصطناعي هو المهم، كما قال أدلر لـ TechCrunch يوم الخميس.
وقال: “أقدر أن شركة OpenAI تفكر في السلوك المقصود، ولكن ما لم تقيس الشركة السلوكيات الفعلية، فإن النوايا في النهاية مجرد كلمات”.
بعبارة أخرى: ما يفتقده هذا الإعلان هو الدليل على أن ChatGPT يتبع بالفعل الإرشادات المنصوص عليها في مواصفات النموذج.
تحول نموذجي
يقول الخبراء إنه من خلال هذه الإرشادات، يبدو أن OpenAI مستعدة للمضي قدماً في تشريعات معينة، مثل SB 243 في كاليفورنيا، وهو مشروع قانون تم توقيعه مؤخرًا ينظم روبوتات الدردشة المصاحبة للذكاء الاصطناعي والذي سيدخل حيز التنفيذ في عام 2027.
تعكس لغة اللغة الجديدة الخاصة بـ Model Spec بعض المتطلبات الرئيسية للقانون حول منع روبوتات الدردشة من المشاركة في محادثات حول التفكير في الانتحار أو إيذاء النفس أو المحتوى الجنسي الصريح. ويتطلب مشروع القانون أيضًا من المنصات تقديم تنبيهات كل ثلاث ساعات للقاصرين لتذكيرهم بأنهم يتحدثون إلى روبوت الدردشة، وليس إلى شخص حقيقي، ويجب عليهم أخذ قسط من الراحة.
عندما سُئل عن عدد المرات التي يقوم فيها ChatGPT بتذكير المراهقين بأنهم يتحدثون إلى chatbot ويطلب منهم أخذ استراحة، لم يشارك متحدث باسم OpenAI التفاصيل، قائلًا فقط إن الشركة تدرب نماذجها لتمثيل نفسها كذكاء اصطناعي وتذكير المستخدمين بذلك، وأنها تنفذ تذكيرات الاستراحة خلال “الجلسات الطويلة”.
شاركت الشركة أيضًا مصدرين جديدين لمحو الأمية في مجال الذكاء الاصطناعي للآباء والعائلات. تتضمن النصائح بدايات المحادثة وإرشادات لمساعدة الآباء في التحدث مع المراهقين حول ما يمكن للذكاء الاصطناعي فعله وما لا يمكنه فعله، وبناء التفكير النقدي، ووضع حدود صحية، والتنقل في المواضيع الحساسة.
تُضفي الوثائق مجتمعة طابعًا رسميًا على نهج يتقاسم المسؤولية مع القائمين على الرعاية: يوضح OpenAI ما يجب أن تفعله النماذج، ويقدم للعائلات إطارًا للإشراف على كيفية استخدامه.
إن التركيز على المسؤولية الأبوية جدير بالملاحظة لأنه يعكس نقاط الحديث في وادي السيليكون. في توصياتها بشأن التنظيم الفيدرالي للذكاء الاصطناعي التي تم نشرها هذا الأسبوع، اقترحت شركة VC Andreessen Horowitz المزيد من متطلبات الإفصاح لسلامة الأطفال، بدلاً من المتطلبات التقييدية، ورجحت العبء أكثر نحو المسؤولية الأبوية.
العديد من مبادئ OpenAI – السلامة أولاً عندما تتعارض القيم؛ ودفع المستخدمين نحو الدعم في العالم الحقيقي؛ إن التأكيد على أن برنامج الدردشة الآلي ليس شخصًا – يتم توضيحه على أنه حواجز حماية للمراهقين. لكن العديد من البالغين ماتوا بسبب الانتحار وعانوا من أوهام تهدد حياتهم، الأمر الذي يدعو إلى متابعة واضحة: هل يجب أن تنطبق هذه الافتراضات في جميع المجالات، أم أن OpenAI تعتبرها بمثابة مقايضة لا ترغب في تنفيذها إلا عندما يتعلق الأمر بالقاصرين؟
ورد متحدث باسم OpenAI بأن نهج السلامة الذي تتبعه الشركة مصمم لحماية جميع المستخدمين، قائلًا إن مواصفات النموذج هي مجرد عنصر واحد من استراتيجية متعددة الطبقات.
يقول لي إن الأمر كان “أشبه بالغرب المتوحش” حتى الآن فيما يتعلق بالمتطلبات القانونية ونوايا شركات التكنولوجيا. لكنها تشعر أن قوانين مثل SB 243، التي تتطلب من شركات التكنولوجيا الكشف عن ضماناتها علنًا، ستغير النموذج.
وقال لي: “ستظهر المخاطر القانونية الآن بالنسبة للشركات إذا أعلنت أن لديها هذه الضمانات والآليات المعمول بها على موقعها على شبكة الإنترنت، ولكن بعد ذلك لا تتابع دمج هذه الضمانات”. “لأنه من وجهة نظر المدعي، فأنت لا تنظر فقط إلى الدعاوى القضائية القياسية أو الشكاوى القانونية؛ بل تنظر أيضًا إلى الشكاوى الإعلانية الخادعة وغير العادلة المحتملة.”
