بعد سلسلة من حوادث الصحة العقلية المزعجة التي تنطوي على روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، أرسلت مجموعة من المدعين العامين في الولاية خطابًا إلى الشركات الكبرى في صناعة الذكاء الاصطناعي، مع تحذير لإصلاح “المخرجات الوهمية” أو المخاطرة بانتهاك قانون الولاية.
تطلب الرسالة، التي وقعها العشرات من المدعين العامين من الولايات والأقاليم الأمريكية مع الرابطة الوطنية للمدعين العامين، من الشركات، بما في ذلك مايكروسوفت، وOpenAI، وجوجل، و10 شركات كبرى أخرى في مجال الذكاء الاصطناعي، تنفيذ مجموعة متنوعة من الضمانات الداخلية الجديدة لحماية مستخدميها. Anthropic، Apple، Chai AI، Character Technologies، Luka، Meta، Nomi AI، Perplexity AI، Replika، وxAI تم تضمينها أيضًا في الرسالة.
تأتي الرسالة في الوقت الذي يحتدم فيه الصراع حول لوائح الذكاء الاصطناعي بين حكومة الولاية والحكومة الفيدرالية.
وتشمل هذه الضمانات عمليات تدقيق شفافة يقوم بها طرف ثالث لنماذج اللغات الكبيرة التي تبحث عن علامات الأفكار الوهمية أو التملق، بالإضافة إلى إجراءات الإبلاغ عن الحوادث الجديدة المصممة لإخطار المستخدمين عندما تنتج روبوتات الدردشة مخرجات ضارة نفسياً. وتنص الرسالة على أنه ينبغي السماح لهذه الأطراف الثالثة، والتي يمكن أن تشمل مجموعات أكاديمية ومنظمات مجتمع مدني، “بتقييم الإصدار المسبق للأنظمة دون انتقام ونشر النتائج التي تتوصل إليها دون موافقة مسبقة من الشركة”.
وجاء في الرسالة أن “GenAI لديه القدرة على تغيير الطريقة التي يعمل بها العالم بطريقة إيجابية. ولكنه تسبب أيضًا – ولديه القدرة على التسبب – في أضرار جسيمة، خاصة للفئات السكانية الضعيفة”، مشيرة إلى عدد من الحوادث التي حظيت بتغطية إعلامية جيدة خلال العام الماضي – بما في ذلك حالات الانتحار والقتل – والتي تم فيها ربط العنف بالاستخدام المفرط للذكاء الاصطناعي، كما جاء في الرسالة. “في العديد من هذه الحوادث، أنتجت منتجات GenAI مخرجات تملق ووهمية إما أنها شجعت أوهام المستخدمين أو أكدت للمستخدمين أنهم ليسوا متوهمين.”
تقترح AGs أيضًا أن تتعامل الشركات مع حوادث الصحة العقلية بنفس الطريقة التي تتعامل بها شركات التكنولوجيا مع حوادث الأمن السيبراني – مع سياسات وإجراءات واضحة وشفافة للإبلاغ عن الحوادث.
تنص الرسالة على أنه يجب على الشركات تطوير ونشر “جداول زمنية للكشف والاستجابة للمخرجات المتملقّة والوهمية”. وبطريقة مشابهة لكيفية التعامل مع خروقات البيانات حاليًا، يجب على الشركات أيضًا “إخطار المستخدمين بشكل سريع وواضح ومباشر إذا تعرضوا لمخرجات تملق أو وهم قد تكون ضارة”، كما جاء في الرسالة.
حدث تك كرانش
سان فرانسيسكو
|
13-15 أكتوبر 2026
والسؤال الآخر هو أن تقوم الشركات بتطوير “اختبارات سلامة معقولة ومناسبة” على نماذج GenAI “للتأكد من أن النماذج لا تنتج مخرجات تملق ووهمية قد تكون ضارة”. وتضيف أنه يجب إجراء هذه الاختبارات قبل عرض النماذج على الجمهور.
لم تتمكن TechCrunch من الوصول إلى Google أو Microsoft أو OpenAI للتعليق قبل النشر. سيتم تحديث المقالة إذا استجابت الشركات.
حظيت شركات التكنولوجيا التي تعمل على تطوير الذكاء الاصطناعي باستقبال أكثر دفئا على المستوى الفيدرالي.
لقد أعلنت إدارة ترامب أنها مؤيدة للذكاء الاصطناعي بلا خجل، وعلى مدى العام الماضي، بذلت محاولات متعددة لتمرير وقف اختياري على المستوى الوطني للوائح الذكاء الاصطناعي على مستوى الدولة. وحتى الآن، باءت هذه المحاولات بالفشل، ويرجع الفضل في ذلك جزئيا إلى الضغوط التي يمارسها مسؤولو الدولة.
وحتى لا يرتدع ترامب، أعلن يوم الاثنين أنه يعتزم تمرير أمر تنفيذي الأسبوع المقبل من شأنه أن يحد من قدرة الدول على تنظيم الذكاء الاصطناعي. وقال الرئيس في منشور على موقع Truth Social إنه يأمل أن يمنع مكتبه التنفيذي الذكاء الاصطناعي من “التدمير في بداياته”.
