تقوم OpenAI بحل فريق محاذاة المهام، الذي ركز على تطوير الذكاء الاصطناعي “الآمن” و”الجدير بالثقة”.

قامت شركة OpenAI بحل فريق ركز – كما وصفت الشركة نفسها – على ضمان أن تكون أنظمة الذكاء الاصطناعي الخاصة بها “آمنة وجديرة بالثقة ومتوافقة باستمرار مع القيم الإنسانية”. وفي الوقت نفسه، تم منح القائد السابق للفريق دورًا جديدًا باعتباره “المستقبلي الرئيسي” للشركة.

أكد OpenAI لـ TechCrunch أنه تم الآن تعيين أعضاء الفريق لأدوار أخرى. تم الإبلاغ عن الخبر لأول مرة بواسطة Platformer.

كان الفريق الذي تم حله، والذي يبدو أنه تم تشكيله في سبتمبر 2024، هو الوحدة الداخلية للشركة الناشئة المخصصة للعمل على المواءمة. يعد هذا مجالًا واسعًا من الاهتمام داخل الصناعة التي تسعى إلى ضمان عمل الذكاء الاصطناعي وفقًا لمصالح الإنسان.

“نريد أن تتبع هذه الأنظمة باستمرار النوايا البشرية في سيناريوهات العالم الحقيقي المعقدة وظروف الخصومة، وتتجنب السلوك الكارثي، وتظل قابلة للتحكم، وقابلة للتدقيق، ومتوافقة مع القيم الإنسانية”، حسبما جاء في منشور من مدونة Alignment Research الخاصة بـ OpenAI.

يصف إعلان وظيفة OpenAI لفريق Alignment بأنه مخصص لأبحاث الذكاء الاصطناعي التي تركز على “تطوير المنهجيات التي تمكن الذكاء الاصطناعي من متابعة النوايا البشرية بقوة عبر مجموعة واسعة من السيناريوهات، بما في ذلك السيناريوهات العدائية أو عالية المخاطر”.

في تدوينة نُشرت يوم الأربعاء، أوضح جوش آتشيام، الرئيس السابق لفريق Alignment في OpenAI، دوره الجديد كرئيس للمستقبليين في الشركة. كتب أخيام: “هدفي هو دعم مهمة OpenAI – للتأكد من أن الذكاء الاصطناعي العام يفيد البشرية جمعاء – من خلال دراسة كيف سيتغير العالم استجابةً للذكاء الاصطناعي والذكاء الاصطناعي العام وما بعده”.

وأشار أخيم إلى أنه، في منصبه الجديد، سيتعاون مع جيسون برويت، وهو فيزيائي من طاقم OpenAI الفني.

وقال متحدث باسم OpenAI إن بقية فريق Alignment – ​​مجموعة من ستة أو سبعة أشخاص – تم إعادة تعيينهم لاحقًا في أجزاء مختلفة من الشركة. ولم يتمكن المتحدث من تحديد المكان الذي تم فيه تعيين أعضاء الفريق بالضبط، لكنه قال إنهم كانوا منخرطين في عمل مماثل في تلك الأدوار. ولم يكن من الواضح أيضًا ما إذا كان أخيام سيكون لديه فريق جديد كجزء من دوره “المستقبلي”.

وأرجع المتحدث حل الفريق إلى أنواع عمليات إعادة التنظيم الروتينية التي تحدث داخل شركة سريعة الحركة.

كان لدى OpenAI سابقًا ما أسمته “فريق التوافق الفائق” – الذي تم تشكيله في عام 2023 وركز على دراسة التهديدات الوجودية طويلة المدى التي يشكلها الذكاء الاصطناعي – ولكن تم حل هذا الفريق في عام 2024.

لا يزال موقع أخيام الشخصي يُدرجه على أنه رئيس Mission Alignment في OpenAI، ويصفه بأنه مهتم بضمان أن يكون “مستقبل البشرية جيدًا على المدى الطويل”. يُظهر ملفه الشخصي على LinkedIn أنه شغل منصب رئيس Mission Alignment منذ سبتمبر 2024.