كلمة “العودة” هي أحدث الكلمات الطنانة في دوائر الذكاء الاصطناعي. أخذت شركتان ناشئتان منفصلتان الاسم، وبدأ العديد من الشركات الأخرى في الإشارة إلى التحسين الذاتي العودي (RSI) في خرائط الطريق الخاصة بهم. مثل الذكاء الاصطناعي العام (AGI) من قبله، أصبح مؤشر القوة النسبية (RSI) بمثابة كلمة مرادفة مكونة من ثلاثة أحرف للانطلاقة الكارثية للذكاء الاصطناعي – حتى لو كان لا يزال هناك القليل من الخلاف حول ما يعنيه بالضبط.
من الناحية الأساسية، يشير مؤشر القوة النسبية (RSI) إلى نظام الذكاء الاصطناعي الذي يمكنه ترقية نفسه بشكل مستمر. بمجرد أن تتمكن أنظمة الذكاء الاصطناعي من إدارة دورة الترقية بشكل أفضل من البشر، يمكن أن تصبح العملية حلقة مغلقة، محدودة فقط بقدرة الحوسبة التي يمكنها الوصول إليها، ولم يعد البشر ضروريين أو حتى مفيدين.
مخيفة أم لا، هذه رؤية تتوق الكثير من مختبرات الذكاء الاصطناعي إلى مطاردتها.
في وقت سابق من هذا الشهر، أطلق باحث الذكاء الاصطناعي الشهير، ريتشارد سوشر، اسمًا مناسبًا للذكاء الفائق العودي الذي تم إطلاقه مع مؤشر القوة النسبية (RSI) كهدف واضح. قال سوشر لـ TechCrunch عند الإطلاق: “ينصب تركيزنا الأساسي على بناء ذكاء فائق متكرر ومحسن ذاتيًا على نطاق واسع، مما يعني أن عملية التفكير والتنفيذ والتحقق من صحة الأفكار البحثية ستكون تلقائية”.
ويسعى عدد من الباحثين البارزين الآخرين بالفعل إلى تحقيق نفس الهدف، على أمل تحقيق اختراق من شأنه أن يجعل التحسين الذاتي العودي ممكنًا.
أحد أبرز هؤلاء هو Alex Karpathy، وهو شخصية أسطورية من Tesla وOpenAI، الذي يستخدم أسراب الوكلاء لتدريب طلاب الماجستير في القانون على مهام بسيطة لمشروع يسميه Auto-Research. كان كارباثي منفتحًا بشكل غير عادي بشأن المشروع، حيث قام بالتغريد حول المعالم الرئيسية بانتظام وجعل العناصر الأساسية متاحة من خلال مستودع GitHub العام. حتى الآن، اقتصر العمل في الغالب على إجراء تحسينات طفيفة على نموذج مقياس GPT-2 – كما أشار كارباثي في مارس، “إنه ليس بحثًا جديدًا ورائدًا (حتى الآن)” – ولكنه كان كافيًا لإقناع الكثير من الباحثين الآخرين باتباع حلم مؤشر القوة النسبية. ومع عمل كارباثي الآن على التدريب المسبق في أنثروبيك، سيكون لديه الكثير من الفرص لتطبيق الفكرة على نطاق أوسع.
أطلقت شركة Adaption – التي أسستها شركة Cohere وشركة Google alum Sara Hooker – مؤخرًا أداة مماثلة تسمى AutoScientist في محاولة لأتمتة التدريب الحدودي. مثل الباحثين الآليين في كارباثي، يقوم النظام بتدريب الوكلاء على إجراء تحسينات تدريجية – ولكن بالنسبة للتكيف، فإن الهدف هو تسهيل تدريب نموذج حدودي واسع النطاق. إذا بدأ هؤلاء الباحثون أنفسهم في دفع الحدود إلى الأمام، فقد يتحول النظام بسرعة إلى شيء يشبه إلى حد كبير مؤشر القوة النسبية.
اجتذبت مؤسسة Disarray Doris Xin اهتمامًا أكثر تحديدًا بـ RSI عندما حصل وكيل التعلم الآلي المدرب ذاتيًا على 28 ميدالية في مسابقة Kaggle الأخيرة، متغلبًا على العديد من العملاء المدربين بشريًا. وكما ترى، فإن التحدي الرئيسي هو الموثوقية.
قال لي شين: “أعتقد أنه بالنظر إلى الحوسبة اللانهائية والأفق الزمني اللانهائي، فإننا قد وصلنا بالفعل إلى هناك”. “أريد أن أطرح حجة مفادها أن هذا ليس مسعى إبداعيًا، في الحقيقة. إنه مجرد الكثير من هندسة اللحوم والبطاطس”.
ليس هناك بعد
هناك أيضًا الكثير من الأدلة على أن صناعة الذكاء الاصطناعي ليست قريبة جدًا من الأنظمة العودية بأي طريقة ذات معنى، ولا تزال تكافح من أجل التحدث إلى الجمهور الحذر حول التقدم الذي تحرزه. لذلك اعترف ساندر بيتشاي، الرئيس التنفيذي لشركة Google، في مقابلة أجريت معه مؤخرًا على البودكاست.
وقال بيتشاي: “إنها سلسلة متواصلة، ونحن جميعًا نحرز تقدمًا بالتأكيد”. “ولكن بالطريقة التي يصف بها الناس مؤشر القوة النسبية، فإن ذلك سيمثل المستوى التالي من التسارع وسيكون له الكثير من الآثار، لكننا لم نصل إلى هناك بعد.”
لكن السلسلة تتضمن عددًا هائلاً من أنظمة الذكاء الاصطناعي ذاتية التحسين. وفي شهر يناير/كانون الثاني، قدر أحد المبرمجين الرئيسيين في شركة أنثروبيك لكلود كود أن “ما يقرب من 100%” من كود فريقه تمت كتابته بواسطة الأداة ــ وهو اعتراف صريح بأن كلود كود كان يكتب نفسه حرفياً.
إن مجرد استخدام المهندسين لأداة الذكاء الاصطناعي لا يعني أن الأداة يمكن أن تحل محلهم، ولكن يبدو أن Anthropic تقترب من استبدال المهندسين أيضًا. في استطلاع حديث مرتبط بمعاينة Mythos، يعتقد خمسة من أصل 18 مهندسًا أنثروبيًا أنه مع تحسينات الحزام، يمكن لهذا الإصدار من Mythos أن يحل قريبًا محل مهندس L4 – وهو مبرمج متوسط المستوى يمكنه تولي المشاريع المعنية دون إشراف.
ومع ذلك، كانت هناك بعض نقاط الضعف نفسها التي قد تتوقعها.
وجاء في التقرير أن “بعض نقاط الضعف الرئيسية التي تم الإبلاغ عنها لدى كلود مقارنة بالمستوى الرابع تشمل: الإدارة الذاتية للمهام الغامضة لمدة أسبوع، وفهم أولويات المنظمة، والذوق، والتحقق، ومتابعة التعليمات، والمعرفية”.
وبعبارة أخرى، فإن نقاط ضعفه تكمن في كل ما يتعلق بالتوجيه الذاتي، وهو حجر الزاوية في مؤشر القوة النسبية. لكن بالتأكيد، بالنسبة لكل شيء آخر، فإن كلود مستعد للتدخل مباشرة.
تمامًا مثل مصطلح الذكاء الاصطناعي العام (AGI) الذي سبقه، لا تستطيع صناعة الذكاء الاصطناعي أيضًا أن تخبرنا إلى أي مدى هي بعيدة عن عرض نظام عودي ذي معنى. عندما جمع مركز جورج تاون للأمن والتكنولوجيا الناشئة مجموعة من الخبراء لدراسة مؤشر القوة النسبية في العام الماضي، وجدت المجموعة انقسامًا كبيرًا في التقييمات – توقع البعض انفجارًا وشيكًا في أسلوب “الذكاء الفائق” بينما توقع آخرون تقدمًا أبطأ وثباتًا في نهاية المطاف. لكن الجميع اتفقوا على أن التكرار يجعل من الصعب التنبؤ بالمستقبل بشكل خاص.
قالت هيلين تونر، مديرة CSET وعضو سابق في مجلس إدارة OpenAI، لـ TechCrunch إن مجرد استخدام أدوات الذكاء الاصطناعي لإجراء أبحاث الذكاء الاصطناعي لا يكفي للتأهل لـ RSI. يقول تونر لـ TechCrunch: “إنهم يستخدمون الذكاء الاصطناعي بقدر ما يستطيعون”. “وأعتقد أن هذا يختلف عن التعريف الكلاسيكي لمؤشر القوة النسبية (RSI)، وهو في الواقع أنه لا توجد حاجة للبشر.”
يشير تونر إلى منشور حديث نشرته أيجا كوترا من METR، والذي يميز المعالم المختلفة على الطريق نحو الاستحواذ على أبحاث الذكاء الاصطناعي. إحدى الخطوات، التي يسميها كوترا “الكفاية”، ستأتي عندما يظل النظام قادرًا على إجراء الأبحاث بعد إزالة جميع البشر – حتى لو لم تكن الأبحاث الناتجة ذات قيمة أو كفاءة. يأتي “التكافؤ” عندما يكون نظام الذكاء الاصطناعي فقط جيدًا في البحث مثل نظام الإنسان فقط. تأتي “التفوق”، المرحلة النهائية، عندما يتفوق نظام الذكاء الاصطناعي فقط على النظام التعاوني بين البشر والذكاء الاصطناعي.
في النهاية، يخلص كوترا إلى أن الذكاء الاصطناعي قريب جدًا من عتبة الملاءمة للقدرة على إنتاج بعض الأعمال بمفرده – على غرار التغييرات الإضافية التي أجراها نظام البحث التلقائي في كارباثي. يكتب كوترا: “لن أشعر بصدمة تامة إذا أخبرتني أن هذا الإنجاز قد مر بالفعل، وأتوقع أن يحدث ذلك في العامين المقبلين”.
إنها أقل وضوحًا بشأن الموعد الذي سيأتي فيه التكافؤ، ولكن بمجرد حدوثه، فإنها تعتقد أنه “سيؤدي إلى تسريع وتيرة تقدم الذكاء الاصطناعي بشكل كبير، مما يؤدي إلى تفوق أبحاث الذكاء الاصطناعي في غضون عام آخر”.
المطبات في الطريق
مع وجود الكثير من الذكاء الاصطناعي المبني على قوانين القياس، هناك ميل قوي للاعتقاد بأن مؤشر القوة النسبية سوف يتبع نفس المنحنى. يعتقد تونر أن العديد من أولئك الذين يتابعون أبحاث الذكاء الاصطناعي وتطويره عبر مؤشر القوة النسبية “يعتبرون الأمر بمثابة سلم سلس جدًا، حيث يمكنك الاستمرار في التوسع”.
ولكن حتى لو تمكن باحثو الذكاء الاصطناعي من إجراء تحسينات تدريجية مثل الباحثين التلقائيين في كارباثي، فستكون هناك تحديات أكبر في تسليم عملية البحث بأكملها. ويضع تونر الأمر في سياق تاريخ الحوسبة، الذي يشهد قيام البشر بتسليم المزيد والمزيد من العملية بينما لا يزالون يوجهون الأشياء من الأعلى.
يقول تونر: “لقد انتقلنا من لغات الآلة إلى لغة التجميع واللغات المجمعة؛ وأنت تبتعد أكثر فأكثر عن أحشاء الكمبيوتر”. “لكن الإنسان لا يزال، إلى حد ما، هو الذي يدير العرض”.
إن تجاوز هذا النموذج سيتطلب تحديات كبيرة، سواء في الهندسة أو المواءمة. ولكن حتى مع حدوث استثمارات ضخمة، لا توجد حوسبة غير محدودة متاحة، وسيكون من الصعب التغلب على المقايضة الأساسية بين العمل البشري والذكاء الآلي.
أما بالنسبة لنظام الذكاء الاصطناعي التكراري الكامل للرؤى المروعة؟ الشيء الوحيد الذي يتفق عليه الباحثون بشكل أساسي هو أنه، مثل الذكاء الاصطناعي العام، لم يصل إلى هنا بعد.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
