بينما تكافح الشركات لتحويل البرامج التجريبية للذكاء الاصطناعي إلى أجزاء وظيفية من أعمالها، فقد احتلت الموثوقية مركز الصدارة. تأمل شركة ناشئة جديدة في حل هذه المشكلة من خلال الاعتماد على أدوات إضفاء الطابع الرسمي الرياضي، والجمع بين أحد أكثر أنظمة علوم الكمبيوتر موثوقية وواحد من أكثر أنظمة علوم الكمبيوتر فوضوية.
في يوم الأربعاء، أعلنت Pramaana Labs عن تمويل أولي بقيمة 27 مليون دولار بقيادة Khosla Ventures، بمشاركة Accel وBoldcap وNexus Venture Partners وPremji Invest وUnbound.
سوف يركز Pramaana على قطاعات حساسة للغاية مثل القانون، واكتشاف الأدوية، وإعداد الضرائب – حيث يمكن أن تكون الأخطاء مكلفة وتكون الموثوقية أعلى من قيمتها. إن نشر الذكاء الاصطناعي في تلك الأنظمة سيتطلب حماية أقوى ضد الهلوسة والأخطاء مما لدينا حاليا. ولكن كما يرى رانجان راجاجوبالان، المؤسس المشارك والرئيس التنفيذي لشركة Pramaana، فإنهم أيضًا مناسبون بشكل فريد لإضفاء الطابع الرسمي.
قال راجاجوبالان لـ TechCrunch، واصفًا قواعد قانون الضرائب: “إن الأمر يشبه الرياضيات، بمعنى أن لديك الكثير من القواعد التي تحتاج إلى الالتزام بها”. “بمجرد أن يكون لديك نسخة مقننة منه، فإن المنطق الذي يعلوه يبدأ في أن يصبح حتميًا.”
لا يزال نظام Pramaana يعمل على LLM تقليدي، مما يمنحه المرونة للإجابة على أسئلة اللغة الطبيعية ومعالجة المشكلات المعقدة التي لا تستطيع أجهزة الكمبيوتر التقليدية التعامل معها. ولكن هناك طبقة حتمية فوق LLM تضمن التحقق من عمل LLM.
يعد هذا المزيج من محرك LLM مع التحقق الحتمي إعدادًا شائعًا؛ يتمثل نهج Pramaana الفريد في استخدام أدوات التحقق الرسمي — بالاعتماد على لغة برمجة LEAN مفتوحة المصدر المستخدمة للتحقق من البراهين الرياضية. هناك سابقة حقيقية لكثير من هذا العمل. ويشير راجاجوبالان إلى مشروع كاتالا في فرنسا، الذي يضفي الطابع الرسمي على قسم كبير من نظام الضرائب والفوائد في البلاد إلى كود قابل للتنفيذ.
بالنسبة لكل حالة استخدام، ستقوم Pramaana ببناء نظام التحقق الرسمي الخاص بها على طراز LEAN، والذي يشرف عليه خبراء المجال. بالنسبة لقانون الضرائب، تعمل الشركة مع مفوض مصلحة الضرائب السابق داني ويرفيل، بينما يشرف أساتذة من IIT Delhi وIIT Madras وUC Berkeley على نظام الأمن السيبراني واكتشاف الأدوية.
ويقول راجاجوبالان: “إن أصعب مشاكل العالم ليست غير قابلة للحل. فهي غير رسمية”. “كل مجال يمكن أن يكلف فيه ارتكاب الأخطاء شخصًا ما صحته أو ماله أو حريته له قواعد.”
الآن، هذه القواعد تحتاج فقط إلى تدوينها.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
