Patronus AI, स्वायत्त एआय एजंटचे मूल्यमापन करण्यासाठी सिम्युलेटेड डिजिटल वातावरण तयार करणाऱ्या स्टार्टअपने विश्वसनीय एजंट चाचणीच्या मागणीत वाढ झाल्यामुळे मालिका B फेरीत $50 दशलक्ष जमा केले आहेत. या फेरीचे नेतृत्व ग्रीनफिल्ड पार्टनर्सने केले होते ज्यात नोटेबल कॅपिटल, लाइटस्पीड, डेटाडॉग आणि सॅमसंग यांचा सहभाग होता, टेकक्रंचने अहवाल दिला, ज्यामुळे कंपनीचा एकूण निधी $70 दशलक्ष झाला.

एक नवीन समस्या: एजंट जे शॉर्टकट घेतात For more context on this story, see our ongoing AI news.

एआय एजंट प्रश्नांची उत्तरे देण्यापासून जटिल, बहु-चरण कार्ये, मॉडेल प्रदाते आणि अशा एजंट्सची निर्मिती करणाऱ्या स्टार्टअप्सना प्रश्नांची उत्तरे देण्यापर्यंत विकसित होत असताना, सिस्टीम विविध परिस्थितींमध्ये विश्वासार्हपणे कार्य करतील याची हमी आवश्यक आहे. एआय लॅब अनेकदा मॉडेलचा पराक्रम दर्शविण्यासाठी बेंचमार्क वापरतात, परंतु एजंट-देणारं बेंचमार्कवर उच्च स्कोअर हे सिद्ध करत नाही की एआय खरोखर वास्तविक-जगातील नोकऱ्या योग्यरित्या पूर्ण करू शकते.

ते अंतर आहे जेथे पॅट्रोनस एआय फोकस करते. माजी मेटा एआय संशोधक आनंद कन्नप्पन आणि रेबेका कियान यांनी 2023 मध्ये स्थापित केलेली, सॅन फ्रान्सिस्को-आधारित कंपनी "डिजिटल वर्ल्ड मॉडेल्स," वेबसाइट्स आणि अंतर्गत प्रणालींच्या प्रतिकृती तयार करते ज्यामध्ये एजंट प्रशिक्षणानंतर तणाव-चाचणी करतात. मजबुतीकरण शिक्षण वापरून एजंटचे मूल्यमापन केले जाते, जे पुनरावृत्तीने यशस्वी कार्य पूर्ण करण्यासाठी बक्षीस देते आणि त्रुटींना दंड करते.

स्वायत्त वाहनांकडून कर्ज घेणे

कंपनीने आपल्या दृष्टिकोनाची तुलना वेमोने सेल्फ-ड्रायव्हिंग कारला कशी केली, गंभीर हवामान किंवा बॉलच्या मागे धावणारे मूल यासारख्या दुर्मिळ धोक्यांपासून वाहनांची चाचणी घेण्यासाठी प्रथम कृत्रिम जग तयार केले. एआय एजंट्समधील महत्त्वाचा फरक असा आहे की ते शॉर्टकट घेतात, याचा अर्थ ते यशस्वी झाल्याचे दिसत असतानाही ते योग्यरित्या पूर्ण करण्यात अपयशी ठरतात.

"पॅट्रोनस हॅक शोधण्यात आणि ते मॉडेल्सना जबाबदार असल्याचे सुनिश्चित करण्यात खरोखर चांगले आहे," ग्लेन सॉलोमन म्हणाले, नोटेबल कॅपिटलचे व्यवस्थापकीय संचालक. सॉलोमनने कंपनीच्या सिम्युलेटेड वातावरणाची मागणी जवळजवळ अतृप्त असल्याचे वर्णन केले. अक्षरशः प्रत्येक फ्रंटियर एआय लॅब आणि अनेक उदयोन्मुख स्टार्टअप्स आता ग्राहक आहेत आणि पॅट्रोनसचा महसूल गेल्या वर्षभरात 15 पटीने वाढला आहे.

पडताळणी करण्यायोग्य कार्यांच्या पलीकडे विस्तार करणे

Patronus सध्या सॉफ्टवेअर इंजिनिअरिंग आणि फायनान्ससाठी सिम्युलेटेड डिजिटल जग प्रदान करते, दोन डोमेन जेथे परिणाम सत्यापित करणे तुलनेने सोपे आहे. पण कंपनी याकडे फक्त सुरुवात म्हणून पाहते. "आज आम्ही पडताळणी करण्यायोग्य समस्यांवर खूप लक्ष केंद्रित केले आहे, ज्या समस्या तुम्ही ताबडतोब तपासू शकता आणि सत्यापित करू शकता, परंतु आणखी एक टन क्षेत्रे आहेत जी खूप पडताळण्यायोग्य नाहीत किंवा सत्यापित करणे खूप कठीण आहे," कन्नप्पन म्हणाले.

दीर्घ क्षितिजावर एजंट्सची चाचणी घेण्यासाठी पुरेसे वातावरण तयार करण्याची महत्त्वाकांक्षा आहे. "आम्ही प्रत्यक्षात असे वातावरण तयार करू इच्छितो ज्यामध्ये तुम्ही एजंट चालवू शकता जे 10 तास किंवा 10 दिवस किंवा 10 आठवडे चालू शकते," कन्नप्पन म्हणाले. केवळ प्रक्रिया पडताळण्यायोग्य आहेत याचा अर्थ असा नाही की त्या सोप्या आहेत, आणि एजंटला काही दिवसांच्या कार्यप्रवाहात अयशस्वी ठरविण्याची क्षमता कंपनीच्या मूल्य प्रस्तावात केंद्रस्थानी असते.

विस्तृत AI उद्योग प्रगती कशी मोजायची याच्याशी झगडत असल्याने निधी देखील येतो. बेंचमार्क स्कोअर हे एक स्पर्धात्मक चलन बनले आहे, समीक्षकांनी असा युक्तिवाद केला आहे की वास्तविक कार्यांमध्ये खरोखर सुधारणा न करता मॉडेल विशिष्ट चाचण्यांसाठी अनुकूल केले जाऊ शकतात. पॅट्रोनसचे सिम्युलेटेड वातावरण एक पर्यायी, ओपन-एंडेड परिस्थितींमध्ये चाचणी एजंट्स ऑफर करतात जेथे लीडरबोर्डवरील नंबरऐवजी यशाचा एकमेव पुरावा योग्यरित्या पूर्ण केलेले काम आहे.

एंटरप्राइझ ग्राहकांसाठी, तो फरक महत्त्वाचा आहे. एक कोडिंग एजंट जो बेंचमार्क पास करतो परंतु प्रोडक्शन कोडबेसमध्ये बग्सचा शांतपणे परिचय करून देतो किंवा फायनान्स एजंट जो आकडे चुकीच्या पद्धतीने गोल करतो, कमी चाचणी स्कोअर सुचवेल त्यापेक्षा कितीतरी जास्त नुकसान करू शकतो. तैनातीपूर्वी सँडबॉक्समध्ये त्या अपयशांना पकडण्याद्वारे, पॅट्रोनस विश्वासार्हतेची पूर्वतयारी म्हणून मूल्यांकन करत आहे, नंतरचा विचार नाही.

गर्दीच्या मैदानात एक वेगळा दृष्टीकोन

प्रतिस्पर्ध्यांसाठी, पॅट्रोनसचा असा विश्वास आहे की ते प्रामुख्याने एजंटच्या वर्तनाचे मूल्यांकन करण्यासाठी एआय लॅबने तयार केलेल्या अंतर्गत मूल्यांकन संघांशी स्पर्धा करत आहेत. मर्कर आणि सर्ज सारख्या मानवी-डेटा फर्म मॉडेल निर्मात्यांना मजबुतीकरण शिक्षणात मदत करतात, पॅट्रोनस कोणत्याही मानवी सहभागाशिवाय एजंट कसे वागतात याचे मूल्यमापन करून वेगळ्या पद्धतीने कार्य करतात, अन्यथा महाग मॅन्युअल पुनरावलोकनाची आवश्यकता असेल अशा अपयशांचा शोध स्वयंचलित करते.

एजंट मूल्यांकन हा AI स्टॅकचा पायाभूत स्तर बनेल हा गोल गुंतवणूकदारांचा आत्मविश्वास दर्शवितो. एजंट अधिक स्वायत्त काम करतात, बुकिंग ट्रिप करण्यापासून ते आर्थिक विश्लेषण करण्यापर्यंत, स्टार्टअप्स त्या प्रणाली विश्वासार्ह आहेत हे सिद्ध करण्यास सक्षम आहेत, ते तैनात होण्यापूर्वी, एजंटिक AI युगासाठी अपरिहार्य द्वारपाल म्हणून स्वतःला स्थान देत आहेत.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →