Patronus AI, startup, który tworzy symulowane środowiska cyfrowe w celu oceny autonomicznych agentów AI, zebrał 50 milionów dolarów w rundzie serii B w związku ze wzrostem zapotrzebowania na niezawodne testowanie agentów. Rundę poprowadziła firma Greenfield Partners z udziałem firm Notable Capital, Lightspeed, Datadog i Samsung, jak podał TechCrunch, co zwiększyło całkowite finansowanie firmy do 70 milionów dolarów.
Nowy problem: agenci, którzy idą na skróty Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
W miarę jak agenci sztucznej inteligencji ewoluują od odpowiadania na pytania do autonomicznego wykonywania złożonych, wieloetapowych zadań, dostawcy modeli i start-upy tworzące takich agentów potrzebują pewności, że systemy będą działać niezawodnie w szerokim zakresie scenariuszy. Laboratoria sztucznej inteligencji często korzystają z testów porównawczych, aby pochwalić się umiejętnościami modelu, ale wysoki wynik w teście zorientowanym na agenta nie dowodzi, że sztuczna inteligencja może faktycznie poprawnie wykonywać zadania w świecie rzeczywistym.
Na tej luce skupia się sztuczna inteligencja Patronusa. Założona w 2023 r. przez byłych badaczy Meta AI, Ananda Kannappana i Rebeccę Qian, firma z siedzibą w San Francisco tworzy tak zwane „cyfrowe modele świata”, czyli repliki stron internetowych i systemów wewnętrznych, w których agenci po szkoleniu poddawani są testom warunków skrajnych. Agenci są oceniani za pomocą uczenia się przez wzmacnianie, które iteracyjnie nagradza pomyślne wykonanie zadania i karze za błędy.
Pożyczanie od pojazdów autonomicznych
Firma porównuje swoje podejście do tego, jak Waymo szkoliło samochody autonomiczne, budując najpierw syntetyczne światy, aby testować pojazdy pod kątem rzadkich zagrożeń, takich jak trudne warunki pogodowe lub dziecko biegające za piłką. Kluczowa różnica w przypadku agentów AI polega na tym, że mają tendencję do chodzenia na skróty, co oznacza, że nie wykonują poprawnie zadań, nawet jeśli wydają się pomyślne.
„Patronus jest naprawdę dobry w wykrywaniu hacków i upewnianiu się, że pociągają one modele do odpowiedzialności” – powiedział Glenn Solomon, dyrektor zarządzający w Notable Capital. Solomon opisał popyt na symulowane środowiska firmy jako prawie nienasycony. Praktycznie każde pionierskie laboratorium AI i wiele wschodzących start-upów jest teraz klientami, a przychody Patronusa wzrosły 15-krotnie w ciągu ostatniego roku.
Wykraczanie poza weryfikowalne zadania
Patronus dostarcza obecnie swoje symulowane cyfrowe światy dla inżynierii oprogramowania i finansów, czyli dwóch dziedzin, w których wyniki są stosunkowo łatwe do zweryfikowania. Ale firma postrzega to jako dopiero początek. „Dziś bardzo koncentrujemy się na problemach, które można zweryfikować, problemach, które można natychmiast sprawdzić i zweryfikować, ale jest o wiele więcej obszarów, których nie można zweryfikować lub bardzo trudno zweryfikować” – powiedział Kannappan.
Ambicją jest zbudowanie środowisk wystarczająco solidnych, aby testować agentów w długim horyzoncie czasowym. „Chcemy móc faktycznie stworzyć środowisko, w którym można będzie obsługiwać agenta działającego przez 10 godzin, 10 dni lub 10 tygodni” – powiedział Kannappan. To, że procesy można zweryfikować, nie oznacza, że są proste, a możliwość wyłapania agenta, który zawiódł w trakcie trwającego kilka dni przepływu pracy, ma kluczowe znaczenie dla propozycji wartości firmy.
Fundusze pojawiają się również wtedy, gdy szerzej rozumiana branża sztucznej inteligencji zmaga się z problemem pomiaru postępu. Wyniki testów porównawczych stały się walutą kwestionowaną, a krytycy twierdzą, że modele można optymalizować pod kątem testów specyficznych dla gier, bez rzeczywistej poprawy w rzeczywistych zadaniach. Symulowane środowiska Patronusa oferują alternatywę polegającą na testowaniu agentów w scenariuszach otwartych, w których jedynym dowodem sukcesu jest poprawnie wykonane zadanie, a nie liczba w tabeli liderów.
Dla klientów korporacyjnych to rozróżnienie ma znaczenie. Agent programujący, który przechodzi testy porównawcze, ale po cichu wprowadza błędy do produkcyjnej bazy kodu, lub agent finansowy, który błędnie zaokrągla liczby, może wyrządzić znacznie więcej szkód, niż sugerowałby niski wynik testu. Wychwytując te awarie w piaskownicy przed wdrożeniem, Patronus traktuje ocenę jako warunek wstępny zaufania, a nie refleksję.
Wyjątkowe podejście na zatłoczonym polu
Jeśli chodzi o rywali, Patronus uważa, że konkuruje on przede wszystkim z wewnętrznymi zespołami oceniającymi, które laboratoria sztucznej inteligencji utworzyły już w celu oceny zachowań agentów. Podczas gdy firmy zajmujące się danymi ludzkimi, takie jak Mercor i Surge, pomagają twórcom modeli w uczeniu się przez wzmacnianie, Patronus działa inaczej, oceniając zachowanie agentów bez udziału człowieka i automatyzując wykrywanie awarii, które w przeciwnym razie wymagałyby kosztownej ręcznej kontroli.
Runda ta sygnalizuje pewność inwestorów, że ocena agentów stanie się podstawową warstwą stosu sztucznej inteligencji. W miarę jak agenci podejmują bardziej autonomiczną pracę, od rezerwacji wycieczek po przeprowadzanie analiz finansowych, start-upy, które są w stanie udowodnić, że te systemy są godne zaufania, zanim zostaną wdrożone, pozycjonują się jako niezastąpieni strażnicy ery agentycznej sztucznej inteligencji.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
