Patronus AI, ein Startup, das simulierte digitale Umgebungen zur Evaluierung autonomer KI-Agenten aufbaut, hat in einer Serie-B-Runde 50 Millionen US-Dollar eingesammelt, da die Nachfrage nach zuverlässigen Agententests steigt. Die Runde wurde von Greenfield Partners mit Beteiligung von Notable Capital, Lightspeed, Datadog und Samsung angeführt, berichtete TechCrunch, wodurch sich die Gesamtfinanzierung des Unternehmens auf 70 Millionen US-Dollar erhöhte.

Ein neues Problem: Agenten, die Abkürzungen nehmen Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Branchenberichterstattung.

Während sich KI-Agenten von der Beantwortung von Fragen zur autonomen Ausführung komplexer, mehrstufiger Aufgaben weiterentwickeln, benötigen Modellanbieter und Start-ups, die solche Agenten entwickeln, die Gewissheit, dass die Systeme in einer Vielzahl von Szenarien zuverlässig funktionieren. KI-Labore verwenden oft Benchmarks, um die Leistungsfähigkeit eines Modells zu demonstrieren, aber eine hohe Punktzahl bei einem agentenorientierten Benchmark beweist nicht, dass eine KI reale Aufgaben tatsächlich korrekt ausführen kann.

Auf diese Lücke konzentriert sich Patronus AI. Das 2023 von den ehemaligen Meta-KI-Forschern Anand Kannappan und Rebecca Qian gegründete Unternehmen mit Sitz in San Francisco erstellt sogenannte „digitale Weltmodelle“, Nachbildungen von Websites und internen Systemen, in denen Agenten nach dem Training einem Stresstest unterzogen werden. Die Agenten werden mithilfe von Reinforcement Learning bewertet, das die erfolgreiche Erledigung von Aufgaben iterativ belohnt und Fehler bestraft.

Anleihen bei autonomen Fahrzeugen

Das Unternehmen vergleicht seinen Ansatz damit, wie Waymo selbstfahrende Autos trainierte und zunächst synthetische Welten baute, um Fahrzeuge gegen seltene Gefahren wie Unwetter oder ein Kind, das einem Ball nachläuft, zu testen. Der Hauptunterschied zu KI-Agenten besteht darin, dass sie dazu neigen, Abkürzungen zu nehmen, was bedeutet, dass sie Aufgaben nicht korrekt erledigen, selbst wenn sie scheinbar erfolgreich sind.

„Patronus ist wirklich gut darin, Hacker zu erkennen und sicherzustellen, dass sie die Models zur Rechenschaft ziehen“, sagte Glenn Solomon, Geschäftsführer bei Notable Capital. Solomon beschrieb die Nachfrage nach den simulierten Umgebungen des Unternehmens als nahezu unstillbar. Nahezu jedes KI-Labor der Spitzenklasse und viele aufstrebende Startups sind mittlerweile Kunden, und der Umsatz von Patronus ist im vergangenen Jahr um das 15-fache gestiegen.

Überprüfbare Aufgaben hinaus erweitern

Patronus stellt seine simulierten digitalen Welten derzeit für Softwareentwicklung und Finanzen bereit, zwei Bereiche, in denen Ergebnisse relativ einfach zu überprüfen sind. Doch das Unternehmen sieht darin erst den Anfang. „Heute konzentrieren wir uns sehr auf die Probleme, die überprüfbar sind, die Probleme, die man sofort überprüfen und verifizieren kann, aber es gibt noch eine Menge weiterer Bereiche, die sehr nicht oder nur sehr schwer überprüfbar sind“, sagte Kannappan.

Das Ziel besteht darin, Umgebungen zu schaffen, die substanziell genug sind, um Agenten über lange Zeiträume hinweg zu testen. „Wir möchten in der Lage sein, tatsächlich eine Umgebung zu schaffen, in der Sie einen Agenten betreiben können, der 10 Stunden, 10 Tage oder 10 Wochen lang laufen kann“, sagte Kannappan. Nur weil Prozesse überprüfbar sind, heißt das nicht, dass sie einfach sind, und die Fähigkeit, einen Agenten zu erkennen, der während eines tagelangen Arbeitsablaufs ausfällt, ist von zentraler Bedeutung für das Wertversprechen des Unternehmens.

Die Finanzierung kommt auch zu einem Zeitpunkt, an dem sich die KI-Branche insgesamt mit der Frage auseinandersetzt, wie Fortschritte gemessen werden können. Benchmark-Scores sind zu einer umstrittenen Währung geworden, wobei Kritiker argumentieren, dass Modelle für spielspezifische Tests optimiert werden können, ohne sich bei realen Aufgaben wirklich zu verbessern. Die simulierten Umgebungen von Patronus bieten eine Alternative und testen Agenten in Szenarien mit offenem Ende, in denen der einzige Erfolgsbeweis ein korrekt abgeschlossener Job und nicht eine Zahl auf einer Bestenliste ist.

Für Unternehmenskunden ist dieser Unterschied wichtig. Ein Codierungsagent, der einen Benchmark besteht, aber stillschweigend Fehler in die Produktionscodebasis einfügt, oder ein Finanzagent, der Zahlen falsch rundet, kann weitaus mehr Schaden anrichten, als ein niedriges Testergebnis vermuten lässt. Indem Patronus diese Fehler vor der Bereitstellung in einer Sandbox auffängt, positioniert Patronus die Bewertung als Voraussetzung für Vertrauen und nicht als nachträglichen Gedanken.

Ein klarer Ansatz in einem überfüllten Bereich

Patronus geht davon aus, dass das Unternehmen in erster Linie mit den internen Bewertungsteams konkurriert, die KI-Labore bereits aufgebaut haben, um das Verhalten von Agenten zu bewerten. Während Humandatenfirmen wie Mercor und Surge Modellentwicklern beim Reinforcement Learning helfen, geht Patronus anders vor, indem es das Verhalten von Agenten ohne jegliche menschliche Beteiligung bewertet und die Erkennung von Fehlern automatisiert, die andernfalls eine kostspielige manuelle Überprüfung erfordern würden.

Die Runde signalisiert die Zuversicht der Anleger, dass die Agentenbewertung zu einer grundlegenden Ebene des KI-Stacks werden wird. Da Agenten zunehmend autonome Arbeit übernehmen, von der Buchung von Reisen bis hin zur Durchführung von Finanzanalysen, positionieren sich Start-ups, die in der Lage sind, die Vertrauenswürdigkeit dieser Systeme vor ihrem Einsatz zu beweisen, als unverzichtbare Torwächter des Agenten-KI-Zeitalters.

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →