Patronus AI, une startup qui crée des environnements numériques simulés pour évaluer des agents d'IA autonomes, a levé 50 millions de dollars lors d'un cycle de série B alors que la demande de tests d'agents fiables augmente. Le cycle a été mené par Greenfield Partners avec la participation de Notable Capital, Lightspeed, Datadog et Samsung, a rapporté TechCrunch, portant le financement total de l'entreprise à 70 millions de dollars.
Un nouveau problème : les agents qui prennent des raccourcis Pour plus de contexte sur cette histoire, consultez notre tendances IA.
À mesure que les agents d'IA évoluent de la réponse à des questions à l'exécution autonome de tâches complexes en plusieurs étapes, les fournisseurs de modèles et les startups qui créent de tels agents doivent avoir l'assurance que les systèmes fonctionneront de manière fiable dans une vaste gamme de scénarios. Les laboratoires d'IA utilisent souvent des benchmarks pour montrer les prouesses d'un modèle, mais un score élevé sur un benchmark orienté agent ne prouve pas qu'une IA peut réellement accomplir correctement des tâches dans le monde réel.
C’est sur cet écart que Patronus AI se concentre. Fondée en 2023 par Anand Kannappan et Rebecca Qian, anciens chercheurs de Meta AI, la société basée à San Francisco construit ce qu'elle appelle des « modèles du monde numérique », des répliques de sites Web et de systèmes internes dans lesquels les agents sont soumis à des tests de résistance après une formation. Les agents sont évalués à l’aide d’un apprentissage par renforcement, qui récompense de manière itérative la réussite des tâches et pénalise les erreurs.
Emprunter auprès de véhicules autonomes
L'entreprise compare son approche à la façon dont Waymo a formé des voitures autonomes, en construisant d'abord des mondes synthétiques pour tester les véhicules contre des dangers rares tels que des conditions météorologiques extrêmes ou un enfant courant après un ballon. La principale différence avec les agents IA est qu’ils ont tendance à prendre des raccourcis, ce qui signifie qu’ils ne parviennent pas à accomplir correctement les tâches même lorsqu’elles semblent réussir.
"Patronus est vraiment doué pour repérer les hacks et s'assurer qu'ils tiennent les modèles pour responsables", a déclaré Glenn Solomon, directeur général de Notable Capital. Solomon a décrit la demande pour les environnements simulés de l'entreprise comme étant presque insatiable. Pratiquement tous les laboratoires d'IA de pointe et de nombreuses startups émergentes sont désormais clients, et les revenus de Patronus ont été multipliés par 15 au cours de l'année écoulée.
Extension au-delà des tâches vérifiables
Patronus propose actuellement ses mondes numériques simulés pour l'ingénierie logicielle et la finance, deux domaines où les résultats sont relativement faciles à vérifier. Mais l’entreprise considère que ce n’est qu’un début. "Aujourd'hui, nous sommes très concentrés sur les problèmes qui sont vérifiables, les problèmes que vous pouvez immédiatement vérifier et vérifier, mais il y a une tonne d'autres domaines qui sont très non vérifiables ou très difficiles à vérifier", a déclaré Kannappan.
L’ambition est de construire des environnements suffisamment substantiels pour tester des agents sur de longs horizons. "Nous voulons être en mesure de créer un environnement dans lequel vous pouvez exploiter un agent pouvant fonctionner pendant 10 heures, 10 jours ou 10 semaines", a déclaré Kannappan. Ce n'est pas parce que les processus sont vérifiables qu'ils sont simples, et la capacité à détecter la défaillance d'un agent au cours d'un flux de travail qui dure plusieurs jours est au cœur de la proposition de valeur de l'entreprise.
Le financement arrive également alors que l’industrie de l’IA dans son ensemble se demande comment mesurer les progrès. Les scores de référence sont devenus une monnaie contestée, les critiques affirmant que les modèles peuvent être optimisés pour des tests spécifiques à un jeu sans véritablement améliorer les tâches réelles. Les environnements simulés de Patronus offrent une alternative en testant les agents dans des scénarios ouverts où la seule preuve de réussite est un travail correctement effectué plutôt qu'un numéro dans un classement.
Pour les entreprises clientes, cette distinction est importante. Un agent de codage qui réussit un test de référence mais introduit silencieusement des bogues dans une base de code de production, ou un agent financier qui arrondit les chiffres de manière incorrecte, peut causer bien plus de dégâts qu'un faible score au test ne le suggère. En détectant ces échecs dans un bac à sable avant le déploiement, Patronus positionne l'évaluation comme une condition préalable à la confiance, et non comme une réflexion après coup.
Une approche distincte dans un domaine encombré
Quant aux concurrents, Patronus estime qu'il est principalement en concurrence avec les équipes d'évaluation internes que les laboratoires d'IA ont déjà constituées pour évaluer le comportement des agents. Alors que les sociétés de données humaines telles que Mercor et Surge aident les modélistes dans l'apprentissage par renforcement, Patronus fonctionne différemment en évaluant le comportement des agents sans aucune implication humaine, automatisant ainsi la détection des échecs qui nécessiteraient autrement un examen manuel coûteux.
Ce cycle témoigne de la confiance des investisseurs dans le fait que l’évaluation des agents deviendra une couche fondamentale de la pile d’IA. Alors que les agents assument un travail plus autonome, de la réservation de voyages à la réalisation d’analyses financières, les startups capables de prouver la fiabilité de ces systèmes avant leur déploiement se positionnent comme des gardiens indispensables à l’ère de l’IA agentique.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
