Lorsque vous parlez à un ami en personne, vous pouvez le voir, l’entendre, lui serrer la main. Lorsque vous parlez à un modèle d’IA, vous n’avez presque aucune de ces assurances. Les nouvelles recherches d'Anthropic visent précisément cette lacune : la société a publié des progrès sur les preuves d'inférence cryptographiques, y compris un système appelé FlashProve qui peut prouver - mathématiquement et non contractuellement - qu'une réponse provient réellement du modèle qu'elle prétend être.

Le problème résolu par FlashProve est discrètement structurel. Aujourd'hui, un utilisateur qui interroge un modèle ne peut pas vérifier que les réponses proviennent du modèle spécifique auquel le développeur prétend répondre, par opposition à un modèle secrètement remplacé par un service de routage pour des raisons de coût, ou même par un attaquant qui a falsifié le flux de jetons. Juger uniquement à partir des résultats n’est pas fiable, même si les réponses semblent excellentes. Dans un secteur où la même fenêtre de discussion peut silencieusement être redirigée vers un modèle moins cher sous charge, ce n'est pas une préoccupation hypothétique : c'est le modèle de confiance par défaut. Pour plus de couverture de travaux comme celui-ci, consultez nos Actualités sur la recherche en IA.

Pourquoi l'inférence prouvable est difficile

L’objectif de l’inférence prouvable est de permettre à un utilisateur disposant de ressources informatiques limitées – et sans accès aux poids privés d’un modèle – de vérifier qu’une réponse donnée a été véritablement produite par ce modèle. L'approche évidente, qui consiste à réexécuter le modèle vous-même, est vouée à l'échec : les poids des modèles frontières restent privés, et vérifier une réponse par rapport à eux nécessiterait des calculs bien au-delà de ce qu'un utilisateur typique, ou même un évaluateur bien financé, peut se permettre.

L'approche d'Anthropic s'appuie sur zkSNARK, une famille de preuves à connaissance nulle avec de fortes propriétés de dissimulation et d'efficacité qui les rendent particulièrement adaptées à la tâche. Un fournisseur s'engage une seule fois sur un modèle, puis génère une preuve compacte pour chaque réponse indiquant que la réponse a été calculée par le modèle validé, tandis que les preuves elles-mêmes cachent les poids du modèle. Cacher l’architecture n’est pas un objectif du système ; cacher les poids est.

Les chiffres

Les chiffres d'efficacité présentés dans l'article constituent le cœur technique de l'histoire, car la génération de preuves pour les grands modèles a toujours été trop lente pour avoir de l'importance. Pour Llama 4 Maverick, un modèle combinant 400 milliards de paramètres d'experts, un seul GPU NVIDIA H100 génère des preuves à environ 110 jetons par seconde, avec une taille de preuve d'environ 19 Mo par requête de 1 024 jetons, en utilisant des poids quantifiés de 4 bits et une arithmétique entière en pré-remplissage.

Cette vitesse a un coût : la génération de preuves prend environ 70 à 95 fois plus de temps GPU que la simple exécution du modèle lui-même sur vLLM, une bibliothèque d'inférence open source largement utilisée. En d’autres termes, c’est cher – mais pour la première fois dans le même ordre de grandeur que ce qui est prouvé et, selon Anthropic, nettement plus rapide que les systèmes open source précédents, qui sont en retard de plusieurs ordres de grandeur.

Claude l'a construit — et Lean audite les réclamations

Il y a un deuxième étage replié à l’intérieur du premier. Selon le message, Claude a lui-même produit les améliorations apportées aux zkSNARK pour l'inférence, trouvant de nouvelles façons d'appliquer des outils de pointe issus de la littérature sur la cryptographie et la sécurité tout en s'appuyant sur des principes de conception bien établis pour les systèmes de preuve cryptographique.

Anthropic parle franchement du risque associé à ce flux de travail : Claude est doué en optimisation, mais prend souvent des décisions difficiles à évaluer, en particulier dans les grands systèmes complexes. La contre-mesure est une vérification formelle. La société fournit des déclarations vérifiables de haut niveau dans Lean, un langage de vérification formel, pour les garanties de sécurité revendiquées – des mathématiques vérifiées par machine se dressant entre les optimisations intelligentes d'une IA et les utilisateurs qui doivent leur faire confiance.

La pile complète est publiée sous la licence Apache 2.0 : l'article de blog, un rapport technique expliquant les détails du système, une description du protocole, un code exécutable comprenant un prouveur et deux vérificateurs — un vérificateur rapide en C++ et un vérificateur dont l'exactitude est prouvée en Lean — ainsi que les preuves Lean elles-mêmes et un visualiseur interactif pour faciliter l'audit.

De la conformité aux traités de stimulation de l'IA

Les croquis anthropiques utilisent des cas allant de la routine à la géopolitique. Les évaluateurs indépendants qui testent les modèles d’IA avant et après leur publication doivent savoir que le modèle qu’ils évaluent est celui qui est servi. Les clients qui accèdent à un modèle via un service de routage tiers veulent avoir l'assurance que les jetons proviennent du modèle pour lequel ils ont payé. Et dans le scénario de sécurité, un cyberattaquant qui modifie le flux de jetons tout en usurpant l’identité d’un modèle donné devient détectable d’une manière que l’inspection seule des résultats ne pourra jamais réaliser.

L’application la plus ambitieuse mentionnée dans le message est la vérification du respect des exigences de rythme de l’IA – la nouvelle classe d’accords, volontaires et gouvernementaux, qui tentent de régir la rapidité avec laquelle les capacités de pointe progressent. Aujourd’hui, de tels engagements reposent sur la confiance et la paperasse. Les preuves d'inférence cryptographiques offrent quelque chose de plus proche de l'inspection : un moyen de démontrer, plutôt que d'affirmer, quel modèle répond à une charge de travail donnée.

Les chercheurs précisent clairement qu’il s’agit d’un progrès intermédiaire et non d’un programme de recherche achevé, et ils publient dans le but déclaré que d’autres prennent le travail et l’améliorent. Ce cadrage est en soi un signal : l’inférence prouvable est passée d’une expérience de pensée de séminaire de cryptographie à un problème d’ingénierie qu’un laboratoire frontalier s’efforce désormais ouvertement de rendre suffisamment bon marché pour être déployé.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →