Un nouveau type de modèle d'IA a fait ses débuts cette semaine, et il fait quelque chose d'inhabituel pour un modèle construit sur une architecture de transformateur : il ne produit jamais un mot de texte. Jev, lancé par la startup TypeSafe AI, âgée de deux ans, génère à la place des probabilités calibrées – ce que la société appelle des décisions typées et calibrées – se positionnant comme une alternative bon marché et rapide aux grands modèles de langage pour le travail de classification, de routage et d'automatisation, selon TechCrunch.
La société a été fondée par Diogo Almeida, un chercheur d'OpenAI qui a contribué à la création de ChatGPT et à l'invention de l'apprentissage par renforcement à partir du feedback humain (RLHF), la technique de formation largement reconnue pour avoir façonné la génération actuelle d'assistants IA. La demande pour le nouveau modèle était suffisamment intense pour que TypeSafe ait brièvement perdu la capacité de servir certains utilisateurs d'API après son lancement. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Pourquoi un pionnier de ChatGPT a abandonné la langue
Le parcours d'Almeida vers un modèle non textuel a commencé par une déception face à OpenAI. "Nous avons de la foudre dans une bouteille, et pourtant ce n'est pas utile", a déclaré Almeida à TechCrunch, décrivant sa frustration face au fait que malgré les capacités de ChatGPT, la technologie n'est pas parvenue à une véritable automatisation. "Depuis, je lutte contre ce problème. Il m'a fallu du temps pour arriver à la conclusion : le problème est que nous optimisons pour le langage humain... Nous sommes très bons en langage humain depuis quatre ans, mais ce n'est pas utile pour l'automatisation car les ordinateurs parlent un langage différent."
Il y a deux ans, Almeida a quitté OpenAI pour fonder TypeSafe AI et poursuivre cette thèse. Le résultat est Jev, un modèle basé sur un transformateur qui, selon la société, n'est pas un grand modèle de langage. Lorsqu'un LLM génère un texte ouvert, Jev renvoie des probabilités sur un ensemble de résultats que l'utilisateur définit à l'avance - une conception qui, selon l'entreprise, rend les hallucinations structurellement impossibles, puisque le modèle ne peut répondre qu'avec les options qui lui ont été proposées.
Les gains d’efficacité sont au cœur du discours. Les jetons de sortie de Jev sont gratuits et les jetons d'entrée sont mesurés par milliard plutôt que par million, selon TechCrunch. La société décrit Jev comme un « modèle System One », axé sur l’intuition plutôt que sur le raisonnement, et affirme avoir été formée exclusivement sur des données synthétiques en utilisant une technique qu’Almeida appelle l’apprentissage par renforcement à partir de décisions calibrées.
TypeSafe a gardé secrète l'architecture de Jev, bien que des observateurs extérieurs soupçonnent que le système est construit sur un LLM ouvert. "La moitié de [notre entreprise] est un laboratoire qui possède essentiellement tout ce sous-domaine de données synthétiques statistiquement bien comprises, et c'est maintenant ma joie de vivre", a déclaré Almeida à TechCrunch.
Résultats des premiers développeurs : plus rapides et moins chers
Les premiers utilisateurs ont signalé des gains notables en matière de tests. Pranit Sharma, ingénieur logiciel chez Vercel, a déclaré à TechCrunch que son entreprise utilisait ChatGPT Luna 5.6 d'OpenAI pour exécuter un classificateur qui examine les commandes pour des raisons de sécurité. Après avoir transféré cette charge de travail sur Jev, Vercel a obtenu des résultats cinq à 18 fois plus rapidement et avec une plus grande précision.
Nikhil Mudholkar, CTO de Bryo AI, a effectué une comparaison différente : classer les e-mails professionnels de Jev par rapport à Gemini de Google. Dans son test, Gemini était légèrement plus précis, mais 10 à 20 fois plus cher. Pour Mudholkar, la propriété la plus précieuse de Jev était sa gestion de l'incertitude. "C'est le seul qui offre une réelle probabilité, ce qui le rend idéal pour automatiser les flux de travail", a-t-il déclaré à TechCrunch.
Agents surveillant les agents, sans la facture
Au-delà du remplacement des LLM dans les tâches de classification, TypeSafe affirme que Jev peut les contrôler. L'utilisation d'agents IA pour surveiller d'autres agents devient rapidement coûteuse, mais Almeida affirme que la vitesse et le profil de coût de Jev facilitent le suivi des traces des agents LLM et empêchent les jailbreaks en temps réel.
Armin Ronacher, CTO d'Earendil et constructeur du modèle open source Pi, a déclaré à TechCrunch que l'approche transfère la responsabilité de l'incertitude au développeur. "Cela délègue un peu le problème des hallucinations à l'utilisateur", a déclaré Ronacher. "L'utilisateur doit dire, d'accord, si cela revient seulement avec une probabilité de 50 %, c'est peut-être un tirage au sort, et je l'ignore. Mais si c'est 95 %, bien sûr, alors je peux en faire quelque chose. "
Ronacher a également signalé le routage de modèles comme un cas d'utilisation prometteur : prédire si une charge de travail donnée nécessite un modèle spécifique plus coûteux. Faire ce tri avec un LLM serait coûteux, mais la faible latence et le faible prix de Jev pourraient rendre le routage en temps réel viable.
Un nom emprunté à l’économie
Le modèle porte le nom de William Stanley Jevons, l’économiste du XIXe siècle à l’origine du paradoxe de Jevons – l’observation selon laquelle à mesure qu’un produit devient moins cher, sa consommation a tendance à augmenter. Le pari d'Almeida est que la baisse des coûts de l'intelligence décisionnelle conduira à son déploiement partout, et pas seulement dans les chatbots phares.
"Nous pensons qu'il va y avoir des logiciels intelligents partout, d'une manière émergente et distribuée... beaucoup plus comme les débuts d'Internet que vous ne le pensez, comme les méga applications que les gens essaient de créer en ce moment", a déclaré Almeida à TechCrunch.
La question de savoir si les concurrents suivront reste ouverte. "Nous aurions dû voir cela plus tôt à bien des égards, mais probablement parce que les LLM sont si bon marché et subventionnés, il n'est souvent pas nécessaire d'être créatif pour l'instant", a déclaré Ronacher à TechCrunch. TypeSafe prévoit des versions supplémentaires de Jev dans de nouvelles modalités.
Quant à savoir si TypeSafe compte comme un laboratoire frontière, Almeida a proposé une réponse précise : « Le produit principal des laboratoires frontières est la peur ou le battage médiatique. J'aimerais que notre produit principal soit l'intelligence... [mais nous ne sommes] pas un laboratoire au sens, vous savez, comme parier sur une richesse infinie, ou une religion, ou construire Dieu dans un centre de données, ou quoi que ce soit d'autre aujourd'hui.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
