Eine neue Art von KI-Modell feierte diese Woche ihr Debüt und macht etwas Ungewöhnliches für ein Modell, das auf einer Transformatorarchitektur basiert: Es produziert niemals ein Wort Text. Jev, veröffentlicht vom zwei Jahre alten Startup TypeSafe AI, gibt stattdessen kalibrierte Wahrscheinlichkeiten aus – was das Unternehmen typisierte, kalibrierte Entscheidungen nennt – und positioniert sich laut TechCrunch als kostengünstige, schnelle Alternative zu großen Sprachmodellen für Klassifizierungs-, Routing- und Automatisierungsarbeiten.
Das Unternehmen wurde von Diogo Almeida gegründet, einem OpenAI-Forscher, der beim Aufbau von ChatGPT mitwirkte und zur Erfindung des Reinforcement Learning from Human Feedback (RLHF) beitrug, der Trainingstechnik, die weithin als prägend für die aktuelle Generation von KI-Assistenten gilt. Die Nachfrage nach dem neuen Modell war so groß, dass TypeSafe nach dem Start kurzzeitig die Fähigkeit verlor, einige API-Benutzer zu bedienen. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.
Warum ein ChatGPT-Pionier die Sprache aufgegeben hat
Almeidas Weg zu einem Nicht-Text-Modell begann mit einer Enttäuschung bei OpenAI. „Wir haben einen Blitz in einer Flasche, und doch ist er nicht nützlich“, sagte Almeida gegenüber TechCrunch und beschrieb seine Frustration darüber, dass die Technologie trotz der Fähigkeiten von ChatGPT hinter einer echten Automatisierung zurückbleibt. „Seitdem kämpfe ich mit diesem Problem. Es hat eine Weile gedauert, bis ich zu dem Schluss gekommen bin: Das Problem ist, dass wir für die menschliche Sprache optimieren … Wir sind seit vier Jahren super gut in der menschlichen Sprache, aber für die Automatisierung ist sie nicht nützlich, weil Computer eine andere Sprache sprechen.“
Vor zwei Jahren verließ Almeida OpenAI, um TypeSafe AI zu gründen und diese These weiterzuverfolgen. Das Ergebnis ist Jev, ein transformatorbasiertes Modell, von dem das Unternehmen betont, dass es sich nicht um ein großes Sprachmodell handelt. Während ein LLM offenen Text generiert, gibt Jev Wahrscheinlichkeiten über eine Reihe von Ausgaben zurück, die der Benutzer im Voraus definiert – ein Design, das laut Aussage des Unternehmens Halluzinationen strukturell unmöglich macht, da das Modell nur mit den ihm gegebenen Optionen antworten kann.
Die Effizienzgewinne sind ein zentraler Bestandteil des Pitches. Laut TechCrunch sind Ausgabe-Token von Jev kostenlos und Eingabe-Token werden in Milliarde statt in Millionen gemessen. Das Unternehmen beschreibt Jev als ein „System-One-Modell“, das sich eher auf Intuition als auf logisches Denken konzentriert, und sagt, dass es ausschließlich auf synthetischen Daten trainiert wurde, und zwar mithilfe einer Technik, die Almeida als Verstärkungslernen aus kalibrierten Entscheidungen bezeichnet.
TypeSafe hat die Architektur von Jev geheim gehalten, obwohl externe Beobachter vermuten, dass das System auf einem Open-Weight-LLM basiert. „Die Hälfte von [unserem Unternehmen] ist ein Labor, das im Grunde dieses gesamte Teilgebiet statistisch gut verstandener synthetischer Daten besitzt, und das ist jetzt meine Lebensfreude“, sagte Almeida gegenüber TechCrunch.
Frühe Entwicklerergebnisse: Schneller und günstiger
Frühanwender meldeten bemerkenswerte Fortschritte beim Testen. Pranit Sharma, ein Softwareentwickler bei Vercel, sagte gegenüber TechCrunch, dass sein Unternehmen ChatGPT Luna 5.6 von OpenAI verwendet habe, um einen Klassifikator auszuführen, der Befehle auf Sicherheit überprüft. Nach der Umstellung dieser Arbeitsbelastung auf Jev erzielte Vercel fünf- bis 18-mal schnellere und genauere Ergebnisse.
Nikhil Mudholkar, CTO von Bryo AI, führte einen anderen Vergleich durch: Er klassifizierte geschäftliche E-Mails mit Jev im Vergleich zu Googles Gemini. In seinem Test war Gemini etwas genauer, aber 10 bis 20 Mal teurer. Für Mudholkar war Jevs wertvollste Eigenschaft der Umgang mit Unsicherheit. „Es ist das einzige, das eine echte Wahrscheinlichkeit zurückgibt, was es ideal für die Automatisierung von Arbeitsabläufen macht“, sagte er gegenüber TechCrunch.
Agenten beobachten Agenten, ohne die Rechnung
TypeSafe argumentiert, dass Jev nicht nur LLMs bei Klassifizierungsaufgaben ersetzen kann, sondern diese auch überwachen kann. Der Einsatz von KI-Agenten zur Überwachung anderer Agenten wird schnell teuer, aber Almeida behauptet, dass die Geschwindigkeit und das Kostenprofil von Jev es praktisch machen, die Spuren von LLM-Agenten zu verfolgen und Jailbreaks in Echtzeit zu verhindern.
Armin Ronacher, CTO von Earendil und Entwickler des Open-Source-Modells Pi, sagte gegenüber TechCrunch, dass der Ansatz die Verantwortung für Unsicherheit auf den Entwickler verlagere. „Es delegiert das Halluzinationsproblem ein wenig an den Benutzer“, sagte Ronacher. „Der Benutzer muss sagen: Okay, wenn das nur mit einer Wahrscheinlichkeit von 50 % zurückkommt, ist das vielleicht ein Münzwurf, und ich ignoriere es. Aber wenn es 95 % ist, klar, dann kann ich etwas damit anfangen.“
Ronacher bezeichnete auch das Modell-Routing als vielversprechenden Anwendungsfall: die Vorhersage, ob eine bestimmte Arbeitslast ein bestimmtes, teureres Modell erfordert. Diese Sortierung mit einem LLM durchzuführen wäre kostspielig, aber die geringe Latenz und der Preis von Jev könnten Echtzeit-Routing realisierbar machen.
Ein aus der Wirtschaftswissenschaft entlehnter Name
Das Modell ist nach William Stanley Jevons benannt, dem Ökonomen des 19. Jahrhunderts, der hinter dem Jevons-Paradoxon stand – der Beobachtung, dass der Konsum einer Ware tendenziell zunimmt, wenn sie billiger wird. Almeida geht davon aus, dass sinkende Kosten für entscheidungsrelevante Intelligenz dazu führen werden, dass diese überall eingesetzt wird, nicht nur in Flaggschiff-Chatbots.
„Wir glauben, dass es überall intelligente Software geben wird, die entsteht und verteilt wird … viel mehr wie das frühe Internet, als Sie wissen, wie die Mega-Apps, die die Leute gerade zu entwickeln versuchen“, sagte Almeida gegenüber TechCrunch.
Ob die Konkurrenz folgt, bleibt offen. „Wir hätten das in vielerlei Hinsicht früher sehen sollen, aber vermutlich weil die LLMs so günstig und subventioniert sind, muss man oft noch nicht kreativ sein“, sagte Ronacher gegenüber TechCrunch. TypeSafe plant zusätzliche Versionen von Jev in neuen Modalitäten.
Auf die Frage, ob TypeSafe als Frontier-Labor gilt, gab Almeida eine treffende Antwort: „Das Hauptprodukt von Frontier-Labors ist Angst oder Hype. Ich möchte, dass unser Hauptprodukt Intelligenz ist … [aber wir sind] kein Labor im Sinne einer Wette auf unendlichen Reichtum oder einer Religion oder der Errichtung Gottes in einem Rechenzentrum oder was auch immer heutzutage angesagt ist.“
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
