Ein Mix-of-Experten-Design
Laut TestingCatalog AI News handelt es sich bei Inkling-Small um einen Mixture-of-Experts (MoE)-Transformator mit 276 Milliarden Gesamtparametern, von denen 12 Milliarden während jeder gegebenen Inferenz aktiv sind. Diese Architektur – bei der für jeden Token nur ein kleiner Teil des Modells „aufwacht“ – ist derselbe Effizienztrick, der den Betrieb chinesischer Open-Weight-Modelle wie DeepSeek so kostengünstig gemacht hat. Thinking Machines bestätigte, dass die vollständigen Gewichte auf Hugging Face veröffentlicht werden.
Das Modell verfügt außerdem über ein Kontextfenster von bis zu einer Million Token und das, was das Labor als „variablen Denkaufwand“ bezeichnet, der von minimal bis „xhoch“ reicht, sodass Entwickler je nach Aufgabe Rechenleistung gegen Leistung eintauschen können. Die Feinabstimmung ist über die Plattform Tinker des Unternehmens möglich, und Text-, Bild- und Audio-Chat sind im Tinker Playground verfügbar.
Auf NVIDIA GB300-Systemen geschult
Laut Thinking Machines wurde Inkling-Small auf NVIDIA GB300 NVL72-Systemen geschult und verbraucht „wesentlich weniger Rechenleistung“ als das ursprüngliche Inkling-Modell, das am 15. Juli 2026 auf den Markt kam. Dieses erste Modell – von WIRED und TechCrunch als Erstveröffentlichung von Thinking Machines abgedeckt – machte das Labor fast über Nacht zu einem ernsthaften Konkurrenten.
Der Weg zu Inkling-Small offenbart eine bewusste Effizienzstrategie. Das Labor begann mit der Arbeit am kleineren Modell erst nach dem Training von Inkling und nutzte den Freiraum, um seinen Datenmix vor dem Training und sein Rezept für maschinelles Lernen zu überarbeiten. Ein früherer Vorschau-Checkpoint wurde teilweise durch Richtlinien-Destillation nachtrainiert, wobei Inkling als Lehrer fungierte, gefolgt von etwa zwei Wochen skaliertem Lernen zur Verstärkung der Agentencodierung.
Wo es gewinnt – und wo nicht
Die Ergebnisse dieses Rezepts sind bemerkenswert. Thinking Machines behauptet, dass Inkling-Small das ursprüngliche Inkling bei den Benchmarks für Argumentation und Agentenkodierung übertrifft, während Inkling in Bezug auf Wissensabdeckung und Faktizität stärker bleibt. Beim rein textuellen Humanity's Last Exam, einer bekanntermaßen schwierigen Bewertung, erreichte das kleinere Modell Berichten zufolge 31,6 %, verglichen mit 29,7 % für Inkling – eine echte Verbesserung trotz der dramatischen Reduzierung der aktiven Parameter.
Der Kompromiss ist klar: Inkling-Small ist der schärfere Programmierer und Denker, während sein größerer Bruder die breitere Wissensbasis behält. Für Entwickler ist das eine Funktion und kein Fehler – es bedeutet, das richtige Tool für die jeweilige Aufgabe auszuwählen, anstatt für jede Aufgabe ein einziges riesiges Modell zu bezahlen.
Ein US-amerikanischer Spieler in einem von China angeführten Open-Weight-Feld
Die vielleicht größte Auswirkung ist geopolitischer Natur. Wie CNBC und andere angemerkt haben, sind Open-Weight-Frontier-Modelle zu einem Brennpunkt zwischen den USA und China geworden, wobei chinesische Labore wie DeepSeek und Alibabas Qwen leistungsstarke Modelle verschenken und westliche Preise unterbieten. Forkast formulierte die Veröffentlichung von Inkling-Small unverblümt: „Der Open-Weights-Wettbewerb hat jetzt einen US-Teilnehmer.“
Bislang kamen die führenden Modelle mit offenem Gewicht fast ausschließlich aus China, was in Washington Befürchtungen hervorrief, dass amerikanische Labore eine ganze Marktkategorie aufgeben würden. Thinking Machines – ein gut finanziertes US-Startup unter der Leitung einer der prominentesten Persönlichkeiten der KI – ändert dieses Kalkül. Durch die Veröffentlichung voller Gewichte auf Hugging Face und die Unterstützung offener Feinabstimmung leistet das Labor einen direkten Beitrag für die Entwicklergemeinschaft, die chinesische Open-Weight-Modelle gepflegt haben.
Entwickelt für Entwickler, nicht nur für Benchmarks
Thinking Machines hat die Veröffentlichung mit Tools gepaart, die sich direkt an Entwickler richten. Über die offenen Hugging Face-Gewichte hinaus bestätigte Databricks, dass die Inkling-Familie auf seiner Plattform verfügbar ist und der Tinker Playground sofort multimodalen Text-, Bild- und Audio-Chat unterstützt. Die variable Einstellung „Denkaufwand“ – von minimal bis „xhoch“ – ist für echte technische Kompromisse konzipiert: Kostengünstig arbeiten, wenn eine Aufgabe einfach ist, mehr Rechenleistung ausgeben, wenn ein Problem tiefergehende Überlegungen erfordert. Diese Flexibilität ist für Startups wichtig, die auf ihre Inferenzrechnungen achten, von denen viele bereits auf günstigere Open-Weight-Alternativen umgestiegen sind, anstatt Premium-API-Preise zu zahlen.
Der Effizienztrend in der gesamten Branche
Inkling-Small passt auch zu einem breiteren Muster. In der gesamten Branche verlagert sich die Vorreiterrolle von immer größeren monolithischen Modellen hin zu kleineren, intelligenteren Systemen, die über ihr Gewicht hinausgehen. Von den Preiskampfmodellen von DeepSeek bis hin zu komprimierten Architekturen ist die Botschaft konsistent: Die Anzahl der Rohparameter ist weniger wichtig als die Effizienz, mit der ein Modell seine Kapazität nutzt.
Für Thinking Machines liegt die Wette auf Effizienz statt auf Größe nun bei zwei Modellen – und die ersten Benchmarks deuten darauf hin, dass die Strategie funktioniert. Da Inkling-Small heute zum Download und zur Feinabstimmung verfügbar ist, können Entwickler diesen Anspruch selbst testen.
Bleiben Sie der KI immer einen Schritt voraus
Jede Woche kommen neue Modelle mit offenem Gewicht auf den Markt, und die Konkurrenz wird immer intensiver. Bleiben Sie mit unserer KI-Branchenberichterstattung über jede Veröffentlichung auf dem Laufenden.
Weitere KI-Neuigkeiten lesen →