Thinking Machines veröffentlicht Inkling-Small
Das kleine Modell ist ähnlich leistungsstark wie das große Modell, braucht aber nur ein Viertel der Modellgröße.
Das KI-Unternehmen Thinking Machines hat am Donnerstag das Modell Inkling-Small veröffentlicht. Die offene Version schrumpft den Speicherbedarf im Vergleich zum großen Original auf ein Viertel, erzielt dank neuer Trainingsmethoden bei vielen Aufgaben aber trotzdem bessere Ergebnisse. Die Gewichte stehen Entwicklern ab sofort zur freien Verfügung auf HuggingFace.
Fokus auf Effizienz
»Effizienz ist der Punkt«, betonte das Unternehmen zur Veröffentlichung. Hinter Inkling-Small steckt eine sogenannte Mixture-of-Experts-Architektur mit insgesamt 276 Milliarden Parametern. Bei einer konkreten Anfrage aktiviert das Modell jedoch nur zwölf Milliarden davon. Zum Vergleich: Das deutlich größere Vorgängermodell Inkling greift auf 41 Milliarden aktive Parameter bei knapp einer Billion Gesamtparametern zurück. Die kompakte Variante liefert dadurch spürbar mehr Leistung pro Rechenoperation und generiert Antworten wesentlich schneller.
Da für den lokalen Betrieb dennoch alle 276 Milliarden Parameter in den Arbeitsspeicher geladen werden müssen, richtet sich das Modell vornehmlich an professionelle Anwender mit entsprechenden Serverkapazitäten und weniger an Heimanwender. Über die Plattform Hugging Face lässt sich das Modell im GGUF-Format herunterladen. Alternativ bietet Thinking Machines den Zugriff über die eigene Entwicklerplattform Tinker an.
Anzeige
Skalierbarer Rechenaufwand
Eine Besonderheit von Inkling-Small ist der variable Rechenaufwand. Nutzer können selbst festlegen, wie viel Zeit und Energie das Modell für das Durchdenken einer Antwort aufwenden soll. Diese Skalierbarkeit schlägt sich direkt in den Leistungstests nieder. Im komplexen Logik-Benchmark »Humanity’s Last Exam« erzielt Inkling-Small 31,6 Prozent und lässt damit das große Inkling mit 29,7 Prozent hinter sich.
Quelle: Thinking Machine
Bei Programmieraufgaben im SWEBench-Verified-Test übertrifft das Modell sogar die Marke von 80 Prozent. Damit tritt die quelloffene Variante laut den Entwicklern in direkte Konkurrenz zu Modellen wie DeepSeek V4 Flash oder Googles Gemini 3.5 Flash-Lite.
Quelle: Thinking Machine
Multimodale Architektur
Inkling-Small verarbeitet Text, Bilder und Audioinhalte gemeinsam und verzichtet dabei vollständig auf vorgeschaltete, separate Encoder. Audiosignale liest das Modell direkt als Spektrogramme ein, um auch feine Nuancen der gesprochenen Sprache erfassen zu können. Für visuelle Analysen greift die KI auf integrierte Python-Skripte zurück. Damit kann sie Bildausschnitte selbstständig vergrößern und gezielt untersuchen. Das erweist sich besonders bei der Auswertung von detaillierten Diagrammen oder Dokumenten mit sehr kleiner Schrift als nützlich.
Dass die deutlich kompaktere Version den Vorgänger bei vielen Aufgaben schlägt, erklären die Entwickler mit dem späteren Trainingszeitpunkt. Das Team nutzte eine verfeinerte Mischung der Trainingsdaten und destillierte das Wissen des großen Modells direkt in die neue Version. Zusätzlich durchlief Inkling-Small ein zweiwöchiges Sondertraining speziell für das Programmieren und den Umgang mit externen Hilfsprogrammen.
Lediglich beim reinen, breiten Faktenwissen hat das große Modell noch einen messbaren Vorsprung.
