Ein Qwen Bär

Alibaba zeigt Qwen 4 Architektur mit kostenlosem neuen Modell

Andreas Becker GPT-Images-2.0
Ein Qwen Bär

Alibaba veröffentlicht Qwen 3.8-Flash-Next als Open-Weights-Modell. Es übertrifft Konkurrenten wie Claude Opus 4.6 Max und gibt bereits jetzt einen konkreten Ausblick auf die technische Basis der kommenden Qwen-4-Generation.

Vorbote für Qwen 4

Das Qwen-Team nutzt Qwen 3.8-Flash-Next als Testlauf für die kommende Qwen-4-Generation. Dafür wurde die Architektur an mehreren Stellen angepasst, um weniger Speicher zu benötigen und schneller zu rechnen.

Eine Kombination aus Gated DeltaNet und Qwen Sparse Attention sorgt dafür, dass das Modell bei langen Eingaben nicht ständig den gesamten bisherigen Text durchsuchen muss. Stattdessen werden Informationen komprimiert und nur relevante Abschnitte stärker berücksichtigt.

Auch der Informationsfluss zwischen den einzelnen Schichten wurde überarbeitet. Sogenannte Gated Residuals steuern gezielter, welche Informationen weitergegeben oder überschrieben werden.

Zusätzlich lagert das Modell häufige Wortmuster per N-Gram-Embeddings in den normalen Arbeitsspeicher aus. Dadurch wird teurer Grafikspeicher gespart, ohne die Rechenlast stark zu erhöhen. Ein angepasster Muon-Optimierer soll zudem ein schnelleres Training ermöglichen.

Quelle: Alibaba

Wenig Parameter, hohe Leistung

Unter der Haube arbeitet das Modell als Mixture-of-Experts (MoE). Von den insgesamt 125 Milliarden Parametern werden bei jeder Anfrage nur sechs Milliarden aktiviert. Dazu kommen die 51 Milliarden Parameter der ausgelagerten N-Gram-Embeddings.

Durch diesen Aufbau sinken die Trainingskosten im Vergleich zum Vorgänger Qwen 3.7-Plus laut Alibaba auf rund ein Neuntel. Auch im Betrieb zeigt sich Qwen 3.8-Flash-Next sparsam. Auf der hauseigenen QwenCloud soll die finale Produktionsversion für 0,16 US-Dollar pro einer Million Eingabe-Token angeboten werden.

Anzeige

Stärken bei Code und Agenten

Die geringe Zahl aktiver Parameter geht nicht zulasten der Leistung: In Tests schlägt Qwen 3.8-Flash-Next das Modell Claude Opus 4.6 Max in acht von neun vergleichbaren Kategorien. Besondere Stärken zeigt Qwen 3.8-Flash-Next beim Programmieren und bei der Übernahme von mehrstufigen Büroaufgaben.

Im Benchmark SWE-bench Pro, der die Fähigkeiten autonomer KI-Agenten bei der Softwareentwicklung misst, erreicht es 62,5 Punkte. Bei mathematischen Aufgaben mit visuellen Eingaben (MathVision) kommt es auf 95,7 Punkte. Damit eignet sich das Modell vor allem für Arbeitsabläufe, bei denen KI-Agenten selbstständig externe Programme bedienen, Dokumente analysieren oder Code schreiben.

Quelle: Alibaba

Verfügbarkeit für Entwickler

Standardmäßig verarbeitet Qwen 3.8-Flash-Next 262.144 Token gleichzeitig. Mit der YaRN-Methode lässt sich dieses Kontextfenster auf eine Million Token strecken. Interessierte können die Gewichte des Modells über Plattformen wie Hugging Face und ModelScope herunterladen.

Eine API-Anbindung für die QwenCloud befindet sich in Vorbereitung. Sobald die Schnittstelle aktiv ist, lässt sich Qwen 3.8-Flash-Next über Standardprotokolle direkt in Programmierhilfen wie Claude Code, Codex oder OpenClaw integrieren.

Anzeige

Von Menschen für Menschen

Jeder Artikel entsteht durch menschliche Ideen und sorgfältige Prüfung. KI unterstützt uns vor allem bei Recherche und Feinschliff. Wir freuen uns über jede Unterstützung.

Jeder Beitrag zählt – auch das Teilen.