Wenn ein Anbieter für ein Sprachmodell überlastet ist, kann Hugging Face die Anfrage jetzt automatisch bei einem anderen Anbieter wiederholen. Dafür setzt die Plattform bei ihrem Dienst Inference Providers seit dem 16. November auf OpenRouter. Der Dienst gibt Entwicklern über eine gemeinsame API Zugang zu KI-Modellen, die auf den Servern verschiedener Anbieter laufen.
Anzeige
Dasselbe Modell, ein anderer Anbieter
OpenRouter übernimmt die Auswahl, wenn mehrere Anbieter dasselbe Modell bereitstellen. In die Entscheidung fließen der Preis, die Geschwindigkeit und die aktuell gemessene Zuverlässigkeit ein. Meldet der erste Anbieter einen Fehler, kann ein anderer die Anfrage noch im selben Aufruf übernehmen.
Entwickler können die Auswahl über einen Zusatz am Modellnamen steuern. »:cheapest« gibt dem niedrigsten Preis Vorrang, »:fastest« dem höchsten Durchsatz, also den meisten ausgegebenen Tokens pro Sekunde. Wer sich auf einen bestimmten Anbieter festlegt, verzichtet damit auf den automatischen Wechsel.
Zum Start nennt OpenRouter 160 Modelle von 38 Entwicklern, darunter DeepSeek V4.1 Flash und OpenAIs gpt-oss-120b. Auf den Modellseiten zeigen die neuen Reiter »Providers« und »Metrics« unter anderem Preise, Antwortzeiten und Verfügbarkeit. In den Einstellungen lassen sich einzelne Anbieter auch ausschließen.
Eigene Anbieterschlüssel fallen für Sprachmodelle weg
Für den Aufruf der Sprachmodelle verwenden Entwickler ihren Hugging-Face-Token. Hugging Face rechnet die Nutzung zum Tarif des ausgewählten Anbieters ohne Aufschlag ab. Wer bisher über Inference Providers mit dem API-Schlüssel eines Anbieters auf ein Sprachmodell zugegriffen hat, muss dafür auf den Hugging-Face-Token umsteigen.
Für die Chat-Modelle unterstützt der Dienst die APIs Chat Completions und Responses von OpenAI sowie die Messages API von Anthropic. Auf den Modellseiten stellt Hugging Face auch Anleitungen für Claude Code, Codex und OpenCode bereit.
