OpenAI stellt die Decisions API allgemein bereit und zielt damit auf kleine, häufige Entscheidungen in Apps und KI-Agenten. Die mit GPT-6 Luna betriebene API verarbeitet Text, Bilder und strukturierte Daten bis zu zehnmal schneller als Luna über die Responses API.
Drei Antworttypen statt langer Texte
Entwickler geben eine Frage, erlaubte Antworten und den nötigen Kontext vor. Die Decisions API liefert daraufhin keine frei formulierte Antwort, sondern eine Wahrscheinlichkeit, eine Auswahl aus festen Optionen oder eine Bewertung anhand abgestufter Kriterien. Apps können damit Inhalte klassifizieren, Anfragen weiterleiten oder den nächsten Schritt eines KI-Agenten bestimmen.
Oder noch einfacher ausgedrückt, du stellst eine Frage und das Modell antwortet dir unglaublich schnell mit Antwort A, B oder C.
Eine Anfrage darf bis zu 400 Fragen enthalten, doppelt so viele wie während der öffentlichen Beta. Neu sind außerdem native JSON-Eingaben, Bilder in den Anweisungen einzelner Fragen und Prompt Caching für wiederkehrenden Kontext. Als Eingaben akzeptiert die API Text und Bilder, als Modell steht derzeit ausschließlich GPT-6 Luna bereit.
Anzeige
Die direkte Anbindung an GPT-Live bringt diese Entscheidungen auch in Sprach-Apps. Ein Kundenservice kann während eines Gesprächs auswählen, ob er nachfragen, eine Anfrage weiterleiten oder einen Mitarbeiter einschalten muss. Avatare können ihre Reaktion ebenfalls anhand des laufenden Gesprächs anpassen.
OpenAI verlangt 0,10 Dollar pro Million nicht zwischengespeicherter Input-Tokens. Für Inhalte aus dem Prompt Cache fallen 0,01 Dollar pro Million Tokens an, Output-Tokens werden nicht berechnet. Regionale Verarbeitung ist in den USA und Europa verfügbar. Auch Zero Data Retention steht berechtigten Kunden zur Verfügung.
Erste Nutzer melden deutliche Geschwindigkeitsgewinne. »Box« erreichte bei der Weiterleitung von 30 Versicherungsnachweisen eine fünfmal schnellere Auswahl bei gleicher Genauigkeit. »Sierra «nennt weniger als 280 Millisekunden sowie 90 Prozent geringere Kosten pro Aufruf als beim zuvor eingesetzten Ansatz.
