GPT-4-Nachfolger enttäuschen: Stagnation in der KI-Forschung
Warum OpenAI, Anthropic und Google ihre hochgesteckten Erwartungen bei neuen KI-Modellen nicht erfüllen können.
Flux Schnell | All-AI.de
Worum geht es?
Die Erwartungen an die nächste Generation Künstlicher Intelligenz (KI) waren hoch. Doch Berichten zufolge stoßen die neuen Modelle von OpenAI, Anthropic und Google an ihre Grenzen. Das zeigt sich vor allem daran, dass sie die Leistungsstufe von GPT-4 und anderen Top-Modellen kaum übertreffen.
News
GPT-4-Nachfolger: Wo bleibt der Fortschritt?
Laut einem Bericht von The Information erfüllt das als GPT-4-Nachfolger gehandelte Modell „Orion“ nicht die Erwartungen. Während es bei Sprachaufgaben Fortschritte zeigt, bleiben Leistungen in Logik-basierten Aufgaben wie Programmierung hinter den Vorgängern zurück.
Anthropic steht vor ähnlichen Herausforderungen: Die Veröffentlichung von „Claude 3.5 Opus“ wurde verschoben. Stattdessen fokussiert sich das Unternehmen auf Mittelklassemodelle wie „Sonnet“ und „Haiku“. Auch Google kämpft mit enttäuschenden Resultaten bei den nächsten Modellen seiner Gemini-Reihe, wie ein Bloomberg-Bericht zeigt.
Die Ära, in der größere Datenmengen und stärkere Hardware automatisch bessere Modelle erzeugen, scheint zu Ende zu gehen.
Das Ende der „Scaling Laws“
Die bisherige Strategie, KI-Modelle durch immer mehr Trainingsdaten und stärkere Hardware zu verbessern, stößt an Grenzen. Diese als „Scaling Laws“ bekannte Vorgehensweise dominierte die KI-Entwicklung in den letzten zehn Jahren.
Ilya Sutskever, Mitgründer von OpenAI, beschreibt diesen Wandel treffend: „Die 2010er Jahre waren das Zeitalter des Skalierens. Jetzt sind wir zurück im Zeitalter des Staunens und Entdeckens.“ Statt immer größerer Modelle müssten Forscher neue Ansätze finden, um Fortschritte zu erzielen.
Neue Prioritäten: Fokus auf Inferenz
Ein Bereich, der an Bedeutung gewinnt, ist die Optimierung der Inferenzphase – der Prozess, in dem KI-Modelle auf Anfragen antworten. OpenAIs Modell „o1“ zeigt, wie diese Verschiebung aussehen könnte. Es nutzt mehr Ressourcen für komplexere Berechnungen in der Antwortphase und kann so mehrere Lösungswege gleichzeitig evaluieren.
Dieser Paradigmenwechsel hat auch Auswirkungen auf die Hardware-Branche. Nvidia, Marktführer bei KI-Trainingschips, könnte durch die steigende Bedeutung der Inferenzphase unter Druck geraten. Dezentrale, Cloud-basierte Server könnten zukünftig dominieren, was es Wettbewerbern erleichtert, sich zu etablieren.
Langsamer Fortschritt, aber komplexere Anwendungen
Während Fortschritte bei den Modellen ins Stocken geraten, verlagert sich der Fokus auf Agenten-Systeme. Diese Systeme sind in der Lage, komplexe Aufgaben eigenständig auszuführen.
Anthropic stellte kürzlich eine KI vor, die selbstständig Computer steuern kann. OpenAI plant im Januar 2025 die Veröffentlichung eines Agenten-Systems namens „Operator“, das Programmieraufgaben lösen und Reisen buchen soll.
Solche Systeme könnten die nächste Evolutionsstufe generativer KI darstellen. Sie bieten nicht nur Antworten, sondern erledigen mehrstufige Aufgaben autonom – ein entscheidender Schritt in Richtung praktischer Einsatzmöglichkeiten.
Was die Nutzer wirklich erleben
Für den Alltag der Nutzer sind Fortschritte bei der Modellentwicklung nicht direkt spürbar. Stattdessen hängt die Nutzererfahrung stark davon ab, wie die KI in Programme und Prozesse integriert wird. Agenten-Systeme wie „Operator“ oder Anthropics Computersteuerung könnten die Interaktion mit KI revolutionieren, auch wenn die zugrunde liegenden Modelle stagnieren.
Konkurrenz der Philosophien
Innerhalb der Branche gibt es unterschiedliche Ansätze, wie die Entwicklung weitergehen soll. Metas KI-Chef Yann LeCun etwa sieht die Limitierungen von Großmodellen wie GPT-4 vorhergesagt und hält diesen Ansatz für zu begrenzt, um künstliche Superintelligenz (AGI) zu erreichen.
OpenAI hingegen bleibt optimistisch. CEO Sam Altman betonte, dass trotz der Herausforderungen keine „Mauer“ existiere, die den Fortschritt aufhalte. OpenAI arbeitet weiter an der Vision von AGI und plant Infrastrukturprojekte, die hunderte Milliarden Dollar kosten könnten.
Ausblick: Aufbruch zu neuen Ansätzen
Die aktuelle Stagnation in der Modellentwicklung zeigt, dass die Ära der rein skalierungsgetriebenen Fortschritte vorbei ist. Stattdessen suchen Unternehmen nach neuen Wegen, die Potenziale von KI auszuschöpfen – sei es durch optimierte Inferenz, komplexe Agenten-Systeme oder völlig neue Paradigmen.
Für Nutzer bleibt abzuwarten, welche dieser Ansätze den Alltag tatsächlich verändern werden. Doch eines ist sicher: Die nächste Phase der KI wird weniger von reiner Rechenleistung, sondern mehr von kreativen Ideen und innovativen Technologien geprägt sein.
Short
- Neue KI-Modelle von OpenAI, Anthropic und Google stoßen an ihre Grenzen und übertreffen GPT-4 kaum.
- Die bisher dominante Strategie des Skalierens („Scaling Laws“) verliert an Effektivität und erfordert neue Ansätze.
- Unternehmen wie OpenAI setzen auf optimierte Inferenzprozesse und autonome Agenten-Systeme, um Fortschritte zu erzielen.
- Agenten wie OpenAIs „Operator“ könnten die Nutzererfahrung revolutionieren, auch wenn Modellentwicklung stagniert.
- Die nächste Phase der KI wird von kreativen Ideen und neuen Technologien statt reiner Rechenleistung geprägt sein.