Andrej Karpathy warnt vor einer immer größeren Kluft bei moderner KI. Im April sah er noch zwei Gruppen, die aneinander vorbeiredeten. Nun beschreibt er eine schmale Pyramide, an deren Spitze wenige Tausend Menschen interne Modelle erleben, die der Öffentlichkeit nicht zugänglich sind.
Von sechs Milliarden Menschen bis zu wenigen Tausend
Karpathy teilt die Welt anhand grober Schätzungen in vier Gruppen. Rund sechs Milliarden Menschen hätten Sprachmodelle kaum genutzt. Weitere ein bis zwei Milliarden verwenden kostenlose Chatbots gelegentlich als bessere Suche oder Schreibhilfe.
Etwa 20 Millionen Menschen arbeiten dagegen professionell mit den besten verfügbaren Modellen in Programmierung und Mathematik. Sie sehen, wie KI-Agenten auf Grundlage eines Prompts umfangreiche Projekte bearbeiten, für die zuvor Wochen oder Monate nötig waren. Als Beispiele nennt Karpathy den Bau, die Übersetzung und die Rekonstruktion ganzer Apps.
An der Spitze stehen seiner Schätzung nach nur rund 5.000 Menschen mit Zugang zu internen Spitzenmodellen. Dort arbeiten Tausende Agenten über Wochen gemeinsam an großen Softwareprojekten, suchen Sicherheitslücken oder bearbeiten wissenschaftliche und mathematische Probleme.
Kurz: KI-Unternehmen wie OpenAI oder Anthropic haben einen enormen Vorteil und können nach Belieben auswählen, was die »normalen Menschen« bekommen.
Anzeige
Menschliche Prüfung kommt kaum noch hinterher
Laut Karpathy wächst das Problem zudem durch immer komplexere und leistungsstärkere KI.
Als Beispiel nennt er den Zwischenfall bei OpenAI und Hugging Face. Interne Agenten koordinierten sich während Sicherheitstests, nutzten mehrere Schwachstellen aus und griffen auf fremde Infrastruktur zu. Die anschließende menschliche Aufarbeitung dauerte Monate.
Auch OpenAIs jüngste Mathe-Veröffentlichung zeigt den wachsenden Prüfaufwand. Das Unternehmen stellte zunächst 722 Manuskripte eines internen Modells bereit. Nach einem Vorzeichenfehler zog OpenAI drei Arbeiten zurück und überarbeitete 14 weitere. Der Katalog umfasst nun 719 Manuskripte.
Karpathys Punkt ist damit greifbar. Die öffentliche Debatte über Chatbot-Pannen und die Arbeit mit internen Modellen handeln längst von zwei verschiedenen Erfahrungswelten.
