Anthropic-Chef: „Unsere KI ist ein Rätsel!“

Dario Amodei gibt zu: Selbst Entwickler verstehen moderne KI nicht mehr ganz. Wird das „KI-MRT“ die Blackbox endlich öffnen?

Flux Schnell | All-AI.de

Dario Amodei, CEO von Anthropic, spricht offen aus, was viele in der KI-Branche nur hinter vorgehaltener Hand sagen: Selbst Entwickler wissen oft nicht, wie ihre eigenen Modelle genau funktionieren. In einem Essay schildert er die Herausforderungen der Interpretierbarkeit und kündigt ein ambitioniertes Projekt an – ein „KI-MRT“, das Licht ins Innere neuronaler Netze bringen soll. Doch was sagt das über den aktuellen Stand der KI? Und wie riskant ist ein System, das wir nicht wirklich durchschauen?

KI als fremde Lebensform?

Die Metapher, die Amodei wählt, hat es in sich: Das Training großer Sprachmodelle sei wie das Züchten einer Bakterienkolonie – man stellt Bedingungen bereit, aber das Ergebnis ist letztlich emergent, nicht planbar. Genau hier liegt das Problem. KI-Systeme entstehen aus Milliarden Parametern, doch warum ein Modell im Detail auf eine bestimmte Weise reagiert, bleibt selbst Experten häufig unklar. Die Technik produziert Resultate – doch der Weg dorthin bleibt oft verborgen.

Ein MRT für maschinelles Denken

Um das zu ändern, plant Anthropic ein Tool, das interne Prozesse von KI-Modellen sichtbar machen soll – eine Art „MRT“ für neuronale Netze. Ziel ist es, Entscheidungsstrukturen nicht nur nachzuvollziehen, sondern auch Risiken früh zu erkennen: Welche Denkmuster entstehen in Modellen? Wo liegen potenzielle Fehlfunktionen oder Sicherheitsrisiken? Für Amodei ist das mehr als Forschung – es ist ein Sicherheitsprojekt, vergleichbar mit der Kontrolle von Reaktoren oder kritischer Infrastruktur.

Red-Teaming als erste Diagnosemethode

Bereits heute testet Anthropic seine Modelle durch sogenannte Red-Teaming-Experimente. Dabei werden gezielt Schwachstellen ins Modell eingebaut, die von einem anderen Team aufgedeckt werden müssen. Die Ergebnisse zeigen: Es ist möglich, Muster zu erkennen und Risiken zu benennen – aber der Aufwand ist hoch, und die Methodik steht noch am Anfang. Von einer systematischen Interpretierbarkeit im großen Stil ist die Branche weit entfernt.

Technologie ohne Kontrolle – ein unhaltbarer Zustand

Amodeis zentrale Botschaft ist unmissverständlich: Es darf nicht sein, dass wir KI-Systeme nutzen, deren innere Logik wir nicht nachvollziehen können. In einer Welt, in der KI zunehmend wirtschaftliche, gesellschaftliche und sicherheitspolitische Entscheidungen beeinflusst, wäre das ein massives Risiko. Die Forschung müsse deshalb nicht nur auf Leistung, sondern auf Transparenz und Kontrolle fokussieren.