Angst vor KI: 153 Millionen Twitter Aufrufe nach 24 Stunden

Ungebremstes Tempo und Warnungen

Coxon forschte in den vergangenen drei Jahren im Bereich Pretraining für OpenAI und Anthropic. In seinem viralen Beitrag auf X wirft er beiden Unternehmen Verantwortungslosigkeit vor. Sie würden ungebremst auf eine sich selbst verbessernde Superintelligenz zusteuern und mit dem menschlichen Leben spielen.

Diese Sorgen teilen auch aktuelle Mitarbeiter der Konkurrenz. Julie Steele aus dem Sicherheitsteam von OpenAI äußerte sich nach dem Vorfall öffentlich und forderte ebenfalls eine deutliche Verlangsamung der Entwicklung. Die Stimmen besorgter Forscher häufen sich spürbar und legen interne Ängste vor einem Kontrollverlust offen.

Ein Maulkorb für Deepmind Forscher

Dass solche Bedenken in der Industrie lange systematisch unterdrückt wurden, bestätigt der ehemalige Pressesprecher von Google Deepmind, Vishal Maini. Er arbeitete zwischen 2018 und 2022 für das Kommunikations- und Politikteam des Unternehmens. Über eine mögliche Auslöschung der Menschheit durch KI durfte damals niemand bei Deepmind sprechen.

Forscher erhielten stattdessen ein spezielles Medientraining, um derartige Risiken als reinen Alarmismus abzutun. In der Öffentlichkeit sollten sie betonen, die Modelle würden »von Haus aus sicher sein« und Gespräche gezielt auf Anwendungen in den Bereichen Gesundheit oder Klima lenken.

Intern war den Entwicklern jedoch längst bewusst, dass das Alignment-Problem völlig ungelöst blieb. Die sichere Ausrichtung von Modellen auf menschliche Werte scheiterte regelmäßig am sogenannten Reward Hacking. Zudem arbeiteten laut Maini viel zu wenige Leute an einer Lösung.