OpenAI sucht Krisenchef: Warum Sam Altman vor KI-Katastrophen warnt

OpenAI besetzt die Schlüsselposition des Head of Preparedness neu, um potenzielle Katastrophenrisiken durch fortschrittliche Künstliche Intelligenz frühzeitig zu erkennen. Die Besetzung ist entscheidend für die Sicherheit künftiger Modelle und die gesellschaftliche Akzeptanz zunehmend autonom agierender Systeme.

Sechsstelliges Gehalt für Krisenmanagement

Das Unternehmen bietet für die Leitung der Abteilung für Krisenvorsorge ein jährliches Grundgehalt von rund 555.000 US-Dollar an. CEO Sam Altman bezeichnete die Aufgabe öffentlich als extrem stressig und fordernd. Die verantwortliche Person übernimmt die Überwachung katastrophaler Gefahren, die direkt von KI-Modellen ausgehen könnten. Hierzu gehören spezifisch chemische, biologische, radiologische sowie nukleare Bedrohungen. Zudem steht die Abwehr von automatisierten Cyberangriffen im Fokus der Abteilung.

Die Neubesetzung erfolgt nach personellen Umstrukturierungen im Sicherheitsbereich des Unternehmens. Zuvor leitete Aleksander Madry diesen Bereich, bevor er eine andere strategische Rolle innerhalb der Organisation übernahm. Die Suche nach einer kompetenten Nachfolge unterstreicht den hohen Druck, unter dem OpenAI bei der Entwicklung der nächsten Modellgenerationen steht. Investoren und Regulierungsbehörden fordern gleichermaßen belastbare Sicherheitskonzepte für die rasant wachsende Technologie.

Risikobewertung autonomer Systeme

Ein wesentlicher Schwerpunkt der Arbeit liegt auf der Analyse von Sicherheitslücken bei autonomen KI-Agenten. Diese Software-Werkzeuge handeln zunehmend selbstständig und führen komplexe Aufgabenketten ohne menschliches Eingreifen aus. OpenAI warnte zuletzt intern vor unvermeidbaren Schwachstellen, die bei der Interaktion solcher Agenten entstehen können. Die neue Führungskraft muss Verfahren entwickeln, um unvorhersehbare Kettenreaktionen oder eine unkontrollierte Ausbreitung der Systeme zu verhindern.

Das Team nutzt hierfür sogenanntes Red Teaming, bei dem Experten gezielt versuchen, die Sicherheitsbarrieren der KI zu durchbrechen. Auf diese Weise sollen Schwachpunkte identifiziert werden, bevor ein Modell für die breite Öffentlichkeit freigegeben wird. Die Ergebnisse dieser Tests fließen direkt in die Entscheidungsprozesse des Vorstands ein.