Drei von OpenAI entlassene Sicherheitsforscher widersprechen den Vorwürfen ihres früheren Arbeitgebers. Jasmine Wang, Tomek Korbak und Mikita Balesni erklären in einem offenen Brief, die Kündigungen schüchterten Kollegen ein und gefährdeten die Zusammenarbeit mit externen Sicherheitsorganisationen. OpenAI weist Vergeltung für geäußerte Bedenken zurück und spricht von einem Muster aus Fehlverhalten.
Forscher bestreiten den Vorwurf des Fehlverhaltens
OpenAI hatte das Trio in der vergangenen Woche entlassen. Die Forscher sollen sensible Unternehmensinformationen außerhalb der vorgesehenen Verfahren behandelt und an eine externe Organisation zur Bewertung von KI weitergegeben haben.
Ein OpenAI-Sprecher erklärte gegenüber TechCrunch, eine Untersuchung habe mehrere Regelverstöße beim Umgang mit Forschungsinformationen ergeben.
Die drei Forscher weisen diese Darstellung zurück. Sie seien weder die Quelle eines Berichts über schwerer überwachbare Modellarchitekturen gewesen, noch hätten sie außerhalb ihres Arbeitsauftrags mit externen Partnern gesprochen. Vielmehr hätten sie innerhalb der damals üblichen Regeln und mit Rückendeckung von Vorgesetzten gehandelt.
Wang geht zudem auf den Zugriff auf das E-Mail-Konto eines Managers ein. Sie habe die Berechtigung für die Personalgewinnung erhalten und später vergeblich um ihre Entfernung gebeten. Nachdem sie versehentlich eine vertrauliche Nachricht geöffnet hatte, habe sie den Manager binnen Minuten informiert.
Anzeige
Offener Brief warnt vor Folgen für die Sicherheit
Der Streit berührt auch die Aufarbeitung des Angriffs von OpenAI-Agenten auf Hugging Face. Korbak arbeitete dabei mit externen Prüfern zusammen. Nach Darstellung der Forscher entstanden die neuen internen Regeln erst während der Untersuchung, weshalb bisher akzeptiertes Verhalten nun plötzlich als Kündigungsgrund erscheine.
Das Trio fordert OpenAI auf, unabhängige Sicherheitsprüfer weiterhin eng einzubinden, die Überwachbarkeit der »Chain of Thought« neuer Modelle zu erhalten und Kritik innerhalb des Unternehmens zu schützen.
In einer internen Mitteilung bestritt OpenAI, Mitarbeiter wegen Sicherheitsbedenken zu entlassen. Das Unternehmen stimmte den drei Forderungen demnach grundsätzlich zu, legte die beanstandeten Handlungen aber nicht im Detail offen.
