OpenAI hat am 9. November den Control Room vorgestellt, eine zentrale Schaltstelle für interne KI-Experimente. Gibt ein Forscher oder die automatische Überwachung den Stoppbefehl, soll der betroffene Forschungsauftrag spätestens 35 Sekunden später keine neuen Modellausgaben mehr erhalten. OpenAI setzt den Control Room bereits in seiner Forschungsinfrastruktur ein.
Anzeige
Ein Stoppbefehl gilt für einen einzelnen Auftrag
Beim Start bekommt jeder Forschungsauftrag eine Kennung. Mit ihr fragt der Auftrag über eine spezielle Software neue Modellausgaben an. Die Software prüft die Freigabe beim Control Room und weist Anfragen für gesperrte Aufträge ab.
So kann ein einzelner Auftrag den Zugang zum Modell verlieren, während andere Versuche mit demselben Modell weiterlaufen.
Wenn OpenAI seine fortschrittlichsten Modelle mit Belohnungen trainiert, überwacht ein zweites KI-Modell ihr Verhalten und meldet Auffälligkeiten. Je nach Schwere des Vorfalls kann die automatische Überwachung den Stopp direkt auslösen.
Quelle: OpenAI
Warum der Stopp bis zu 35 Sekunden dauert
OpenAI speichert Freigaben kurz zwischen, um die vielen Anfragen zu bewältigen. Deshalb kann es nach Eingang des Stoppbefehls bis zu 35 Sekunden dauern, bis ein gesperrter Auftrag keine Modellausgaben mehr erhält.
Fällt der Control Room selbst aus, verweigert die Software bei den fortschrittlichsten Forschungsmodellen die Ausgabe bis zur Wiederherstellung des Dienstes. OpenAI will diese Ausfallsicherung in den nächsten Tagen auf die übrigen Forschungsaufträge ausweiten.
