Safeworld soll verhindern, dass KI-Roboter Menschen verletzen

Safeworld will Roboter auf gefährliche Begegnungen mit Menschen vorbereiten, bevor sie in Fabriken, Lagern oder auf Baustellen zum Einsatz kommen. Das US-Startup verlässt den Stealth-Modus mit 12,2 Millionen Dollar Startkapital und einer Simulationsplattform für Sicherheitstests.

Tausende Unfälle, ohne jemanden zu gefährden

Robotersteuerungen mit generativer KI reagieren nicht so vorhersehbar wie klassische Programme. Safeworld bildet deshalb den geplanten Einsatzort digital nach, integriert den Roboter samt echter Steuerungssoftware und lässt ihn tausende Varianten einer Situation durchlaufen.

Ein Beispiel ist eine schlecht einsehbare Ecke in einer Fabrik. Die Simulation prüft, ob der Roboter einen Arbeiter erkennt, der Kartons trägt, wie schnell er stoppen muss und was passiert, wenn der Mensch stolpert oder fällt. Auch Körperhaltung, Größe, Kleidung und Bewegungsrichtung lassen sich verändern. Gefährliche Sonderfälle werden so reproduzierbar, ohne dass Testpersonen sie immer wieder nachstellen müssen.

Safeworld will unabhängiger Prüfer werden

Gegründet wurde Safeworld von Ding Zhao, Leiter des Safe AI Lab an der Carnegie Mellon University, dem Startup-Manager Kyle Wong und dem Machine-Learning-Ingenieur Simo Rachidi. Shine Capital und a16z Speedrun führen die Finanzierungsrunde an. Zu den weiteren Geldgebern gehören Box Group, der Stiftungsfonds der Carnegie Mellon University, Innovation Endeavors und SV Angel.

Das Unternehmen arbeitet bereits in Pilotprojekten mit großen Autoherstellern, Anbietern für Lagerautomatisierung und Medizintechnikfirmen. Zu den Partnern zählt außerdem Gritt Robotics. Dessen Roboter helfen Arbeitern bei der Montage von Solarmodulen und sollen später komplexere Aufgaben auf Baustellen übernehmen.

Viele Roboterhersteller entwickeln eigene Simulationen. Safeworld setzt darauf, dass Kunden zusätzlich einen unabhängigen Prüfer benötigen, der Tests dokumentiert und Sicherheitsfälle vergleichbar macht. Noch ist nicht entschieden, ob Kunden die Plattform selbst bedienen oder Safeworld die Prüfungen als Dienstleistung übernimmt.