Schutz vor Deepfakes: OpenAI verschärft Regeln für Sora
Das KI-Modell verlangt ab sofort eine explizite Zustimmung für Personen-Nachbildungen. C2PA-Metadaten weisen die Herkunft nach.
OpenAI integriert weitreichende Sicherheitsfunktionen in sein Video-KI-Modell Sora. Im Fokus stehen dauerhafte digitale Wasserzeichen, strenge Kontrollen für die Erstellung von Personen sowie spezielle Schutzmaßnahmen für Jugendliche. Die neuen Regeln sollen Missbrauch gezielt eindämmen.
Digitale Herkunftsnachweise für Videos
Sora stattet alle generierten Clips künftig direkt bei der Erstellung mit sichtbaren und unsichtbaren Markierungen aus. Das sorgt für grundlegende Transparenz bei der Verbreitung von synthetischen Medien.
Das KI-Modell bettet zudem automatisch sogenannte C2PA-Metadaten in die Mediendateien ein. Diese kryptografischen Signaturen fungieren als anerkannter Standard in der Technologiebranche, um die Herkunft von Inhalten manipulationssicher nachzuweisen. Externe Plattformen lesen diese Daten künftig aus und blenden Nutzern entsprechende Warnhinweise ein.
Ergänzend dazu greift der Anbieter auf eigene Suchmechanismen für Bild und Ton zurück. Verdächtige Videos lassen sich dadurch mit hoher Präzision dem ursprünglichen Prompt und dem Verursacher zuordnen.
Anzeige
Kontrolle über das eigene Abbild
Ein wesentlicher Teil der neuen Sicherheitsarchitektur regelt den Umgang mit echten Personen. Das System führt eine strenge Zustimmungspflicht für digitale Abbilder ein. Nutzer steuern ihre eigenen Sora-Charaktere dabei komplett selbst.
Das KI-Modell generiert eine Nachbildung von Gesicht oder Stimme nur dann, wenn die betroffene Person dies im Vorfeld eindeutig autorisiert.
Parallel dazu greifen Sperrlisten für Personen des öffentlichen Lebens. Das System blockiert jeden Prompt, der bekannte Persönlichkeiten anfordert, solange diese nicht die offizielle Charakter-Funktion nutzen.
Ersteller überprüfen in ihrem Profil jederzeit, wer ihre Charaktere für neue Entwürfe verwendet. Sie widerrufen Zugriffsrechte mit wenigen Klicks. Ungewollte Clips lassen sich zudem sofort löschen.
Strengere Filter für junge Nutzer
Der Anbieter etabliert spezifische Filter, um Minderjährige vor ungeeigneten Inhalten zu bewahren. Das Modell blockiert die Ausgabe von reifen Videos für diese Zielgruppe konsequent.
Ein angepasster Feed liefert Teenagern ausschließlich altersgerechtes Material. Zusätzlich verhindern die Algorithmen, dass Erwachsene über die Nachrichtenfunktion Kontakt zu Jugendlichen aufnehmen.
Eltern erhalten durch verknüpfte Profile erweiterte Kontrollmöglichkeiten über das Nutzungsverhalten. Sie deaktivieren bei Bedarf den Nachrichtenempfang oder schalten die App auf einen nicht-personalisierten Feed um. Eine zusätzliche Zeitschaltuhr begrenzt das endlose Scrollen.
Diese Vorgaben ergänzen die allgemeinen Richtlinien zur Inhaltsmoderation. Sie gelten ab sofort für alle Nutzer des Modells.
Wir fragen uns daher, ist Sora jetzt tot?