OpenAI startet Verifizierung für KI-Bilder
Ein neues Prüfprogramm nutzt C2PA und Google SynthID zur Erkennung von KI-Inhalten.
OpenAI führt eine neue Anwendung zur Überprüfung von KI-generierten Bildern ein und integriert gleichzeitig das Wasserzeichen SynthID von Google DeepMind. Damit lassen sich visuelle Inhalte aus ChatGPT künftig deutlich zuverlässiger als künstlich erzeugt identifizieren.
Zweigleisige Strategie für mehr Transparenz
Bisher setzten Entwickler zur Kennzeichnung von KI-Inhalten primär auf Metadaten. Diese Informationen gehen jedoch häufig durch einfache Formatänderungen oder Screenshots verloren. Um dieses Problem zu lösen, kombiniert OpenAI nun zwei verschiedene Ansätze miteinander.
Den Grundstein bildet der etablierte C2PA-Standard für kryptografische Metadaten. Das Unternehmen ist nun offiziell als konformer Generator zertifiziert. Dadurch können Plattformen die Herkunftsinformationen der KI-Modelle durchgehend auslesen und sicher bewahren.
Zusätzlich kommt eine unsichtbare Markierung tief in den Bilddaten zum Einsatz. Die Technologie SynthID von Google DeepMind ergänzt die anfälligen Metadaten um eine äußerst widerstandsfähige Ebene. Selbst nach starken Bearbeitungen der Bilder bleibt dieses Signal intakt.
Quelle: OpenAI
Öffentliche Prüfung leicht gemacht
Die besten Sicherheitsmaßnahmen nützen wenig, wenn Nutzer sie nicht auslesen können. Aus diesem Grund startet nun eine frühe Version einer öffentlichen Web-Anwendung. Dort lassen sich Bilder hochladen und auf versteckte Herkunftssignale untersuchen.
Der Dienst prüft spezifisch auf C2PA-Daten und das SynthID-Wasserzeichen. Schlägt der Test an, stammt das Bild mit hoher Sicherheit von einem KI-Modell des Unternehmens. Fehlen die Signale, trifft die Anwendung jedoch bewusst keine endgültige Aussage.
Künftig soll die Anwendung noch deutlich ausgebaut werden. Geplant ist eine branchenübergreifende Zusammenarbeit, um langfristig auch Inhalte anderer Entwickler zuverlässig zu erkennen.
