Google macht den SynthID Detector weltweit für alle Nutzer zugänglich. Über das englischsprachige Prüfportal lässt sich ermitteln, ob Bilder, Audiodateien oder Videos mit KI-Angeboten von Google, OpenAI, Nvidia oder Kakao erstellt und bearbeitet wurden. Apple soll bald hinzukommen.
Ein Wasserzeichen statt Bilderkennung
SynthID ist kein allgemeiner KI-Detektor, der Medien anhand typischer Merkmale bewertet. Die Technik bettet bereits beim Erstellen ein für Menschen nicht wahrnehmbares Wasserzeichen in die Datei ein. Der neue Detektor sucht beim Hochladen nach diesem Signal und kann damit Inhalte verschiedener teilnehmender Anbieter prüfen.
Google führte SynthID 2023 ein und hat damit inzwischen mehr als 180 Milliarden Bilder und Videos sowie Audiomaterial mit einer Gesamtlänge von 240.000 Jahren markiert. OpenAI nutzt die Technik für unterstützte Bilder und Audiodateien aus ChatGPT, Codex und seiner API. Nvidia setzt sie unter anderem bei Videos aus seinen Cosmos-Modellen ein.
Quelle: Google
Ein negatives Ergebnis ist keine Entwarnung
Meldet das Portal ein gefundenes Wasserzeichen, wurde die Datei wahrscheinlich mit einem unterstützten KI-Modell erzeugt oder bearbeitet. Meldet es keinen Fund, fehlt lediglich ein ausreichend starkes SynthID-Signal. Inhalte anderer Anbieter, ältere Dateien aus der Zeit vor der Einführung oder stark veränderte Medien können deshalb unerkannt bleiben.
Das Wasserzeichen übersteht übliche Eingriffe wie Zuschnitte, Farbänderungen, Filter und verlustbehaftete Komprimierung. Viele aufeinanderfolgende Veränderungen können das Signal jedoch schwächen. Google empfiehlt deshalb, möglichst hochwertige Ausgangsdateien hochzuladen. In seltenen Fällen kann der Detektor außerdem bei nicht markierten Inhalten anschlagen.
Der wesentliche Fortschritt liegt im gemeinsamen Zugang. Zuvor konnten Nutzer SynthID etwa in Gemini prüfen, während OpenAI ein eigenes Prüfangebot bereitstellte. Das neue Portal bündelt mehrere Anbieter an einer Stelle.
