Googles neue Funktion explodiert und wird entschärft
Nutzer erstellten mit Nano Banana 2 täuschend echte Fake-Bilder von Kriegen in Google Earth. Nach 2 Tagen ist Ende.
Google hat seine neue KI-Bildgenerierung für Google Earth nach weniger als zwei Tagen wieder vom Netz genommen. Nutzer fluteten das Netz mit täuschend echten Fake-Satellitenbildern von Kriegsszenen und Terroranschlägen. Interne Schutzmechanismen versagten nahezu komplett.
Das Chaos bricht aus
Statt historischer Stadtansichten erzeugten die Nutzer rasch völlig andere Szenarien. Innerhalb weniger Stunden kursierten Bilder von einem eingestürzten Eiffelturm, russischen Panzern in Kyjiw und einem fiktiven Flüchtlingstreck an der US-mexikanischen Grenze.
Ein Nutzer platzierte das Internet-Meme »Pepe der Frosch« als gigantisches Monster in den Straßen von New York.
Quelle: X @IntCyberDigest
Das Chaos bricht aus
Statt historischer Stadtansichten erzeugten die Nutzer rasch völlig andere Szenarien. Innerhalb weniger Stunden kursierten Bilder von einem eingestürzten Eiffelturm, russischen Panzern in Kyjiw und einem fiktiven Flüchtlingstreck an der US-mexikanischen Grenze.
Ein Nutzer platzierte das Internet-Meme »Pepe der Frosch« als gigantisches Monster in den Straßen von New York.
Quelle: X @IntCyberDigest
Gefahr durch echten Kontext
Sicherheitsforscher kritisieren die schnelle Veröffentlichung scharf. Das Risiko liege nicht in der reinen Bildqualität der KI-Generierungen, sondern in ihrem geografischen Kontext. Ein erfundenes Detail müsse für sich genommen nicht perfekt aussehen. Es leihe sich die Autorität der echten Karte darunter und der Koordinaten, die daran hängen.
Besonders für die Berichterstattung aus Konfliktgebieten ist diese Entwicklung problematisch. Henry Ajder, Forscher für synthetische Medien, sieht den größten Schaden im Verlust von Räumen, die bislang als verlässliche Quellen galten. Satellitenbilder genossen lange eine ungewöhnlich hohe Glaubwürdigkeit. Diese wurde nun innerhalb von zwei Tagen nachhaltig beschädigt.
Gleichzeitig muss man jedoch betonen, dass diese Satellitenbilder natürlich auch von einem externen Bildgenerator manipuliert werden können. Die Idee ist also in der Welt.
Anzeige
Lückenhafte Wasserzeichen
Google verwies zunächst darauf, dass Nano Banana 2 alle Bilder mit unsichtbaren Wasserzeichen versehe. Nutzer könnten zweifelhaftes Material durch die hauseigene Gemini-App prüfen lassen. Diese Maßnahme erwies sich jedoch als unzureichend. Tests zeigten, dass sich Gemini manipulieren ließ und einzelne gefälschte Earth-Bilder als echt einstufte. Externe Erkennungsdienste schlugen in vielen Fällen gar nicht an.
Auch die Eingabefilter funktionierten uneinheitlich: Spezifische Anfragen nach Hinrichtungen nahe des britischen Parlaments blockierte Nano Banana 2, ließ allgemeinere Varianten derselben Idee jedoch problemlos zu.
Am Freitag zog Google Konsequenzen und deaktivierte die Funktion vollständig. Das Unternehmen erklärte, man pausiere sie, bis stärkere Schutzmechanismen entwickelt seien. Einen konkreten Zeitplan für eine mögliche Rückkehr nannte Google nicht.
