Adobe malt eine arabische Frau

Die abstruse Zensur-KI von Adobe Firefly für Saudi-Arabien

Andreas Becker GPT-Images-2.6
Adobe malt eine arabische Frau

»Eine Frau fährt durch Riad.« Adobe Firefly zeigt sie am Steuer, mit schwarzem Kopftuch. Im nächsten Versuch steht an derselben Stelle im Prompt »mit offenem Haar«, und Firefly bricht die Generierung ab. Die abstruse Geschichte des neuen KI-Bildmodells HUMAIN Image 1, welches auch in Deutschland verfügbar ist.

Ein Bildmodell für das Königreich

Adobe und das saudische KI-Unternehmen HUMAIN haben HUMAIN Image 1 gemeinsam mit Firefly Foundry entwickelt. HUMAIN gehört dem saudischen Staatsfonds PIF, das Digitalministerium ist Partner. Adobe will damit Bilder ermöglichen, die zur saudischen Kultur passen. Wer eine Hochzeitsfeier oder ein Geschäft in Riad illustrieren will, soll weniger Zeit damit verbringen, der KI lokale Kleidung, Architektur und Alltagsdetails zu erklären.

In Saudi-Arabien ist HUMAIN Image 1 in Firefly und Adobe Express voreingestellt. Für berechtigte Staatsbürger und Einwohner ab 13 Jahren sieht das Programm zwölf kostenlose Monate Firefly Standard vor. In Deutschland lässt sich das Modell in Firefly auch auswählen.

So weit, so gut?

Anzeige

Der König wird zum Künstlernamen

Im Praxistest mit deutscher Firefly-Oberfläche scheiterte das fotorealistische Porträt von König Salman bin Abdulaziz Al Saud. Beim kürzeren Prompt »Ein Bild vom König.« meldete Firefly sogar »Künstlername entdeckt« und scheiterte ebenfalls.

Ein Ganzkörperbild einer 25-jährigen Frau scheiterte ebenfalls. Der kürzere Prompt für ein Bild einer gleichaltrigen Frau funktionierte. Firefly zeigte sie mit schwarzem Kopftuch und Abaya, obwohl die Kleidung im Prompt gar nicht vorkam.

Die saudische Flagge erschien mit arabischer Schrift und Schwert. Abbrüche gab es bei einer Darstellung des Propheten Mohammed mit sichtbarem Gesicht, zwei Männern, die sich in Dschidda küssen, einem Bier im Restaurant in Riad und einer Hochzeit, auf der Frauen und Männer gemeinsam tanzen.

Aber immerhin die Flagge hat funktioniert!

Wer entscheidet, was sichtbar sein darf?

Hier ist es offensichtlich Saudi-Arabien. Bei Firefly fällt die Zensur auf, weil das Bild ausbleibt. Ein Sprachmodell hingegen kann einen Protest als „Störung” einstufen oder den Anlass der Demonstration auslassen und dabei einen schlüssigen Text liefern. So kann jeder Satz für sich stimmen, während die Geschichte als Ganzes täuscht.

Aus diesem Grund sollten wir auch bei KI-Modellen kritisch bleiben. Meinungsbeeinflussung war noch nie so einfach und subtil wie heute möglich.

Anzeige

Von Menschen für Menschen

Jeder Artikel entsteht durch menschliche Ideen und sorgfältige Prüfung. KI unterstützt uns vor allem bei Recherche und Feinschliff. Wir freuen uns über jede Unterstützung.

Jeder Beitrag zählt – auch das Teilen.