„Sexy Men Only“ – ChatGPT blamiert sich mit KI-Bildfilter!

OpenAI-Chef Altman äußert sich humorvoll – aber nicht überzeugend

Sam Altman, CEO von OpenAI, meldete sich prompt zu Wort und bestätigte den Fehler humorvoll mit einem „Hot guy though!“. Diese Mischung aus Selbstironie und Eingeständnis fand nicht überall Zustimmung. Kritiker merkten an, dass die Antwort zwar unterhaltsam, aber wenig hilfreich sei. Vor allem zeigt sich, dass OpenAI mit seinem System zur Inhaltskontrolle noch erhebliche Schwierigkeiten hat.

Tests zeigen inkonsistente Ergebnisse

Um Klarheit zu schaffen, untersuchte Business Insider das Problem genauer. Das Ergebnis zeigte, dass ChatGPT teilweise durchaus Bilder von „hot women“ generierte – ein komplettes Verbot scheint es also nicht zu geben. Vielmehr deuten die uneinheitlichen Ergebnisse auf ein fehleranfälliges Filtersystem hin. Nutzer erleben dadurch eine verwirrende und intransparente Moderationspraxis.

KI-Moderation bei realen Personen problematisch

Der Vorfall verdeutlicht zudem, wie OpenAI mit realen Personen verfährt: Wer beispielsweise ein Bild von CEO Sam Altman erstellen möchte, erhält keine realistische Abbildung, sondern nur eine abstrakte Interpretation seiner Merkmale. Dahinter steckt der Wunsch, Missbrauch wie etwa Deepfakes zu verhindern. Prominente Personen können sich sogar gezielt vom System ausschließen lassen, was wiederum neue Fragen nach Transparenz und Zugänglichkeit aufwirft.