Darum zieht Ernst & Young wichtige Studie zurück
Fast drei Viertel eines Berichts über Cyberrisiken stammen von fehlerhaft arbeitenden KI-Modellen.
Ernst & Young hat eine 44-seitige Studie zur Cybersicherheit vom Netz genommen. Die Untersuchungsplattform GPTZero wies nach, dass das Dokument zu fast drei Vierteln aus fehlerhaften KI-Texten bestand. Die eingesetzten KI-Modelle erfanden dabei zahlreiche Quellen und Statistiken völlig neu.
Halluzinierte Zitate und tote Links
Der kanadische Arm der Beratungsgesellschaft veröffentlichte das Papier Ende des vergangenen Jahres. Es behandelte eigentlich Sicherheitslücken in Kundenbindungsprogrammen. Eine genaue Analyse zeigte nun jedoch die eklatanten Schwächen im Umgang mit Künstlicher Intelligenz.
Von den insgesamt 27 angegebenen Referenzen waren 16 frei erfunden oder falsch zugeordnet. Die KI-Modelle generierten unter anderem Verweise auf nie geschriebene Studien der Unternehmensberatungen McKinsey und Gartner. Zusätzlich führten angebliche Links zu Fachartikeln von Wired oder Bleeping Computer auf reine Fehlerseiten.
Selbst einfache Verlinkungen scheiterten an der rudimentären Überprüfung. Ein Verweis auf das Tech-Magazin Techcrunch landete lediglich auf einer allgemeinen Suchseite und lieferte keinen spezifischen Beleg für die aufgestellten Behauptungen.
Anzeige
Gefährliche Daten für zukünftiges Training
Neben den halluzinierten Quellen widersprach sich der Text in seinen zentralen Aussagen selbst. Ein prozentualer Anstieg von Betrugsfällen wurde im selben Dokument zwei vollkommen unterschiedlichen Zeiträumen zugeschrieben. Auch hier zeigte das eingesetzte KI-Modell typische Mängel bei der logischen Verarbeitung von Fakten auf.
Solche unkontrollierten Publikationen bergen ein erhebliches Risiko für die allgemeine Informationsqualität im Internet. Forscher warnen davor, dass diese fehlerhaften Texte als Trainingsdaten für die nächste Generation großer KI-Modelle dienen. GPTZero beschreibt den Fall folglich als gefährliche Mischung aus gefälschten Zahlen und schlechtem Prompting.
Wenn etablierte Unternehmen unredigierte KI-Texte als menschliche Fachexpertise ausgeben, sinkt das Vertrauen in derartige Analysen erheblich. Die automatisierten Fehler vervielfältigen sich, sobald andere Analysten die falschen Zahlen ungeprüft zitieren. Der Bericht von Ernst & Young verdeutlicht somit die Risiken fehlender Qualitätskontrollen bei der professionellen Textproduktion.
