Microsoft erklärt die wahren Grenzen aktueller KI
Eine neue Untersuchung zeigt, warum KI-Modelle keine menschliche Intelligenz besitzen. Sie erweitern lediglich unsere Kognition.
Forscher von Microsoft und der Universität Linköping präsentieren einen neuen Ansatz zur Bewertung aktueller KI-Modelle. Sie stufen die Technologie nicht als menschenähnliche Intelligenz ein, sondern als reine Erweiterung der menschlichen Kognition.
Sprachmuster statt Weltverständnis
Aktuelle KI-Modelle formulieren Essays, schreiben Code und fassen komplexe Themen zusammen. Dadurch entsteht oft der Eindruck einer eigenständigen Intelligenz, welche die jüngste Untersuchung nun widerlegt.
Laut den Forschern verarbeiten KI-Modelle ausschließlich statistische Zusammenhänge innerhalb riesiger Textmengen. Die menschliche Sprache enthält bereits verfestigte Strukturen unserer Erfahrung, die als Basis dienen. Die KI greift diese Muster auf und führt sie fort. KI-Modelle erlernen die Sprache, erleben aber keine Objekte oder Veränderungen im physischen Raum.
Anzeige
Die Grenzen der Vernunft
Dieser rein textbasierte Ansatz erklärt das bekannte Phänomen der Halluzinationen. Während der Mensch seine Annahmen kontinuierlich durch reale Erfahrungen korrigiert, fehlt den Modellen dieser Abgleich mit der Realität. Sie konstruieren überzeugende Antworten, die faktisch völlig falsch sein können.
Ähnliche Schwächen zeigen sich bei der Verknüpfung völlig neuer Konzepte. KI-Modelle bewältigen bekannte Aufgaben problemlos, scheitern aber häufig an unbekannten Situationen. Diese Begrenzung ist laut der Forschung ein strukturelles Problem und keine bloße technische Hürde, die durch mehr Rechenleistung verschwindet.
Quelle: Microsoft
Fokus auf Kontrollstrukturen
Die Erkenntnisse verändern auch die Debatte um die Sicherheit der Technologie. Warnungen vor einer unkontrollierbaren »Superintelligenz« lenken von den tatsächlichen Herausforderungen ab. Das eigentliche Risiko besteht in der Automatisierung fehlerhafter Entscheidungen. Unpassende Ergebnisse entstehen dabei nicht durch böswillige Absicht, sondern durch mangelnde Weltbezogenheit der KI-Modelle.
Daher verlagert sich der Fokus der Entwickler zunehmend auf die Sicherheit des gesamten Einsatzbereichs. Unternehmen integrieren mehrschichtige Kontrollmechanismen, um das Verhalten der KI-Modelle streng zu überwachen. Die Verantwortung für vertrauenswürdige Ergebnisse bleibt somit vollständig beim menschlichen Anwender.
