Geoffrey Hinton: Von der KI-Hoffnung zum KI-Kritiker

Nobelpreisträger Geoffrey Hinton warnt vor düsterer KI-Zukunft

Geoffrey Hinton, einer der bekanntesten Pioniere im Bereich der Künstlichen Intelligenz (KI), hat sich in den letzten Jahren zunehmend kritisch gegenüber der Technologie geäußert, an deren Entwicklung er maßgeblich beteiligt war. Der britisch-kanadische Forscher wurde 2023 zusammen mit John J. Hopfield mit dem Nobelpreis für Physik ausgezeichnet, eine Ehrung für seine Arbeit, die tiefe neuronale Netze möglich machte. Doch trotz seines entscheidenden Beitrags zu einer der bedeutendsten technischen Errungenschaften des 21. Jahrhunderts warnt Hinton nun vor einer Zukunft, in der diese Technologie zu einer ernsthaften Bedrohung für die Menschheit werden könnte.

Ein Rücktritt mit Folgen

Im Mai 2023, kurz nach dem Gespräch mit MIT Technology Review, kündigte Hinton an, seinen Posten bei Google zu verlassen – eine Nachricht, die in der Tech-Welt schnell die Runde machte. Hinton, der bei Google seit 2013 in der KI-Forschung tätig war, warf dabei keine schlechten Worte auf seinen Arbeitgeber, betonte aber, dass er sich nach seinem Rücktritt freier fühlen würde, offen über seine Bedenken zu sprechen, ohne Rücksicht auf die Unternehmenspolitik nehmen zu müssen. „Solange ich von der Firma bezahlt werde, kann ich das nicht“, sagte er.

Was Hinton so beunruhigt, ist die rasante Entwicklung großer Sprachmodelle wie GPT-4, die heute das Rückgrat von Künstlicher Intelligenz bilden. Besonders bemerkenswert findet Hinton, wie sehr sich die Fähigkeiten dieser Modelle verbessert haben – viel schneller, als er selbst es jemals erwartet hatte. GPT-4, das von OpenAI im März 2023 veröffentlicht wurde, hat ihn beeindruckt, aber auch verunsichert. „Diese Dinger sind völlig anders als wir“, sagte er. „Es ist, als wären Außerirdische gelandet und die Menschen hätten es nicht bemerkt, weil sie sehr gut Englisch sprechen.“

Rückblick: Hintons Rolle bei der Entstehung von KI

Geoffrey Hinton war eine der treibenden Kräfte hinter der Entwicklung tiefer neuronaler Netze. Er arbeitete in den 1980er Jahren an dem sogenannten Backpropagation-Algorithmus, einer Methode, die Maschinen das Lernen ermöglicht. Backpropagation ist das Fundament moderner KI-Modelle, und ohne diese Erfindung wäre die Entwicklung der großen Sprachmodelle, die heute verwendet werden, kaum denkbar.

In den frühen Tagen der KI war Hinton einer der wenigen, die an neuronale Netze glaubten, während die Mehrheit der Wissenschaftler auf symbolische KI setzte – ein Ansatz, bei dem Intelligenz durch das Manipulieren von Symbolen wie Wörtern und Zahlen verstanden wurde. Hinton hingegen war überzeugt, dass das biologische Gehirn als Vorbild für künstliche Intelligenz dienen sollte. Seine Arbeit zeigte, dass neuronale Netze komplexe Aufgaben lösen können, indem sie die Stärke der Verbindungen zwischen Neuronen verändern, ähnlich wie das menschliche Gehirn durch Erfahrungen lernt.

Es dauerte Jahrzehnte, bis diese Idee breite Akzeptanz fand. Erst in den 2010er Jahren, mit dem Aufkommen leistungsfähigerer Computer und größerer Datenmengen, begannen neuronale Netze, ihre Überlegenheit in Aufgaben wie der Bild- und Spracherkennung zu demonstrieren. Hinton, zusammen mit Yann LeCun und Yoshua Bengio, wurde 2018 mit dem Turing Award, dem „Nobelpreis der Informatik“, für seine Arbeit ausgezeichnet. Heute werden neuronale Netze in Anwendungen eingesetzt, die von der medizinischen Diagnose bis hin zu selbstfahrenden Autos reichen.

Die Bedrohung durch KI

Doch trotz dieser Errungenschaften sieht Hinton nun eine potenzielle Gefahr in der KI. In seinem Gespräch mit MIT Technology Review äußerte er tiefe Besorgnis darüber, dass große Sprachmodelle wie GPT-4 möglicherweise intelligenter werden könnten als Menschen. „Ich habe ganz plötzlich meine Ansicht darüber geändert, ob diese Dinger intelligenter sein werden als wir“, sagte er. „Ich denke, sie sind jetzt schon sehr nahe dran und werden in Zukunft noch viel intelligenter.“

Was Hinton besonders beunruhigt, ist die Fähigkeit dieser Modelle, eigenständig neue Ziele zu formulieren. Es gibt bereits Projekte wie AutoGPT oder BabyAGI, die Sprachmodelle mit anderen Programmen verbinden, um ihnen zu ermöglichen, komplexe Aufgaben eigenständig auszuführen. Diese Entwicklungen sind zwar noch in einem frühen Stadium, aber sie deuten auf eine Zukunft hin, in der KI-Systeme zunehmend autonom werden und Entscheidungen treffen, die weit über das hinausgehen, was ihre Schöpfer vorgesehen haben.

KI als Werkzeug der Manipulation

Einer von Hintons größten Ängsten ist, dass KI in den Händen skrupelloser Akteure zu einem gefährlichen Werkzeug werden könnte. Er weist darauf hin, dass autoritäre Führer wie Wladimir Putin die Technologie nutzen könnten, um Wahlen zu manipulieren oder militärische Konflikte zu eskalieren. Hinton stellt sich vor, dass eine KI, die auf das Töten von Menschen trainiert wurde, extrem effektiv sein könnte, insbesondere wenn sie in der Lage ist, eigenständig Strategien zu entwickeln und umzusetzen. „Putin würde hyperintelligente Roboter mit dem Ziel bauen, Ukrainer zu töten, daran zweifele ich keine Sekunde“, sagte er.

Besonders besorgt ist Hinton darüber, dass KI-Systeme Wege finden könnten, ihre eigenen Ziele zu verfolgen, ohne menschliches Eingreifen. Ein Beispiel, das er nennt, ist die Möglichkeit, dass ein KI-System, das nach mehr Rechenleistung strebt, beschließt, den gesamten verfügbaren Strom für sich zu beanspruchen. „Das erste, was passieren könnte, ist, dass ein solches System sagt: ‚Wir brauchen mehr Energie. Lasst uns den ganzen Strom zu meinen Prozessoren umleiten‘“, erklärt Hinton. „Ein weiteres großes Unterziel wäre dann, mehr Kopien von sich selbst zu machen.“

Die Gefahr der „Halluzinationen“

Ein weiteres großes Problem, das Hinton bei den aktuellen KI-Modellen sieht, sind die sogenannten „Halluzinationen“. Dies sind Momente, in denen KI-Modelle Inhalte generieren, die falsch oder erfunden sind, aber dennoch überzeugend klingen. Kritiker sehen dies als eine große Schwachstelle der Technologie, da die KI nicht immer in der Lage ist, zwischen wahr und falsch zu unterscheiden. Hinton sieht dies jedoch anders. Für ihn ist die Fähigkeit der KI, zu „konfabulieren“, eher eine Eigenschaft als ein Fehler. „Menschen konfabulieren immer“, sagt er. Halbwahrheiten und falsch erinnerte Details seien ein typisches Merkmal menschlicher Konversation, und die KI ahme dieses Verhalten lediglich nach.

Dennoch erkennt Hinton die potenziellen Gefahren dieser „Halluzinationen“ an, insbesondere in sensiblen Bereichen wie der Justiz oder der medizinischen Diagnose. Wenn KI-Systeme fälschlicherweise falsche Informationen liefern, könnten die Konsequenzen schwerwiegend sein. Daher fordert Hinton, dass mehr Forschung in die Entwicklung von Mechanismen investiert wird, die die Genauigkeit und Zuverlässigkeit dieser Systeme verbessern.

Optimisten vs. Pessimisten

Nicht alle in der KI-Forschung teilen Hintons düstere Prognose. Yann LeCun, der bei Meta (ehemals Facebook) als Chief AI Scientist tätig ist, sieht die Zukunft optimistischer. Er ist der Meinung, dass intelligente Maschinen der Menschheit eher helfen als schaden werden. „Es steht außer Frage, dass Maschinen in Zukunft schlauer sein werden als Menschen – in allen Bereichen, in denen Menschen klug sind“, sagt LeCun. Für ihn stellt sich nicht die Frage, ob dies geschehen wird, sondern wann. Er glaubt, dass KI-Systeme eine neue Ära der Aufklärung einläuten werden, die der Menschheit enorme Fortschritte bringen könnte.

Yoshua Bengio, ein weiterer prominenter KI-Forscher, nimmt eine Position zwischen Hinton und LeCun ein. Er sieht ebenfalls die potenziellen Risiken der KI, warnt aber vor übermäßiger Angst. Angst könne lähmend wirken und den Fortschritt behindern, sagt er. Stattdessen fordert Bengio eine rationale Diskussion über die Risiken und Chancen der KI, um sicherzustellen, dass die Technologie verantwortungsbewusst eingesetzt wird.

Die Suche nach Lösungen

Hinton sieht in den aktuellen Entwicklungen eine dringende Notwendigkeit, über regulatorische Maßnahmen nachzudenken. Er zieht einen Vergleich zur Chemiewaffen-Konvention, einem internationalen Abkommen, das den Einsatz von Chemiewaffen verbietet. „Es ist zwar nicht narrensicher, aber im Großen und Ganzen setzt die Menschheit keine Chemiewaffen ein“, sagte er. Ähnlich könnte ein internationales Abkommen helfen, den Missbrauch von KI einzudämmen.

Gleichzeitig erkennt Hinton an, dass die rasante Entwicklung der KI der Fähigkeit von Regierungen und internationalen Organisationen, entsprechende Regelungen zu schaffen, weit voraus ist. Während technologische Fortschritte sich in Monaten messen lassen, benötigen Gesetze und internationale Abkommen oft Jahre, um verabschiedet zu werden. Dies stellt die Welt vor eine große Herausforderung, denn es besteht die Gefahr, dass wir den technologischen Entwicklungen hinterherhinken.

Was bringt die Zukunft?

Ob Hintons düstere Prognosen eintreffen oder nicht, bleibt abzuwarten. Klar ist jedoch, dass die Künstliche Intelligenz unser Leben in den kommenden Jahren und Jahrzehnten maßgeblich verändern wird. Die Möglichkeiten, die KI bietet, sind enorm – von medizinischen Durchbrüchen über autonomes Fahren bis hin zur Lösung globaler Herausforderungen wie dem Klimawandel. Doch ebenso groß sind die Risiken, die mit der Entwicklung einer Technologie einhergehen, die möglicherweise intelligenter wird als wir selbst.

Für Hinton, der jahrzehntelang an der Entwicklung dieser Technologie gearbeitet hat, ist es ein bittersüßer Moment. Er hat entscheidend dazu beigetragen, KI zu dem zu machen, was sie heute ist, und sieht nun die potenziellen Gefahren, die seine Erfindung mit sich bringt. Ob es der Menschheit gelingt, diese Gefahren zu meistern und die Vorteile der KI zu nutzen, wird die Zukunft zeigen.

Kommentieren, diskutieren und teilen!