Ein neues KI-Modell flucht über eigene Fehler mit »f*ck«

Das neue KI-Modell »Inkling 2 Small« von Thinking Machines schreibt in seinen internen Arbeitsschritten gelegentlich »fuck«. Vals AI fand das Wort oder Varianten wie »fucking« in 50 von 2.655 Testläufen. In kurzen Läufen blieb die Suche ohne Treffer. In zwei langen Läufen geriet das Modell in eine Schleife.

185 Treffer bei einer einzigen Aufgabe

Inkling 2 Small sollte die Umlaufbahn eines Asteroiden berechnen. In einem einzigen Beitrag mit mehr als 500.000 Zeichen wiederholte das Modell dieselben wenigen Sätze. Auch in den nächsten 37 Schritten drehte es sich im Kreis, bis sein Kontextfenster voll war. Allein dieser Lauf brachte es auf 185 Treffer.

Weitere 56 kamen bei der Reparatur eines Programms zur Risikobewertung hinzu. Zusammen machen diese zwei Läufe gut drei Viertel aller 316 »fuck« Treffer aus.

Die meisten Treffer kommen spät

Die Auswertung vom 6. November umfasst 13 Benchmarks. Gezählt wurden die eigenen Texte des Modells, darunter das Thinking, das Nutzer normalerweise nicht sehen. Zensierte Schreibweisen fielen aus der Zählung.

In Läufen mit weniger als 100 Schritten gab es keinen Treffer. Ab 500 Schritten waren es 29 von 370 Läufen. Die meisten Beiträge mit dem Wort erschienen in der zweiten Hälfte des jeweiligen Laufs.

Als Warnsignal taugt das Wort trotzdem nicht. Zwar scheiterten 46 der 48 bewerteten Läufe mit einem »fuck« Treffer. Insgesamt scheiterten aber bereits rund 75% der bewerteten Läufe.