OpenAI reagiert auf den rasanten mathematischen Fortschritt seines neuen internen KI-Modells mit einem unabhängigen Beirat. Das seit dem 28. August trainierte Modell hat neben dem Navier-Stokes-Millenniumsproblem inzwischen mehr als 100 seit Langem offene Probleme aus fast allen Bereichen der Mathematik gelöst. Dieses Tempo hat selbst die Mathematiker des Unternehmens überrascht.
Die neue »Advisory Group on Mathematics and Artificial Intelligence« soll deshalb eine Brücke zwischen OpenAI, der Fachwelt und der Öffentlichkeit bilden. Das am Institute for Advanced Study angesiedelte Gremium startet mit neun renommierten Forschern, darunter die Fields-Medaillenträger Edward Witten, Martin Hairer und Timothy Gowers.
Beratung ohne Einfluss auf das Entwicklungstempo
Die Gruppe soll neue Ergebnisse begutachten, ihre Bedeutung einordnen und OpenAI bei deren Veröffentlichung beraten. Auch wissenschaftliche Standards sowie der Einsatz von KI in Forschung und Lehre gehören zu ihren Aufgaben.
Dabei soll der Beirat unabhängig bleiben. Seine Mitglieder werden nicht von OpenAI bezahlt, dürfen ungefragt Ratschläge erteilen, die Auswirkungen des Unternehmens öffentlich kommentieren und ihre Besetzung selbst verändern.
Eine auffällige Grenze zieht OpenAI allerdings beim eigenen Entwicklungstempo. Darüber soll das Gremium ausdrücklich nicht beraten.
Anzeige
Offener Brief warnt vor Schäden für die Mathematik
Die Gründung folgt auf den offenen Brief »A Severe Misalignment of AI in Mathematics« vom 11. September. Zahlreiche bekannte Mathematiker kritisieren darin, dass KI-Unternehmen ungelöste Aufgaben als Benchmark behandeln.
Die Autoren fürchten, dass massenhaft erzeugte Lösungen das eigentliche Ziel mathematischer Forschung verdrängen könnten, nämlich Verständnis und neue Ideen. Überhastete Veröffentlichungen ließen zudem zu wenig Zeit, Methoden herauszuarbeiten, frühere Arbeiten korrekt zu würdigen und mögliche Plagiate zu klären.
OpenAI bezeichnet den Beirat als ersten Schritt. Ob dessen Empfehlungen Gewicht bekommen, dürfte sich daran zeigen, wie das Unternehmen kommende KI-Ergebnisse veröffentlicht und wie viel Zeit es der Fachwelt für die Prüfung lässt.
