OpenAI, Anthropic und DeepMind warnen vor Biowaffen
Führende Köpfe der KI-Branche fordern vom US-Kongress strenge Gesetze für synthetische DNA.
Führende Köpfe der KI-Branche fordern vom US-Kongress strikte Gesetze für den Umgang mit künstlicher Intelligenz in der Biotechnologie. Sam Altman von OpenAI, Dario Amodei von Anthropic und Demis Hassabis von Google DeepMind wollen den KI-gestützten Bau biologischer Kampfstoffe verhindern.
Strenge Kontrollen für synthetische Gene
In einem offenen Schreiben an die Gesetzgeber skizzieren die Unternehmenschefs gemeinsam mit Sicherheitsexperten ein konkretes Bedrohungsszenario. Moderne KI-Modelle beschleunigen nicht nur medizinische Durchbrüche. Sie erleichtern auch die Suche nach toxischen DNA- und RNA-Kombinationen enorm.
Das senkt die Hürde für die Entwicklung neuartiger Erreger drastisch. Bisher erforderte das Design biologischer Stoffe tiefgreifendes Spezialwissen. Zukünftig könnten Sprachmodelle diese komplexe Aufgabe übernehmen und Baupläne für Pathogene generieren.
Um diesem Risiko zu begegnen, verlangt das Bündnis scharfe Kontrollen für Produzenten von synthetischen Nukleinsäuren. Wer DNA-Bausteine herstellt und verkauft, soll künftig jede Bestellung auf potenziell schädliche Sequenzen scannen. Verweigert die Software die Freigabe, darf das Material nicht ausgeliefert werden.
Gleichzeitig müssen Anbieter die Identität und Berechtigung ihrer Kunden durchleuchten. Nur verifizierte Labore und Forschungseinrichtungen sollen Zugriff auf die bestellten Bausteine erhalten.
Anzeige
Politisches Vakuum und technische Grenzen
Derzeit fehlt in den USA eine verbindliche Regulierung für den Schnittpunkt von KI und Biologie. Eine frühere Verfügung von Joe Biden zur Überwachung der Gensynthese-Branche wurde von der Regierung unter Donald Trump wieder aufgehoben. Die aktuelle Administration verzichtete bislang auf neue Vorgaben.
Der Ruf nach staatlicher Aufsicht stößt in der Praxis auf einige Hürden. Die lückenlose Überwachung sämtlicher DNA-Bestellungen verursacht hohe Kosten für die Industrie. Zudem bleibt es wissenschaftlich extrem komplex, frühzeitig zu erkennen, ab wann eine spezifische genetische Kombination eine tatsächliche biologische Gefahr darstellt.
