Die EU-Kommission greift bei KI-Diensten durch. ChatGPT fällt künftig unter die strengsten Vorgaben des Digital Services Act und wird offiziell als Suchmaschine eingestuft. Auch Reddit und Roblox müssen sich an verschärfte Regeln halten.
Millionen Nutzer bringen neue Pflichten
Die Brüsseler Behörde hat ChatGPT, Reddit und Roblox am Montag als sehr große Online-Dienste eingestuft. Der Grund dafür ist die hohe Reichweite, da sie alle die Marke von 45 Millionen aktiven Nutzern pro Monat in der Europäischen Union überschreiten. Spitzenreiter ist ChatGPT mit rund 159 Millionen Nutzern, gefolgt von Reddit mit gut 57 Millionen und Roblox, das mit knapp 47 Millionen Nutzern knapp über dem Schwellenwert liegt. Glückwunsch!
Dass ChatGPT in diese Kategorie fällt, ist ein Novum für die europäische Regulierung. Die Kommission begründet den Schritt mit der grundlegenden Funktionsweise, da er bei der Beantwortung von Fragen auch das Internet durchsucht. Daher wertet die EU ihn als hybride Suchmaschine.
Anzeige
Tiefere Einblicke in die Algorithmen
OpenAI, Reddit und Roblox haben nun vier Monate Zeit, um die neuen Auflagen umzusetzen. Bis Ende des Jahres müssen sie unter anderem eine erste detaillierte Risikobewertung vorlegen. Darin müssen sie darlegen, welche gesellschaftlichen Gefahren von ihnen ausgehen und wie sie diese reduzieren wollen.
Zu den untersuchten Risiken zählen die Verbreitung illegaler Inhalte, die Manipulation von Wahlen und Gefahren für das psychische Wohlbefinden von Minderjährigen. Wenn ein Unternehmen ein solches Risiko feststellt, reicht ein Bericht jedoch nicht aus. Es muss konkrete Gegenmaßnahmen ergreifen, etwa indem es Empfehlungssysteme anpasst.
Die neuen Vorgaben fordern vor allem Transparenz. Die EU-Behörden erhalten künftig das Recht, interne Daten anzufordern und sich die genaue Funktionsweise der Algorithmen erklären zu lassen.
Auch unabhängige Forscher bekommen unter bestimmten Voraussetzungen Zugriff. Unter Juristen wird diskutiert, ob OpenAI im Zuge dieser Datenherausgabe auch Trainingsdaten oder Modellgewichte offenlegen muss.
Eigene Abteilungen und drohende Strafen
Das Gesetz zwingt OpenAI, Reddit und Roblox zu weiteren operativen Änderungen. Sie müssen künftig eine unabhängige Compliance-Abteilung aufbauen und ein öffentlich einsehbares Werbearchiv führen. Ein externer Prüfer kontrolliert zudem mindestens einmal jährlich, ob sie die Vorschriften einhalten.
Für Reddit und Roblox bedeutet die Einstufung ebenfalls erhebliche Anpassungen. Bei Roblox rückt der Jugendschutz in den Fokus, um ungeeignete Inhalte oder manipulative Designs zu unterbinden. Reddit muss dagegen nachweisen, wie es gegen Hassrede und illegale Beiträge in den eigenen Foren vorgeht.
Halten sich die drei Unternehmen nicht an die Vorgaben, kann die EU-Kommission hohe Strafen verhängen. Das Gesetz erlaubt Bußgelder von bis zu sechs Prozent des weltweiten Jahresumsatzes. Bei fortgesetzten Verstößen können die Behörden tägliche Zwangsgelder anordnen, bis die geforderten Änderungen umgesetzt sind.
