Skandal bei Meta: Menschliche Prüfer sichten Deine intimen Videos
Für das Training der KI-Modelle sichten Arbeiter Aufnahmen der Ray-Ban Smart Glasses. Dabei bekommen sie auch intime Szenen zu sehen.
Videomaterial von Metas intelligenten Brillen landet offenbar regelmäßig bei menschlichen Arbeitern in Kenia. Eine gemeinsame Recherche der schwedischen Zeitungen Svenska Dagbladet und Göteborgs-Posten deckt auf, dass externe Dienstleister intimste Aufnahmen sichten, um KI-Modelle zu trainieren.
Der Mensch hinter der Künstlichen Intelligenz
Wenn Nutzer einer Meta-Datenbrille ihre Umgebung aufnehmen oder die integrierte Künstliche Intelligenz befragen, verlassen die Daten oft das Gerät. Die Videos wandern in die Cloud und werden dort nicht ausschließlich von Algorithmen verarbeitet.
Um die Objekterkennung der Software zu verbessern, greift der Technologiekonzern auf manuelle Arbeit zurück. Sogenannte Daten-Prüfer in Nairobi werten die gesammelten Clips aus. Ihre Aufgabe besteht darin, Gegenstände oder Situationen in den Videos präzise zu beschreiben und das Material für das KI-Training aufzubereiten.
Nur durch diese aufwendige Vorarbeit lernen die Systeme, die Welt durch die Kameralinsen der Nutzer richtig zu interpretieren.
Anzeige
Einblicke in fremde Schlafzimmer
Die Arbeiter in Kenia berichten jedoch von verstörenden und hochsensiblen Inhalten während ihrer Schichten. Da die Kameras der Brillen oft unbemerkt weiterlaufen, wenn die Geräte auf einem Tisch abgelegt werden, bekommen die Dienstleister intime Momente zu sehen. Die betroffenen Nutzer ahnen in der Regel nicht, dass ihre privaten Aufnahmen von fremden Personen am anderen Ende der Welt betrachtet werden.
Die Beschreibungen der Prüfer reichen von Menschen beim Umziehen über Toilettengänge bis hin zu deutlich sichtbaren Bankkarten. Selbst Aufnahmen von intimen Handlungen tauchen auf den Bildschirmen der Arbeiter auf, die diese Clips aus Angst um ihren Arbeitsplatz zwingend ansehen müssen.
Datenschutzbehörde mahnt Einhaltung der Regeln an
Die Enthüllungen rufen nun erste Aufsichtsbehörden auf den Plan. Die schwedische Datenschutzbehörde hat sich bereits besorgt über den Umgang mit den sensiblen Videodaten geäußert. Eine Juristin der Behörde stellt klar, dass europäische Datenschutzstandards wie die DSGVO ihre volle Gültigkeit behalten.
Wenn Technologiekonzerne externe Subunternehmer in Drittländern wie Kenia beauftragen, darf das rechtliche Schutzniveau für die Nutzer nicht sinken. Die Verantwortung für die Einhaltung der Privatsphäre liegt weiterhin beim Hersteller, auch wenn die manuelle Auswertung der Aufnahmen auf einem anderen Kontinent stattfindet.