Hunderte externe Prüfer lesen echte ChatGPT-Unterhaltungen und bewerten die Antworten des Chatbots. Das berichtet 404 Media auf Grundlage geleakter interner Dokumente und eingesehener Prompts. Die Arbeit läuft demnach unter dem Codenamen »Project Lily«.
Die Prüfer sehen teils vollständige Gespräche. Darunter befinden sich auch sensible persönliche Angaben und Chats. Nutzernamen fehlen in den Datensätzen. Frühere Gesprächsinhalte oder seltene Identifikatoren können eine Person trotzdem erkennbar machen.
Externe Prüfer bewerten mehrere Antworten
Für jeden Prompt erhalten die Prüfer vier Antwortvarianten. Sie fassen die Anfrage zusammen, vergeben Bewertungen von eins bis sieben und markieren problematische Stellen. ChatGPT soll unter anderem weniger schmeicheln, professionell reagieren und sich nicht wie ein Mensch mit eigenen Gefühlen darstellen.
OpenAI versucht, persönliche Informationen vor der Prüfung zu entfernen. Dafür verwendet das Unternehmen eine angepasste Version seines Privacy Filters. OpenAI nennt jedoch selbst klare Einschränkungen. Das Modell kann ungewöhnliche Identifikatoren und mehrdeutige private Verweise übersehen oder Inhalte zu stark beziehungsweise zu schwach schwärzen.
Anzeige
Eine Einstellung stoppt die Nutzung neuer Chats
Betroffen sind persönliche ChatGPT-Konten, deren Inhalte für die Modellverbesserung freigegeben sind. OpenAI erklärt in seinem Hilfebereich, dass autorisiertes Personal und Dienstleister Nutzerdaten zu diesem Zweck einsehen dürfen.
Nutzer können unter »Einstellungen«, »Datenkontrollen« die Option »Das Modell für alle verbessern« ausschalten. Danach verwendet OpenAI neue Gespräche nicht mehr zum Training. Bereits freigegebene Unterhaltungen erfasst die Änderung nicht rückwirkend. Auch temporäre Chats dienen laut OpenAI nicht dem Training. Sie können allerdings zur Missbrauchskontrolle geprüft werden und werden nach 30 Tagen gelöscht.
Für ChatGPT Business, Enterprise und die API gilt ein anderes Modell. Dort nutzt OpenAI Ein- und Ausgaben standardmäßig nicht zum Training, sofern ein Kunde seine Daten nicht freiwillig freigibt.
