Zusammenfassung:
Laut von 404 Media veröffentlichten Berichten gibt es innerhalb von OpenAI ein Projekt namens Project Lily: OpenAI stellt Hunderte von ausgelagerten Prompt-Word-Rezensenten ein, um die Konversationen zwischen echten Benutzern und ChatGPT manuell zu lesen, um die Qualität der Antworten zu verbessern.
Es gibt einen Datenschutzfilter, der jedoch nicht gründlich genug ist:
Unter normalen Umständen kann der Prüfer des Eingabeaufforderungsworts den Benutzernamen nicht sehen und die Konversation wird zunächst durch den Datenschutzfilter gefiltert, um persönliche Informationen zu löschen. Allerdings räumt OpenAI auch ein, dass der Filtermechanismus möglicherweise persönliche Informationen übersieht und kurze Gespräche besonders anfällig für Probleme sind.
Die Überprüfungsoberfläche enthält normalerweise auch eine Zusammenfassung des Benutzerspeichers. Die Speicherzusammenfassung fasst die früheren Fragen, Interessen und Situationen usw. des Benutzers zusammen. Manchmal kann sie sogar über den Speicher auf den Standort des Benutzers schließen. Prüfer sehen oft das gesamte Gespräch mit Kontext.
Der Rezensent bewertet hauptsächlich die Antworten:
Die Arbeit wurde als mechanisch und eintönig beschrieben und der Stundenlohn soll mehr als 50 US-Dollar betragen haben. Die Hauptaufgabe des Rezensenten besteht darin, die Antworten zu bewerten und nicht die Fakten zu überprüfen. Beispielsweise muss der Prüfer beurteilen, ob die vom Modell gegebene Antwort relevant ist, ob sie einen offensichtlichen KI-Einschlag aufweist, ob predigendes Verhalten vorliegt, ob Ausdrucksmissbrauch vorliegt, ob schmeichelhaftes Verhalten vorliegt und ob das Modell das Modell als lebenserfahrene Person schreiben wird.
Die Frage, ob die Antworten des Modells sachliche Fehler enthalten, ist nicht die Aufgabe des Prüfers. Schließlich sind Prüfer keine Enzyklopädien und können nicht die vollständige Wahrheit aller Ereignisse kennen. Daher ist es normal, dass Benutzer Antworten des Modells sehen, die sachliche Fehler enthalten.
Das standardmäßig aktivierte verbesserte Modell ist der Schlüssel zum Datenaustausch:
Die kostenlosen ChatGPT-Versionen sowie die Plus- und Pro-Versionen ermöglichen standardmäßig die Verwendung von Chat zur Verbesserung von Produkten. Wenn diese Funktion aktiviert ist, werden die Chatinhalte des Benutzers zur Produktverbesserung an OpenAI weitergeleitet. Die ausgelagerten Auditoren im Lily Plan zur Überprüfung der Gesprächsinhalte sind nur eine der Datenverwendungen. Selbstverständlich werden die Daten auch für andere Zwecke verwendet, beispielsweise für das weitere Training des Modells.
Viele Nutzer nutzen ChatGPT als vorübergehende Vertrauensperson und sprechen über Familie, Gesundheit und noch mehr private Angelegenheiten. Einige Rezensenten sagten, dass viele Benutzer möglicherweise nicht wissen, dass ihre Gespräche möglicherweise von echten Menschen gelesen werden. Denken Sie also darüber nach, ob dies eine beängstigende Sache ist.
Kommentare