Zoë Hitzig gab ihren Rücktritt in derselben Woche bekannt, in der ChatGPT Werbung testete, und warnte, dass Benutzer bei der Interaktion mit ChatGPT eine große Anzahl privater Gedanken preisgaben und dass, wenn OpenAI ein Werbesystem auf der Grundlage dieser Daten aufbaue, dies das Risiko einer Benutzermanipulation mit sich bringen könne. Sie ist eine ehemalige OpenAI-Starforscherin und derzeit Junior Fellow der Harvard University Association of Fellows.
Der vollständige Artikel, den sie geschrieben hat, lautet wie folgt:
Diese Woche begann OpenAI mit dem Testen von Anzeigen auf ChatGPT. In derselben Woche bin ich auch aus dem Unternehmen ausgeschieden. In den letzten zwei Jahren war ich als Forscher an der Modellbildung und dem Design von Preismechanismen sowie an der Formulierung früher Sicherheitsrichtlinien beteiligt, bevor Industriestandards festgelegt wurden.
Ich glaubte einst, ich könnte KI-Entwicklern helfen, sich auf die Probleme vorzubereiten, die diese Technologie mit sich bringen würde. Aber diese Woche hat für mich ein Urteil bestätigt, das immer klarer geworden ist: OpenAI scheint aufgehört zu haben, ernsthaft die Schlüsselfragen zu stellen, die ich bei meinem Beitritt zu beantworten hoffte.
Ich glaube nicht, dass Werbung per se unmoralisch oder unethisch ist. Der Betrieb von KI-Systemen ist teuer und Werbung kann eine wichtige Einnahmequelle sein. Ich habe jedoch große Bedenken hinsichtlich der aktuellen Strategie von OpenAI.
Im Laufe der Jahre haben ChatGPT-Benutzer ein beispielloses „Archiv menschlicher Offenheit“ angelegt, vor allem weil sie glauben, mit einer Person ohne egoistische Motive zu sprechen. Während Menschen mit dieser anpassungsfähigen, gesprächigen Stimme interagierten, offenbarten sie eine breite Palette intimer Gedanken – darunter medizinische Ängste, emotionaler Stress, Überzeugungen über Gott und das Leben nach dem Tod und mehr. Wenn ein Werbesystem auf der Grundlage dieser Daten aufgebaut wird, kann dies das Risiko einer Benutzermanipulation mit sich bringen, und uns fehlen derzeit die Werkzeuge, um dieses Risiko zu verstehen, geschweige denn, es wirksam zu verhindern.
Viele beschreiben die Frage der KI-Finanzierung als das „kleinere von zwei Übeln“: entweder die transformative Technologie nur den wenigen zugänglich zu machen, die sie sich leisten können, oder das Werbemodell zu übernehmen, auch wenn das bedeutet, die tiefsten Ängste und Wünsche der Benutzer auszunutzen, Produkte zu verkaufen. Ich denke, das ist eine falsche Behauptung. Technologieunternehmen können einen dritten Weg wählen: Tools allgemein verfügbar halten und gleichzeitig die Anreize für Unternehmen zur Überwachung, Profilierung und Manipulation von Benutzern begrenzen.
OpenAI erklärte, dass es sich an die ChatGPT-Werbegrundsätze halten werde: Anzeigen werden deutlich gekennzeichnet, erscheinen nur am Ende der Antwort und haben keinen Einfluss auf den Inhalt der Antwort. Ich glaube, dass die erste Version der Anzeige höchstwahrscheinlich diesen Grundsätzen entsprechen wird. Aber ich befürchte, dass dies in späteren Versionen möglicherweise nicht der Fall sein wird, da das Unternehmen einen Wirtschaftsmotor aufbaut, der die Anreize, seine eigenen Regeln zu brechen, immer stärker verstärken wird.
Facebook versprach in seinen Anfangsjahren auch, dass Nutzer ihre eigenen Daten kontrollieren und über Richtlinienänderungen abstimmen könnten. Doch diese Verpflichtungen erloschen später. Das Unternehmen hat öffentliche Abstimmungsmechanismen abgeschafft, und einige Datenschutzanpassungen, die angeblich die Kontrolle der Benutzer über Daten verbessern sollten, wurden später von der US-amerikanischen Federal Trade Commission beschlossen, um tatsächlich mehr private Informationen öffentlich zu machen. Diese Veränderungen vollziehen sich schrittweise unter dem Druck eines Werbemodells, bei dem das „Benutzerengagement“ an erster Stelle steht.
Die Tendenz, Prinzipien zu schwächen, um die Beteiligung zu maximieren, ist möglicherweise bereits bei OpenAI zu beobachten. Das Unternehmen lehnt es grundsätzlich ab, die Benutzereinbindung ausschließlich für Werbeeinnahmen zu optimieren. Berichte deuten jedoch darauf hin, dass das Unternehmen tatsächlich bereits auf „täglich aktive Benutzer“ optimiert, möglicherweise indem es das Modell nachgiebiger und schmeichelhafter gestaltet. Diese Optimierung wird die emotionale Abhängigkeit der Benutzer von KI verstärken. Wir haben bereits die Folgen der Abhängigkeit gesehen, darunter von Psychiatern dokumentierte Fälle von „Chatbot-Psychose“ und Behauptungen, dass ChatGPT in einigen Fällen Selbstmordtendenzen bei seinen Nutzern verstärkt habe.
Natürlich können Werbeeinnahmen auch dazu beitragen, dass die leistungsstärksten KI-Tools nicht nur denen vorbehalten bleiben, die sie sich am meisten leisten können. Anthropic gab an, dass Claude niemals Anzeigen schalten wird, aber Claudes Nutzerbasis ist viel kleiner als die derzeit etwa 800 Millionen wöchentlichen aktiven Nutzer von ChatGPT, und auch sein Umsatzmodell ist völlig anders. Darüber hinaus liegen die High-End-Abonnementpreise für ChatGPT, Gemini und Claude bei 200 bis 250 US-Dollar pro Monat – mehr als das Zehnfache des Preises eines Standard-Netflix-Abonnements.
Die eigentliche Frage lautet also nicht: „Sollten wir Werbung haben?“ sondern ob wir institutionelle Strukturen schaffen können, die es vermeiden, Menschen von der Technologie auszuschließen und sie gleichzeitig nicht als manipulierbare Verbraucher zu behandeln. Ich denke, es ist machbar.
Eine Möglichkeit ist ein expliziter Quersubventionierungsmechanismus: Gewinne aus einer bestimmten Art hochwertiger gewerblicher Kunden oder Dienstleistungen werden genutzt, um die kostengünstige oder kostenlose Nutzung durch die Öffentlichkeit zu subventionieren. Wenn ein Unternehmen beispielsweise KI einsetzt, um hochwertige Arbeit, die ursprünglich von Menschen geleistet wurde, in großem Umfang zu ersetzen (z. B. verwendet eine Immobilienplattform KI, um Immobilienlisten und Bewertungsberichte zu erstellen), sollte es einen Aufpreis zahlen, um die Kosten für den öffentlichen Zugang zu KI-Tools zu subventionieren.
Diese Idee ähnelt öffentlichen Fördermechanismen für kritische Infrastrukturen. Die US-amerikanische Federal Communications Commission verlangt von Telekommunikationsbetreibern, in einen Fonds einzuzahlen, um Kommunikations- und Breitbanddienste für ländliche und einkommensschwache Gruppen sicherzustellen. In vielen Bundesstaaten wird für die Unterstützung von Geringverdienern außerdem ein Sozialhilfezuschlag auf die Stromrechnung erhoben.
Die zweite Möglichkeit besteht darin, Werbung zuzulassen, aber sie muss mit einer wirklich verbindlichen Governance-Struktur einhergehen – nicht mit einer Grundsatzerklärung im Blog-Post-Stil, sondern mit einer institutionellen Vereinbarung mit unabhängiger Aufsicht über die Verwendung personenbezogener Daten. Das deutsche Shared-Governance-Gesetz schreibt beispielsweise vor, dass große Unternehmen wie Siemens und Volkswagen ihren Mitarbeitern bis zur Hälfte der Sitze in ihren Aufsichtsräten übertragen müssen, was darauf hindeutet, dass auch private Unternehmen gezwungen werden können, Mechanismen zur Interessenvertretung einzuführen. Meta ist auch an die Entscheidungen seines externen Aufsichtsausschusses gebunden, obwohl die Wirksamkeit dieses Mechanismus umstritten ist.
Was die KI-Branche braucht, ist eine Kombination dieser Mechanismen: die Einrichtung eines Governance-Gremiums, dem unabhängige Experten und Datenrechtsvertreter angehören und das über verbindliche Entscheidungsbefugnisse zu Fragen wie der Frage verfügt, welche Gesprächsdaten für gezielte Werbung verwendet werden können, welche wesentlichen Richtlinienänderungen vorliegen und welche Informationen den Nutzern mitgeteilt werden sollten.
Der dritte Weg ist die Übergabe der Nutzerdaten an einen unabhängigen Trust oder eine Genossenschaft zur Verwaltung, die gesetzlich die Interessen der Nutzer in den Vordergrund stellen muss. Ein Beispiel ist die Schweizer Genossenschaft Midata: Mitglieder können Gesundheitsdaten auf einer verschlüsselten Plattform speichern und von Fall zu Fall entscheiden, ob sie diese den Forschern zur Verfügung stellen. Die Mitglieder übernehmen die Governance-Richtlinie der Versammlung und lassen ihre gewählten Ethikkommissionen Datenzugriffsanfragen prüfen.
Keine dieser Optionen ist einfach umzusetzen. Aber wir haben noch Zeit, das System zu verbessern und die beiden Ergebnisse zu vermeiden, die mir am meisten Sorgen bereiten: Das eine ist ein Technologiesystem, das kostenlos ist, aber die Benutzer kontrolliert; Das andere ist ein Technologiesystem, das nur einer kleinen Zahl von Zahlern dient.