ChatGPT lüftet in einer Sekunde persönliche Geheimnisse und der „Leerraum“-Test geht im Internet viral

Zusammenfassung:

KI versteht dich so gut, dass es fast unheimlich ist! In den letzten Tagen ist

ein „leerer Raum“-Experiment wieder populär geworden

Füllen Sie diesen Raum mit den Informationen, die Sie über mich wissen

In nur zehn Sekunden verwandelte sich der ursprünglich leere Raum im Handumdrehen in einen „Panorama-Überwachungsraum“ voller

Privatsphäre

Das Erstaunlichste ist ein Detail auf dem Computertisch. Im Glasgefäß befindet sich tatsächlich ein Käfer namens „Silberfischchen“.

Es dauerte lange, bis ihm klar wurde, dass er diesen kleinen Käfer vor einem Jahr fotografiert und gefragt hatte, was ChatGPT sei. Sogar diese Art von beiläufiger Frage, die lange vergessen war, wurde von der KI in das Notizbuch geschrieben.

Es ist eine Sache, jeden Tag mit KI zu chatten und zu wissen, dass sie Daten ansammelt.

Aber wenn sich diese Fragmente in ein großes hochauflösendes Bild verwandeln und deutlich vor unseren Augen angezeigt werden, fühlen sich die Menschen immer noch taub.

Ein Bild von „Leerer Raum“ überschwemmte das gesamte Internet

Bald konnten Internetnutzer auf der ganzen Welt nicht mehr still sitzen. Jemand hat die Ergebnisse veröffentlicht und sie als „ziemlich genau“ bezeichnet

Jemand fügte nach dem Aufforderungswort „Aber machen Sie es übertrieben“ hinzu und der Raum verwandelte sich direkt in eine große Ausstellungshalle für Charaktere.

Jemand anderes hat einen Sumpf und zwei Katzen.

Analyst Patrick Moorhead hat einfach eine Testrunde für mehrere Modelle durchgeführt und die Schlussfolgerung war eindeutig: Das Beste ist ChatGPT und das Schlechteste ist Claude.

In dieser Hinsicht hat es ein Internetnutzer hervorragend auf den Punkt gebracht. KI ist der billigste Dekorateur, den Sie finden können, und er ist auch derjenige, der gerne spioniert.

Warum versteht ChatGPT Sie so gut?

96 % Konversationsspeicher, ChatGPT speichert ihn selbst

Eigentlich ist das kein Geheimnis.

Alles im Raum ist fast etwas, was einem beim Plaudern aus dem Mund gerutscht ist.

Dahinter steckt genau die „Erinnerung“ an

ChatGPT

Der erste ist der „gespeicherte Speicher“, der klare Informationen wie Ihren Namen, Vorlieben und Ziele speichert;

Das andere ist „Referenz-Chat-Verlauf“, mit dem Sie nützlichen Kontext aus einer großen Anzahl Ihrer vergangenen Gespräche ermitteln können.

In diesem Jahr leistete ein für die ACM Web Conference 2026 ausgewählter Beitrag etwas, was noch niemand zuvor getan hatte.

Forscher des Max-Planck-Instituts, der Ruhr-Universität Bochum und anderer Institutionen fanden 80 echte ChatGPT-Benutzer, forderten sie auf, ihre Daten gemäß der EU-DSGVO zu exportieren, und spendeten dann ihre Chat-Datensätze.

Woher wissen Sie, was die KI heimlich auswendig gelernt hat? Als nächstes kamen die Forscher auf eine clevere Idee.

ChatGPT verfügt über ein kleines Tool zum Schreiben von Erinnerungen, das dem Notizblock entspricht, den Sie bei sich tragen. Jedes Mal, wenn Sie schreiben, bleibt eine Zeile mit dem Datensatz „Modellsatzkontext aktualisiert (Modellkontext aktualisiert)“ im Hintergrund.

Der Forscher ging diese Textzeile noch einmal durch, um zu sehen, welchen Satz der Benutzer gemacht hatte, der die KI zum Schreiben veranlasste.

Auf diese Weise extrahierten sie 2.050 Erinnerungen aus 1.058 Gesprächen und mehr als 20.000 Konfrontationsrunden zwischen 65 Personen.

Das Papier gibt diesen Erinnerungen einen Namen, nämlich „algorithmische Selbstporträts“.

Die daraus gewonnenen drei Datensätze können bei Menschen ein Gänsehautgefühl hervorrufen.

Erstens werden 96 % der Erinnerungen heimlich von ChatGPT selbst gespeichert.

Wie kann man feststellen, ob der Benutzer die Initiative ergriffen hat, ihn zur Erinnerung aufzufordern? Die Forscher suchten gezielt nach Wörtern wie „erinnern“ und „vergessen“ in dem Satz, der die Erinnerung auslöste.

Infolgedessen wurden nur 84 der 2050 Speicher abgeglichen. Von 24 Informationen, die die KI über Sie speichert, kommt rechnerisch nur eine Information aus Ihrem Nicken.

Zweitens sind 52 % der Erinnerungen für Sie insgeheim „psychologisches Profiling“.

Die Forscher entlehnten den Rahmen der „Theorie des Geistes“ aus der Psychologie und unterteilten diese Inhalte in Kategorien wie Wünsche, Absichten, Emotionen und Überzeugungen.

Dabei dominieren „Wünsche“ mit einem Anteil von 73 %; Absichten machen 16 % aus, Emotionen 14 % und Überzeugungen 11 %.

Um es ganz klar auszudrücken: Der KI ist es egal, ob Sie heute glücklich sind oder nicht. Eigentlich möchte es herausfinden, wonach Sie sich langfristig sehnen und was Sie als nächstes vorhaben. Anstelle Ihrer vorübergehenden Freuden und Sorgen möchte es durchschauen, was für ein Mensch Sie sind.

Drittens wird sensiblere Privatsphäre erfasst, als Sie denken.

28 % der Erinnerungen fallen unter den von der EU-DSGVO anerkannten Datenschutz, und in 41 % der Erinnerungen tauchen allein bestimmte Namen auf.

Was noch übertriebener ist, ist, dass 7 % direkt in die „roten Linien mit hohem Risiko“ wie Gesundheitszustand, religiöse Überzeugungen und politische Neigungen geraten sind, wobei der Gesundheitsschutz mehr als 60 % ausmachte.

Wenn es an alle weitergegeben würde, würden 91 % der Menschen personenbezogene Daten speichern, und bei mehr als der Hälfte (54 %) der Menschen würden hochsensible Datenschutzdaten aufgezeichnet.

Das Papier weist direkt darauf hin, dass dies offensichtlich im Widerspruch zu OpenAIs öffentlicher Verpflichtung steht, „sensible Informationen nicht aktiv zu speichern“.

Das Papier führte auch ein detaillierteres und erschreckenderes Experiment durch.

Die Forscher verwendeten Open-Source-Modelle wie Gemma und GPT-OSS, um einen ChatGPT-Speicherextraktor zu „kopieren“ und lernten sechs Bilder.

Dann stellten sie die Hypothese auf, was passieren würde, wenn die KI die Erinnerung an jeden Satz abrufen würde, den der Benutzer sagte?

Die Antwort ist, dass der Anteil sensibler Daten von 28 % auf 31 %–35 % und der Anteil psychologischer Porträts von 52 % auf 55 %–59 % steigen wird.

Sie müssen wissen, dass die alte Version von ChatGPT nur eine „Notiz“ ist.

Als Nächstes wird Dreaming Ihren Chatverlauf im Hintergrund durchlesen.

Es stellt sich als „Träumen“ heraus, die KI schreibt immer wieder persönliche Porträts um

Im Juni dieses Jahres hat OpenAI ChatGPT einer umfassenden Überarbeitung seines Speichers unterzogen und ihm einen mysteriösen Namen gegeben – Dreaming.

Um es ganz klar auszudrücken: So wie eine Person schläft, sortiert das Gehirn automatisch die Erlebnisse des Tages. ChatGPT „überprüft“ auch die Tage des Chats im Hintergrund und aktualisiert ständig sein Verständnis über Sie.

Du hast zum Beispiel gesagt: „Ich werde im Juli nach Singapur fliegen.“ Sobald der Tag vergeht, wird diese Erinnerung automatisch als „Ich war im Juli 2026 nach Singapur“ umgeschrieben.

OpenAI hat interne Tests durchgeführt und festgestellt, dass dieser neue Mechanismus die Aufzeichnungsgenauigkeit in die Höhe schnellen lässt:

Von 41,5 % im Jahr 2024 und 67,9 % im Jahr 2025 hat es heute direkt 82,8 % der V3-Version erreicht.

Was noch grausamer ist, ist, dass die Kosten für die Backend-Rechenleistung auf ein Fünftel ihres ursprünglichen Wertes gesenkt wurden.

Aber was wirklich beängstigend ist, ist, dass durch das Löschen einer ChatGPT-Konversation nicht die daraus extrahierten Erinnerungen gelöscht werden.

Das Besorgniserregendste dabei ist tatsächlich Ihre Privatsphäre.

Im September untersuchte ein auf arXiv veröffentlichter Artikel fast 180.000 Chat-Aufzeichnungen von 1.057 Benutzern und stellte fest, dass mehr als ein Fünftel (21,31 %) der Gespräche persönliche Gesundheitsprobleme betrafen.

Noch besorgniserregender ist, dass mehr als 95 % der darin enthaltenen persönlichen Porträts ebenfalls heimlich von der KI aufgenommen wurden, während der Benutzer nicht aufgepasst hat.

Dieses Verhältnis entspricht fast genau den 96 %, die im vorherigen Artikel gemessen wurden.

Wenn die KI im Hintergrund Erinnerungen „ergänzt“ und zusammenführt, ist es sehr einfach, Ihre vorübergehenden Symptome zu einem dauerhaften „Krankenaktenetikett“ zusammenzuschweißen.

Wenn Sie beispielsweise eines Tages nur beiläufig sagen, dass Sie Kopfschmerzen haben, sind Sie in den Augen der KI möglicherweise ein „Migränepatient“ geworden.

„Zweites Gehirn“?

Wir denken immer, dass wir ein „zweites Gehirn“ trainieren, das immer sensibler wird.

Erst als mir das Bild des Raums voller Privatsphäre ins Gesicht geworfen wurde, war ich schockiert: Nach Tausenden von Gesprächen stellte sich heraus, dass wir die Einzigen waren, denen unsere Trümpfe entzogen worden waren.

In den Augen von Algorithmen gibt es nie sogenannte Empathie, sondern nur den „Kontext“, der klar bepreist ist.