Zusammenfassung:
OpenAI fügt den von ChatGPT und Codex in der Europäischen Union generierten Texten nach und nach unsichtbare Wasserzeichen hinzu, um die Anforderungen des EU-Gesetzes über künstliche Intelligenz an die Lesbarkeit von KI-generierten Inhalten zu erfüllen. OpenAI sagte, dass diese Text-Wasserzeichen-Technologie namens textGrain dem Artikel keine versteckten Zeichen, unsichtbaren Leerzeichen oder besonderen Satzzeichen hinzufügt. Stattdessen passt es die Wortauswahlmethode an, wenn das Modell Text generiert, und bildet so ein statistisches Merkmal im gesamten Text, das vom menschlichen Auge nicht direkt erkannt werden kann, aber von der Maschine erkannt werden kann.
Nach Angaben von OpenAI treten die entsprechenden Transparenzanforderungen des EU-Gesetzes zur künstlichen Intelligenz am 2. August 2026 in Kraft. Anbieter generativer KI-Dienste müssen über KI-generierte Inhalte mit maschinenerkennbaren Markierungen verfügen. OpenAI plant daher, in den nächsten Wochen schrittweise Textwasserzeichen für berechtigte ChatGPT- und Codex-Benutzer in der EU einzuführen, und diese Bereitstellung wird alle ChatGPT-Pakete abdecken, nicht nur zahlende Benutzer.
Diese Art von Wasserzeichen unterscheidet sich von „verstecktem Text“ im herkömmlichen Sinne. Wenn Benutzer den von ChatGPT generierten Inhalt kopieren, wird nicht gleichzeitig ein verstecktes Zeichen kopiert und es werden keine Sonderzeichen im Text gefunden. Was textGrain tatsächlich ändert, ist die zufällige Auswahlwahrscheinlichkeit des Modells, wenn es mit mehreren möglichen Wörtern konfrontiert wird. Die Änderungen in einem einzelnen Wort können völlig unsichtbar sein, aber wenn eine große Anzahl von Wörtern kombiniert wird, kann sich ein statistisches Muster bilden, das das Erkennungssystem erkennen kann.
OpenAI gab an, dass der Vorteil dieses Designs darin besteht, dass es die normale Textausgabe nicht wesentlich verändert. Die Tests des Unternehmens ergaben, dass der Unterschied in der Modellleistung zwischen dem Hinzufügen von Wasserzeichen und dem Nicht-Hinzufügen von Wasserzeichen innerhalb des normalen Testschwankungsbereichs lag und die Auswirkung auf die Textgenerierungsgeschwindigkeit ebenfalls sehr gering war. Bei früheren internen Tests von ChatGPT durch OpenAI wurde nicht festgestellt, dass die Wasserzeichenfunktion zu einem Anstieg negativer Benutzerbewertungen führte.
OpenAI gab jedoch auch zu, dass Textwasserzeichen keine 100 % zuverlässige Methode zur Identifizierung von KI-Inhalten sind. Bei der Wasserzeichenerkennung gibt es zwei mögliche Fehler. Zum einen wird fälschlicherweise davon ausgegangen, dass Text ohne Wasserzeichen ein Wasserzeichen enthält. Zum anderen weist der Text tatsächlich ein Wasserzeichen auf, das Erkennungssystem erkennt es jedoch nicht.
Die Textlänge ist ebenfalls ein wichtiger Faktor, der sich auf die Erkennungsergebnisse auswirkt. Bei kürzeren Texten hat das Modell weniger Spielraum für die Anpassung der Wortauswahl, wodurch es schwieriger wird, ein stabiles statistisches Signal zu bilden. Die von OpenAI veröffentlichten Regeln zeigen auch, dass gemäß den EU-KI-Transparenzspezifikationen eine Ausgabe von weniger als 200 Token, etwa 150 englischen Wörtern und Codefragmenten nicht erforderlich ist, um Textwasserzeichen hinzuzufügen.
Es gibt auch Unterschiede in den Erkennungsergebnissen zwischen verschiedenen Sprachen. OpenAI hat alle 24 Amtssprachen der Europäischen Union getestet. Bei einer Falsch-Positiv-Rate von 1 % erreichte die Erkennungsrate für Spanisch ein Maximum von 69 %, während die Erkennungsrate für Rumänisch nur 42,2 % betrug. Bei Sprachen mit schwachen Erkennungseffekten kann OpenAI die Wasserzeichenstärke erhöhen, um die Erkennungsfähigkeiten zu verbessern.
Das bedeutet, dass textGrain nicht als eine Technologie verstanden werden kann, die zu 100 % nachweisen kann, dass es von ChatGPT generiert wurde, wenn Sie das Wasserzeichen sehen. OpenAI macht deutlich, dass es keine Garantie dafür gibt, dass das Erkennungssystem das Wasserzeichen erkennen kann, selbst wenn der Originaltext nicht verändert wurde, insbesondere wenn der Text kurz ist oder der Bereich auswählbarer Wörter klein ist.
Gleichzeitig gibt es offensichtliche Unterschiede zwischen Textwasserzeichen und KI-Textdetektoren, die derzeit auf dem Markt sind. KI-Erkennungstools von Drittanbietern wie Pangram verwenden hauptsächlich Klassifikatoren, um zu bestimmen, ob ein Textstück wahrscheinlich von KI generiert wird, indem sie Wortwahl, Satzstruktur und andere Sprachmerkmale analysieren. Diese Methode analysiert den Text nach seiner Generierung, während textGrain während des Textgenerierungsprozesses direkt ein maschinenlesbares statistisches Signal hinterlässt.
OpenAI ist der Ansicht, dass dieser Ansatz eher den Anforderungen des EU-KI-Gesetzes für „eingebettete“ identifizierbare Signale entspricht.
OpenAI hat SynthID von Google DeepMind oder andere bestehende Textwasserzeichenlösungen nicht direkt übernommen, sondern textGrain selbst entwickelt. Das Unternehmen sagte, dass seine selbst entwickelte Technologie es ihm ermögliche, das Gleichgewicht zwischen der Erkennbarkeit von Wasserzeichen und der Vielfalt der Modellausgaben flexibler anzupassen. Bei internen Tests erkannte textGrain mit Wasserzeichen versehenen Text mit einer Geschwindigkeit, die gleich oder höher war als bei anderen vom Unternehmen getesteten Lösungen, einschließlich SynthID für Text.
OpenAI plant außerdem die Open-Source-TextGrain-Technologie und hofft, dass andere Forschungseinrichtungen und Unternehmen diese Technologie nutzen können, um die KI-Textquellenerkennung weiter zu erforschen und zu verbessern. Allerdings wird OpenAI den Text-Wasserzeichen-Detektor nicht sofort der Öffentlichkeit zugänglich machen, sondern zunächst Anwendungskanäle für zugelassene Forscher und professionelle Institutionen bereitstellen.
Diese autorisierten Forscher und Institutionen können die Erkennungstools von OpenAI verwenden, um festzustellen, ob ein Text ein von OpenAI generiertes Wasserzeichen enthält. Die Erkennungsergebnisse geben jedoch keine Auskunft über die Benutzeridentität, Aufforderungswörter oder Chat-Aufzeichnungen, die dem generierten Inhalt entsprechen. OpenAI ist der Ansicht, dass die direkte Öffnung von Erkennungstools für jedermann zu einer Überinterpretation der Ergebnisse der Wasserzeichenerkennung führen kann, da bei der aktuellen Technologie immer noch das Risiko falsch positiver und falsch negativer Ergebnisse besteht.
Es ist erwähnenswert, dass OpenAI dieses Mal nicht plant, Textwasserzeichen standardmäßig global zu aktivieren. Das Unternehmen gab an, dass die Textwasserzeichen von ChatGPT und Codex derzeit schrittweise nur für die EU-Region eingeführt werden. Diese regionale Bereitstellung wird es OpenAI ermöglichen, die Leistung in realen Nutzungsumgebungen zu beobachten und die Technologie basierend auf tatsächlichem Feedback anzupassen.
Für API-Entwickler ist die Situation anders. OpenAI hat damit begonnen, globalen API-Kunden die aktive Aktivierung der Textwasserzeichenfunktion für einige Modelle zu ermöglichen, sie ist jedoch immer noch standardmäßig deaktiviert. Dies bedeutet, dass Unternehmen basierend auf ihren eigenen Transparenzanforderungen entscheiden können, ob sie über APIs generierten Text mit einem Wasserzeichen versehen möchten.
OpenAI stimmt sich auch mit Cloud-Service-Partnern ab und hofft, dass in den nächsten Wochen auch berechtigte Inhalte, die durch den Aufruf von OpenAI-Modellen über diese Cloud-Plattformen generiert werden, entsprechende Quellsignale erhalten.
Textwasserzeichen werden jedoch andere Methoden zur Identifizierung von KI-Inhalten nicht ersetzen. OpenAI betont, dass Quellinformationen wie maschinenlesbare Wasserzeichen und C2PA öffentliche Erklärungen wie sichtbare KI-Kennzeichnungen und Prompt-Banner, die gesetzlich oder plattformrechtlich vorgeschrieben sind, nicht ersetzen können. Sie lösen Content-Source-Probleme auf verschiedenen Ebenen.
Für normale Benutzer ist das Bemerkenswerteste an dieser Änderung: Wenn Sie sich in der EU befinden und ChatGPT zum Generieren von Langtext verwenden, kann es sein, dass der generierte Inhalt ab dem Zeitpunkt, an dem das Wasserzeichensystem Ihr Konto offiziell abdeckt, bereits Quellsignale enthält, die mit bloßem Auge nicht sichtbar sind. Durch direktes Kopieren des Originaltextes wird dieses Signal normalerweise nicht zerstört, aber wenn der Text erheblich umgeschrieben, umformuliert oder übersetzt wird, kann die Erkennbarkeit des Wasserzeichens erheblich eingeschränkt sein.
OpenAI erkennt diese Einschränkung auch ausdrücklich an. Das Signal von textGrain ist in der Wortauswahl des Modells vorhanden und nicht als unsichtbares Zeichen, das unabhängig an die Textdatei angehängt ist. Daher kann eine ausreichende Umschreibung des Textes das ursprüngliche statistische Muster zerstören. Aus diesem Grund betont OpenAI, dass Textwasserzeichen derzeit eher als Signal zur Quellenbeurteilung geeignet sind und nicht als absolut zuverlässiges „KI-Identifikationszertifikat“ angesehen werden können.
Im Allgemeinen hat OpenAI textGrain dieses Mal in der EU eingeführt, hauptsächlich um sich an die neuen regulatorischen Anforderungen des KI-Gesetzes anzupassen. Es zeigt auch, dass sich die Quellenidentifizierung von KI-generiertem Text von traditionellen „deklarativen Tags“ zu maschinenerkennbaren Signalen weiterentwickelt. Es wird weder den Text ändern, den Benutzer sehen, noch werden beim Kopieren von Text mysteriöse Zeichen angezeigt, aber es ermöglicht Systemen mit Erkennungsberechtigungen, festzustellen, ob ein Inhalt von einem OpenAI-Modell stammt.
Da Textwasserzeichen jedoch immer noch Probleme wie Sprachunterschiede, Textlängenbeschränkungen und Signalschwächung nach dem Umschreiben aufweisen, eignen sie sich derzeit eher als Hilfsbeweis im System zur Rückverfolgbarkeit von KI-Inhalten und werden nicht allein verwendet, um festzustellen, ob ein Artikel „von KI geschrieben“ wurde.
Kommentare