OpenAI hat ein Tool entwickelt, mit dem Schüler potenziell beim Schummeln erwischt werden könnten, indem sie ChatGPT bitten, Aufgaben zu schreiben. Das Wall Street Journal berichtet jedoch, dass das Unternehmen darüber debattiert, ob ein solches Tool tatsächlich veröffentlicht werden soll. In einer Erklärung bestätigte ein OpenAI-Sprecher, dass das Unternehmen an der im Daily News-Bericht beschriebenen Textwasserzeichenmethode arbeite, sagte jedoch, dass es aufgrund „der damit verbundenen Komplexität und der möglichen Auswirkungen auf das breitere Ökosystem über OpenAI hinaus“ einen „überlegten Ansatz“ verfolge.
„Die von uns entwickelte Textwasserzeichenmethode ist technisch vielversprechend, aber während wir Alternativen untersuchen, wägen wir die wichtigen Risiken ab, einschließlich der Leichtigkeit der Umgehung durch böswillige Akteure und der Möglichkeit unverhältnismäßiger Auswirkungen auf Gruppen wie nicht-englischsprachige Personen“, sagte der Sprecher.
Dies wäre ein anderer Ansatz als die meisten bisherigen Bemühungen zur Erkennung von KI-generiertem Text, die weitgehend wirkungslos waren. OpenAI hat letztes Jahr sogar seinen bisherigen Textdetektor für künstliche Intelligenz wegen „geringer Genauigkeit“ abgeschaltet.
Was Textwasserzeichen angeht, wird sich OpenAI nur auf die Erkennung von Text in ChatGPT konzentrieren und nicht auf die Modelle anderer Unternehmen. Zu diesem Zweck wird OpenAI geringfügige Änderungen an der Art und Weise vornehmen, wie ChatGPT Text auswählt, und ein unsichtbares Wasserzeichen im Text erstellen, das dann von einem separaten Tool erkannt wird.
Nach der Veröffentlichung des Berichts aktualisierte OpenAI im Mai auch einen Blogbeitrag, um seine Forschung zur Erkennung von durch künstliche Intelligenz generierten Inhalten vorzustellen. In der Aktualisierung heißt es, dass sich Textwasserzeichen als „sehr genau und sogar wirksam gegen lokalisierte Manipulationen wie Paraphrasierung“ erwiesen haben, sich jedoch als „weniger robust gegenüber globalisierten Manipulationen wie der Verwendung eines Übersetzungssystems, der Neuformulierung mit einem anderen generativen Modell oder der Anforderung, dass das Modell zwischen jedem Wort ein Sonderzeichen einfügen und dieses Zeichen dann löschen muss“, erwiesen haben.
OpenAI schreibt daher, dass diese Methode „von Missbrauchern leicht umgangen werden kann“. Das Update von OpenAI spiegelt auch den Standpunkt des Sprechers in Bezug auf Nicht-Englisch-Sprecher wider und argumentiert, dass Textwasserzeichen „den Einsatz von KI als nützliches Schreibwerkzeug für Nicht-Englisch-Muttersprachler trüben könnten“.
Erfahren Sie mehr:
https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/