Als kürzlich einige Internetnutzer Beanbao nutzten, um nach Li Yuanhong, einer Figur aus der Republik China, zu suchen, tauchte ein Photoshop-Foto des Schauspielers Fan Wei auf. Dieser Oolong-Vorfall mag amüsant erscheinen, aber tatsächlich hat er die Authentizitätslücken in der KI bei der Bilderkennung und dem Informationsabruf aufgedeckt. Viele Internetnutzer beschwerten sich darüber, dass die KI nicht streng genug sei und dass das Abrufen wichtiger historischer Persönlichkeiten zu Unterhaltungsfehlern führte, was die Genauigkeit der Informationsbeschaffung beeinträchtigte.

Der offiziellen Erklärung zufolge entstand der Oolong aus einem im Internet verbreiteten Missverständnis: Li Yuanhong und Fan Wei sehen sich sehr ähnlich. Das gefälschte PS-Bild während der Besetzung von „Die Gründung der Partei“ im Jahr 2010 wurde weit verbreitet, und die Verbreitungsrate übertraf die echten historischen Fotos bei weitem. Einige Fotogalerien und Enzyklopädien wurden fälschlicherweise einbezogen, was dazu führte, dass dieses äußerst beliebte zusammengesetzte Bild bei KI-Suchen Vorrang hatte.

Das Auftreten solcher Fehler in der KI ist im Wesentlichen eine typische Manifestation der Informationsillusion.

Experten weisen darauf hin, dass große Modelle auf Netzwerkdatenlernen basieren und keine Selbstverifizierungsfähigkeiten besitzen. Wenn falsche Informationen wiederholt im Netzwerk auftauchen, gibt die KI diese leicht als korrekte Ergebnisse aus, was zu einer Situation von „schwerem Unsinn“ führt.

Die aktuelle Technologie kann Halluzinationen nicht vollständig beseitigen. Die Fehlerquote lässt sich nur durch die Optimierung der Datenquellen sowie die Verbesserung der Abfrage und Verifizierung reduzieren.

Dieser Vorfall hat unter Internetnutzern auch Diskussionen über die Zuverlässigkeit von KI ausgelöst. Einige Leute haben sich darüber lustig gemacht, ob bei der Suche nach anderen historischen Persönlichkeiten ähnliche Fehler auftreten. Einige Benutzer teilten auch ihre Erfahrungen mit der Irreführung durch KI-Fehlerinformationen und forderten eine Verbesserung der Genauigkeit von KI-Inhalten.

Derzeit optimieren relevante Plattformen die Suchlogik und geben der Verbreitung von Bildern maßgeblicher historischer Materialien Vorrang, um die Störung durch Fehlinformationen im Internet zu verringern.