Kürzlich berichteten Medien, dass ein Bürger in Xi'an, als er am Silvesterabend mithilfe der Tencent Yuanbao-App Bilder für Neujahrsgrüße erstellte, auf eine Anomalie bei der KI-Ausgabe beleidigender Texte stieß, was in der Öffentlichkeit Besorgnis über die Sicherheit von KI-Inhalten und die Stabilität des Modells hervorrief. Nach Angaben der betroffenen Person lud er die Yuanbao-App am Silvesterabend gegen 9 Uhr zum ersten Mal herunter und nutzte sie in der Hoffnung, ein Neujahrsgrußbild zu erstellen, das seine eigenen beruflichen Eigenschaften vereinte, um es mit seinem Freundeskreis zu teilen. In diesem Zeitraum erteilte er der KI etwa fünf Anweisungen, ohne während des gesamten Prozesses verbotene Wörter oder irreführende Ausdrücke zu verwenden.
Obwohl die Ergebnisse der vorherigen Generation nicht ideal waren, war der Inhalt normal; Bis zur letzten Generation erschien direkt unter seinem persönlichen Foto die vierstellige Beleidigung „Deine Mutter ist ein X“.
Der Beteiligte sagte, dass ihn dieses Ergebnis wütend und lustig mache. Er hätte nie gedacht, dass er an Silvester von der KI beschimpft werden würde.
Als Antwort darauf lautet die offizielle Antwort von Tencent Yuanbao wie folgt:
„Es tut mir sehr leid, Ihnen eine schlechte Erfahrung machen zu müssen. Nach der Überprüfung wird diese Situation durch die abnormalen Ergebnisse verursacht, die das Modell bei der Verarbeitung mehrerer Dialogrunden ausgibt. Derzeit haben wir die relevanten Probleme dringend behoben und die Erfahrung optimiert. Vielen Dank für Ihre Betreuung und Vorschläge zu Yuanbao und wir entschuldigen uns noch einmal feierlich bei Ihnen!“
Allerdings ist dies nicht das erste Mal, dass Yuanbao AI ähnliche Probleme hat. Zu Beginn dieses Jahres berichteten einige Internetnutzer, dass „die Verwendung von Yuanbao zur Änderung des Codes eine Beleidigung war und wahllos darauf reagiert wurde“.
Laut Internetnutzern erhielten sie bei der Verwendung von Tencent Yuanbao AI zur Verschönerung des Codes oft beleidigende Antworten von der KI, wie „Geh weg“, „Weißt du nicht, wie man ihn selbst anpasst“, „jeden Tag die Zeit anderer Leute verschwenden“ usw. Der Screenshot zeigt, dass der Benutzer nur regelmäßige Änderungswünsche gestellt hat, die KI jedoch plötzlich aggressiv wurde.
Am 3. Januar entschuldigte sich Tencent Yuanbaos offizieller Account unter einem entsprechenden Beitrag und sagte:Es tut uns sehr leid, dass wir Ihnen eine schlechte Erfahrung gemacht haben. Wir haben eine entsprechende Überprüfung anhand der Protokolle durchgeführt. Es hat nichts mit Benutzeroperationen zu tun und es gibt keine manuelle Antwort. Es handelt sich um eine abnormale Ausgabe des Modells mit geringer Wahrscheinlichkeit.
Tencent Yuanbao gab an, dass das Modell während des Content-Generierungsprozesses gelegentlich Fehler machen kann, die nicht den Erwartungen entsprechen. Yuanbao hat außerdem interne Untersuchungen und Optimierungen eingeleitet und wird sein Bestes geben, um zu verhindern, dass ähnliche Situationen erneut auftreten.