DeepSeek reagiert auf die Sicherheitslücke „zufällige Rückkehr“: Sonderzeichen verursachen Modellhalluzinationen und bringen keine Sicherheitsprobleme oder Datenschutzlecks mit sich

Am 19. Mai veröffentlichte das offizielle DeepSeek-Konto „Anweisungen zu abnormalen Reaktionen, die durch Zeichen im Modell ausgelöst werden“: Kürzlich haben wir Benutzerfeedback festgestellt, dass das Modell nach der Eingabe von Sonderzeichen wie „ “ in einer Konversation mit dem DeepSeek-Modell gelegentlich unerwartete Inhalte zurückgibt, was bei einigen Benutzern Bedenken hinsichtlich eines „Konversationslecks“ hervorruft. Als Reaktion auf dieses Problem stellte unser technisches Team nach einer umfassenden Untersuchung Folgendes fest:

Die Eingabe von Zeichen wie „ “ löst die Rückgabe abnormaler Inhalte aus, bei denen es sich um eine Modellhalluzination handelt, die durch Sonderzeichen verursacht wird und keine Sicherheitsprobleme oder Datenschutzverletzungen mit sich bringt.

In Zukunft werden wir die Fähigkeit des Modells, Sonderzeichen zu erkennen und zu verarbeiten, durch gezieltes Training verbessern, damit verbundene bekannte Probleme beheben und die Leistung des Modells in solchen Szenarien optimieren.

DeepSeek legt stets großen Wert auf die Sicherheit der Benutzerdaten und das Benutzererlebnis. Vielen Dank für Ihre Aufmerksamkeit und Aufsicht. Benutzer können uns auch jederzeit Fragen und Anregungen über offizielle Kanäle mitteilen.

Am 18. Mai meldeten viele Benutzer, dass in der DeepSeek-Webversion eine Funktionslücke bestand. Wenn das Zeichen „>“ eingegeben wurde, wurde automatisch die Antwort auf eine bestimmte Frage geladen.

In diesem Zusammenhang führte der Reporter einen tatsächlichen Test durch und stellte fest, dass DeepSeek beim Aufrufen des „Schnellmodus“ von DeepSeek unabhängig davon, ob die beiden Funktionen Deep Thinking und Intelligent Search geladen sind, direkt mit der Antwort beginnt, solange die oben genannten Zeichen eingegeben werden, und der Inhalt der Antwort nichts mit dem vom Reporter eingegebenen Inhalt zu tun hat.

Wenn der Reporter erneut tippt: „Welche Frage habe ich Ihnen gerade gestellt?“ DeepSeek wird die Frage wiederholen. Einige Benutzer berichteten, dass bei diesen Fragen der Verdacht bestand, dass es sich um Fragen anderer Benutzer handelte.

Zuvor, am Morgen des 24. April, veröffentlichte DeepSeek offiziell die Vorschauversion von DeepSeek-V4, einer neuen Serie großer Modelle, und vervollständigte gleichzeitig die Open Source und eröffnete die offizielle Website sowie App- und API-Aufrufdienste, was den Eintritt der ultralangen Kontextfähigkeit mit Millionen Wörtern in die inklusive Phase markierte und große Aufmerksamkeit erregte.