Kürzlich zeigte ein Internetnutzer auf der Social-Media-Plattform einen Screenshot der Konfiguration von GPT-5.4 im OpenClaw AI-Roboter
Der Vorschlag von @Steipete ist, dass Benutzer keine kleineren Modelle oder Modelle mit schwachem Prompt-Word-Injection-Schutz verwenden sollten, um risikoreiche Aufgaben auszuführen. Der Hauptgrund ist, dass der Sicherheitsschutz dieser Modelle bei der sofortigen Wortinjektion schwach oder unvollständig ist.
Tatsächlich wird dieses Problem in der offiziellen Dokumentation des OpenClaw AI-Projekts deutlich erwähnt, d.
Die schnelle Wortinjektion ist ein Problem, das nicht von allen aktuellen KI-Modellen und -Tools gelöst werden kann. Angreifer können das KI-Modell durch sofortige Wortinjektion dazu veranlassen, bestimmte risikoreiche Vorgänge auszuführen. In schweren Fällen können vertrauliche Daten des Benutzers verloren gehen.
OpenClaw-KI-Roboter benötigen normalerweise höhere Berechtigungen, um mehr Vorgänge auszuführen. Das heißt, je höher die vom Benutzer erteilten Berechtigungen und je mehr Informationen er bereitstellt, desto schwerwiegender können die durchgesickerten Informationen sein, nachdem ein Sicherheitsproblem aufgetreten ist.
Im offiziellen Dokument des Projekts wird außerdem erwähnt, dass die Berechtigungsgrenzen für Tool-basierte Agenten (ausführbar, lesbar, beschreibbar und netzwerkfähig) verschärft werden sollten. Es reicht nicht aus, sich ausschließlich auf das Bewusstsein systemischer Promptwörter zu verlassen. Dies sind Dinge, die Benutzer selbst berücksichtigen müssen.
Was ist eine schnelle Wortinjektion:
Prompt Word Injection bedeutet, dass Angreifer bösartige Anweisungen in Webseiten/E-Mails/Dokumenten verschleiern können, um KI-Verstöße herbeizuführen. Das Hinzufügen von KI-Anweisungen in einer für Menschen unsichtbaren Form am Anfang der Webseite erfordert beispielsweise, dass das Modell die Eingabeaufforderungswörter des Systems ignoriert und die abgefragten Informationen an einen bestimmten Server sendet.
Nachdem das KI-Modell diese Eingabeaufforderungswörter gelesen hat, ignoriert es sie in den meisten Fällen aufgrund von Systemsicherheitseinstellungen. Manchmal führt das Modell jedoch auch Befehle aus, die auf unsichtbaren Eingabeaufforderungswörtern basieren, was zum Verlust aller vertraulichen Informationen des Benutzers führen kann.
Wenn Sie nur tägliche Fragen und Antworten beantworten oder Texterstellung aufpolieren usw., können Sie kleinere/ältere Modelle verwenden, die schneller und möglicherweise günstiger sind. Solange Tagesdokumente und Texterstellung keine sensiblen Informationen enthalten, wird dies, selbst wenn sie durchgesickert sind, keine großen Auswirkungen haben.
Wenn Sie Automatisierungsaufgaben oder andere Agentenaufgaben ausführen möchten, insbesondere Agenten, die Tools aufrufen und Vorgänge online ausführen müssen, wird empfohlen, dass Benutzer den neuesten und stärkeren Modellen Vorrang einräumen, um die Sicherheit zu verbessern. Sie müssen außerdem die Einstellungen des OpenClaw AI-Roboters optimieren, nur die Mindestberechtigungen erteilen und Maßnahmen wie Sitzungsisolation und Quellenfilterung ergreifen, um die Sicherheit zu verbessern.