Sicherheitsforscher haben kürzlich Sicherheitslücken in den Connectors von OpenAI offengelegt. Diese Sicherheitslücke kann von einem Angreifer ausgenutzt werden, um durch einen indirekten Prompt-Injection-Angriff ohne Benutzerinteraktion vertrauliche Informationen aus einem Google Drive-Konto zu extrahieren.
Die Sicherheitsforscher Michael Bargury und Tamir Ishay Sharbat gaben die Entdeckung auf der Hackerkonferenz Black Hat in Las Vegas bekannt. Bargury sagte, dass es sich bei dem durch Ausnutzung dieser Schwachstelle durchgeführten Angriff um einen „Zero-Click“-Angriff handele. Der Angreifer muss lediglich die E-Mail-Adresse des Benutzers abrufen und das Dokument freigeben, um den Vorgang abzuschließen. Allerdings wies er auch darauf hin, dass diese Angriffsmethode jeweils nur begrenzte Daten extrahieren und keine vollständigen Dokumente entfernen könne.
Es wird davon ausgegangen, dass es sich bei Connectors um eine Testfunktion handelt, die Anfang des Jahres von OpenAI für ChatGPT eingeführt wurde und es Benutzern ermöglicht, „ihre Tools und Daten in ChatGPT einzubringen“ und Vorgänge wie „Suchen nach Dateien im Chat, Abrufen von Echtzeitdaten und Zitieren von Inhalten“ zu implementieren. Derzeit gibt es mindestens 17 damit verbundene Dienste.
Es ist erwähnenswert, dass Bargury bekannt gab, dass er OpenAI Anfang des Jahres relevante Ergebnisse gemeldet hatte. OpenAI reagierte schnell und führte Abhilfemaßnahmen ein, um technische Mittel zur Datenextraktion über den Connector zu verhindern.
Bisher hat OpenAI nicht öffentlich auf Probleme im Zusammenhang mit dieser Sicherheitslücke reagiert. (Chun Jun)