In letzter Zeit nutzen Hacker aktiv beliebte Tools für künstliche Intelligenz wie ChatGPT und Claude für Phishing. Hacker entscheiden sich für diese Tools, weil sie ein hohes Suchvolumen haben und offizielle Domainnamen über Plug-ins oder Content-Sharing wiederverwenden können. Zumindest für die meisten Nutzer können sie nicht direkt an der obersten Anzeige in den Google-Suchergebnissen erkennen, dass es sich um eine Phishing-Website handelt, sodass die Erfolgsquote von Hacker-Phishing deutlich höher ist.
Böswillige Nutzung von Plug-in-Funktionen für Phishing:
Mit der ChatGPT-Canvas-Funktion kann ein Canvas ähnlich einer Webseite erstellt werden. In der neuesten Phishing-Kampagne nutzten Hacker diese Funktion, um eine gefälschte offizielle ChatGPT-Website zu erstellen. Im Canvas behauptete der Hacker, dass das aktuelle Verkehrsaufkommen zu hoch sei und forderte die Benutzer auf, die Desktop-Version herunterzuladen, um den Besuch fortzusetzen. Der Download-Button für die Desktop-Version wies tatsächlich auf ein vom Hacker bereitgestelltes bösartiges Installationspaket hin.
Diese Phishing-Methode weist mehrere bemerkenswerte Merkmale auf: 1. Hacker nutzen den ChatGPT-Canvas, um Inhalte zu erstellen und zu teilen, sodass der Inhaltslink immer noch ChatGPT.com lautet; 2. Hacker platzieren Anzeigen in der Google-Suche und die in den Anzeigen angezeigte Adresse ist ebenfalls ChatGPT.com, was die Wachsamkeit der Benutzer verringern kann; 3. Nachdem Benutzer auf die Anzeigen geklickt haben, um zur Zielseite zu gelangen, wird in der Adressleiste weiterhin ChatGPT.com angezeigt und diese Website wird nicht durch Sicherheitssoftware blockiert.
Es ist auch unwahrscheinlich, dass OpenAI das Teilen von Inhalten überprüft, die von Benutzern erstellt wurden, sodass solche Phishing-Angriffe in Zukunft deutlich zunehmen dürften. Für Nutzer kann es eine gute Wahl sein, Werbeblocker-Erweiterungen direkt zu installieren, um Anzeigen aus der Google-Suche oder anderen Suchmaschinen zu blockieren.
Auch bei Claude gibt es ähnliche Angelfälle:
Einige Nutzer haben festgestellt, dass Phishing-Websites mit Bezug zu Claude auch in Google-Suchanzeigen erscheinen. Die Phishing-Methode ähnelt dem ChatGPT-Fall und nutzt ebenfalls die Content-Sharing-Funktion von Claude.Ai. Hacker nutzen Claude zunächst, um bösartige Konversationen zu erstellen, die Links zu Phishing-Websites oder Malware-Downloads enthalten, die von Hackern kontrolliert werden. Hacker erstellen im Vorfeld Content-Sharing für eine Vielzahl beliebter Software. Wenn Benutzer beispielsweise nach CPU-Z suchen, wird die oberste Anzeige auf der Startseite Benutzer dazu verleiten, zum Claude.Ai-Share-Inhalt zu springen, und sie dann dazu verleiten, auf den Link zu klicken, um Malware herunterzuladen.
Da Anthropic die von Nutzern geteilten Inhalte offensichtlich nicht überprüft, lässt sich diese Phishing-Methode tatsächlich nur schwer vollständig unterbinden, weshalb das direkte Blockieren verschiedener Suchmaschinenanzeigen möglicherweise der beste Ansatz ist.
über Jan