Cyberkriminelle scheinen großes Interesse an generativer KI zu haben. Microsoft warnt davor, dass die Technologie so weit fortgeschritten ist, dass Online-Betrügereien nun in Minuten statt in Tagen oder Wochen erledigt werden können, und dass kaum oder gar keine technischen Kenntnisse erforderlich sind.

Microsoft schreibt in der neuesten Version seines Cyber ​​Signal-Berichts, dass künstliche Intelligenz begonnen habe, die technische Hürde für Betrüger und Cyberkriminelle zu senken, die nach eigenen Produktivitätstools suchen.

Die Bandbreite an Online-Betrügereien, für die KI eingesetzt werden kann, ist riesig. Beispielsweise können diese Tools dabei helfen, Social-Engineering-Köder zu erzeugen, indem sie Netzwerkdaten scannen und auswerten, um detaillierte Profile von Mitarbeitern oder anderen Zielen zu erstellen.

Es gibt auch raffinierte Betrugsfälle, bei denen KI-gestützte Produktbewertungen und KI-generierte Storefronts zum Einsatz kommen, bei denen Betrüger komplett gefälschte Websites und gefälschte E-Commerce-Marken erstellen sowie Geschäftshistorie und Kundenbewertungen fälschen. Betrüger können künstliche Intelligenz sogar nutzen, um Kundendienst-Chatbots zu entwickeln, die fälschlicherweise unerklärliche Gebühren und andere Anomalien melden.

Es gibt seit langem Berichte darüber, dass die sich weiterentwickelnde Technologie Deepfakes zu einem beliebten Werkzeug für Betrüger macht. Wir haben gesehen, dass es dazu verwendet wurde, gefälschte Promi-Empfehlungen zu erstellen, sich als Freunde und Familie auszugeben und, wie Microsoft betont, sogar für Personalbeschaffungs- und Bewerbungsgespräche, die über Videoanrufe durchgeführt wurden. Das Unternehmen weist darauf hin, dass Verzögerungen bei der Lippensynchronisation, Roboterstimmen oder seltsame Gesichtsausdrücke allesamt Anzeichen dafür sind, dass es sich bei der Person am anderen Ende eines Videoanrufs möglicherweise um einen Deepfake handelt.

Microsoft rät Verbrauchern, sich vor zeitlich begrenzten Angeboten, Countdowns und fragwürdigen Bewertungen in Acht zu nehmen. Sie sollten außerdem vor dem Kauf Domains und Bewertungen noch einmal überprüfen und Zahlungsmethoden meiden, die keinen Betrugsschutz bieten, wie etwa direkte Banküberweisungen und Zahlungen in Kryptowährung.

Auch Betrügereien beim technischen Support nehmen zu. Auch wenn künstliche Intelligenz nicht immer im Spiel ist, geben sich Betrüger im technischen Support häufig als legitime IT-Supportmitarbeiter bekannter Unternehmen aus und nutzen Social-Engineering-Taktiken, um das Vertrauen der Zielbenutzer zu gewinnen. Bei dieser Art von Betrug wird häufig das Windows-Tool „Quick Assistant“ verwendet, das es einem Angreifer ermöglicht, über eine Remoteverbindung den Bildschirm anzuzeigen oder den Bildschirm zu übernehmen, um das Problem zu beheben. Aus diesem Grund fügt Microsoft dem Quick Assistant eine Warnung hinzu und fordert Benutzer auf, ein Kontrollkästchen zu aktivieren, um auf die Sicherheitsrisiken der Bildschirmfreigabe hinzuweisen. Microsoft empfiehlt außerdem die Verwendung von Remote Help anstelle von Quick Assistant für den internen technischen Support.

Der Artikel konzentriert sich zwar auf die Gefahren von KI-Betrug, stellt aber auch fest, dass Microsoft seine Plattform und Kunden weiterhin vor Cyberkriminellen schützen wird. Zwischen April 2024 und April 2025 blockierte Microsoft Betrugsversuche im Wert von 4 Milliarden US-Dollar, lehnte 49.000 betrügerische Partnerregistrierungen ab und blockierte etwa 1,6 Millionen Bot-Registrierungsversuche pro Stunde.