Generative KI-Dienste erfreuen sich sowohl bei Internetnutzern als auch bei Cyberkriminellen großer Beliebtheit. Nach Angaben des FBI werden „synthetische“ Inhalte zunehmend für verschiedene Betrugsfälle genutzt. Dennoch können sich Einzelpersonen online effektiv schützen, solange sie die richtigen Vorsichtsmaßnahmen treffen.
Das FBI hat eine Warnung vor dem kriminellen Missbrauch von durch künstliche Intelligenz generierter Technologie herausgegeben. In einer kürzlich veröffentlichten öffentlichen Bekanntmachung warnte das Büro die Amerikaner, dass Betrüger mithilfe künstlicher Intelligenz generierte Inhalte nutzen, um ihre illegalen Machenschaften überzeugender und effektiver zu machen.
Nach Angaben des FBI ermöglicht die generative KI Kriminellen, den Zeit- und Arbeitsaufwand für die Täuschung von Zielen zu reduzieren. Diese Tools der künstlichen Intelligenz „synthetisieren“ völlig neue Inhalte auf der Grundlage von vom Benutzer eingegebenen Eingabeaufforderungen. Sie können sogar dazu beitragen, menschliche Fehler zu korrigieren, die Verdacht erregen könnten, insbesondere bei KI-generierten Texten.
Die Erstellung von Inhalten mithilfe künstlicher Intelligenz ist nicht grundsätzlich illegal, wird jedoch zu einer Straftat, wenn diese Inhalte für Betrugs- oder Erpressungsversuche verwendet werden. Die FBI-Warnung beschreibt mehrere Beispiele dafür, wie generative KI missbraucht werden kann, und bietet praktische Ratschläge, die Benutzern helfen sollen, sich online zu schützen.
Bei Social-Engineering- oder Spear-Phishing-Kampagnen wirken KI-generierte Texte äußerst überzeugend. Betrüger nutzen KI-generierte Technologie, um gefälschte Inhalte zu produzieren, gefälschte Social-Media-Profile zu erstellen, Nachrichten zu versenden und Sprachen mit größerer Genauigkeit und weniger Grammatikfehlern zu übersetzen. Mittlerweile können in Rekordzeit ganze betrügerische Websites eingerichtet werden, und Chatbots werden eingesetzt, um Opfer dazu zu verleiten, auf bösartige Links zu klicken.
Es besteht kein Zweifel daran, dass KI-generierte Bilder an der Spitze der aktuellen Trends stehen und Cyberkriminelle sie voll ausnutzen. Betrüger verwenden KI-generierte Bilder, um gefälschte Social-Media-Profile und gefälschte Ausweisdokumente zu verbessern und betrügerische Aktivitäten zu unterstützen. Nach Angaben des FBI können Algorithmen der künstlichen Intelligenz „realistische“ Bilder erzeugen, die für Social-Engineering-Kampagnen, Spear-Phishing, Betrug und sogar „Killing Pans“ verwendet werden.
KI-generierte Audio- und Videoinhalte bergen ähnliche Risiken. Kriminelle können sich nun als Persönlichkeiten des öffentlichen Lebens oder sogar als Ziel selbst ausgeben, finanzielle Unterstützung anfordern oder auf vertrauliche Informationen wie Bankkonten zugreifen.
Das FBI rät Benutzern, mit vertrauenswürdigen Familienmitgliedern und Freunden ein „geheimes Wort“ oder einen geheimen Satz festzulegen, um die Identität schnell zu überprüfen. Weitere Tipps zum Schutz vor generativen KI-Verbrechen sind die sorgfältige Überprüfung von Bildern und Videos auf Anomalien oder Inkonsistenzen sowie die Minimierung der Online-Verfügbarkeit persönlicher Bilder oder Aufzeichnungen.
Bei der Bearbeitung von Finanzanfragen betont das FBI, wie wichtig es ist, ihre Legitimität durch direkte Telefonanrufe zu überprüfen, anstatt sich auf Textnachrichten oder E-Mails zu verlassen. Geben Sie niemals vertrauliche Informationen an Personen weiter, die Sie nur online kennengelernt haben. Obwohl dies offensichtlich erscheinen mag, weist das FBI auch darauf hin, dass das Versenden von Geld, Geschenkkarten oder Kryptowährungen an Fremde im Internet sehr riskant ist und häufig zu Betrug führt.