Durch künstliche Intelligenz generierte Bilder und andere Formen von Deepfakes, die sexuellen Kindesmissbrauch (CSA) darstellen, könnten in der EU unter Strafe gestellt werden, kündigte die Europäische Kommission heute an. Sie plant, die bestehende Gesetzgebung zu aktualisieren, um mit der technologischen Entwicklung Schritt zu halten. Die EU hat außerdem vorgeschlagen, Live-Streaming von sexuellem Kindesmissbrauch zu einem neuen Straftatbestand zu machen. Der Besitz und Austausch von „Handbüchern zu Pädophilen“ wird im Rahmen des Plans ebenfalls unter Strafe gestellt. Nach Angaben der EU ist er Teil eines umfassenderen Maßnahmenpakets zur Stärkung der Prävention sexuellen Kindesmissbrauchs, einschließlich der Sensibilisierung für Online-Risiken und der Erleichterung für Opfer, Straftaten zu melden und Zugang zu Unterstützung zu erhalten (einschließlich der Gewährung eines Rechts auf finanzielle Entschädigung).
Die aktuellen EU-Vorschriften in diesem Bereich stammen aus dem Jahr 2011, und Vorschläge zu deren Aktualisierung umfassen auch Änderungen der obligatorischen Meldung von Verstößen.
Bereits im Mai 2022 legte die Kommission einen separaten Entwurf einer CSA-bezogenen Gesetzgebung vor, der darauf abzielt, einen Rahmen zu schaffen, nach dem digitale Dienste automatisierte Technologie nutzen müssen, um bestehendes oder neues Material zum sexuellen Missbrauch von Kindern (Child Sexual Abuse Material, CSAM), das auf ihren Plattformen im Umlauf ist, zu erkennen und zu melden sowie um Kinderpflege zu identifizieren und zu melden.
Das CSAM-Scanning-System hat sich als äußerst kontrovers erwiesen – es spaltet weiterhin die Gesetzgeber im Parlament und im EU-Rat, schürt aber auch Misstrauen hinsichtlich der Beziehung zwischen der Europäischen Kommission und Lobbyisten für Kindersicherheitstechnologien und wirft andere peinliche Fragen für die EU-Exekutive auf, wie etwa die rechtlich fragwürdige mikrozielgerichtete Werbekampagne, mit der der Vorschlag beworben wurde.
Die Entscheidung der Europäischen Kommission, digitale Informationsplattformen bei der Lösung von CSA zu priorisieren, hat zu Kritik geführt, dass sich EU-Gesetzgeber bei der Behandlung dieses komplexen sozialen Problems auf die falschen Bereiche konzentrieren – was möglicherweise einen gewissen Druck auf die Kommission ausgeübt hat, Folgeempfehlungen abzugeben. (Die Europäische Kommission hat das natürlich nicht gesagt und das heutige Paket als „Ergänzung“ zu ihrem früheren CSAM-Scan-Vorschlag bezeichnet.)
Doch selbst in den weniger als zwei Jahren, seit das umstrittene Programm zum Scannen privater Informationen vorgeschlagen wurde, sind die Bedenken hinsichtlich der Risiken von Deepfakes und KI-generierten Bildern erheblich gewachsen, einschließlich der Sorge, dass die Technologie zur Erstellung von CSAMs missbraucht werden könnte, und der Sorge, dass solche synthetischen Inhalte es für die Strafverfolgungsbehörden schwieriger machen würden, echte Opfer zu identifizieren. Der virale Boom der KI-generierten Technologie veranlasst die Gesetzgeber also eindeutig dazu, die Regeln zu überdenken.
„Die steigende Zahl von Kindern im Internet und die Entwicklung der Technologie haben neue Möglichkeiten für Missbrauch geschaffen“, sagte das Komitee heute in einer Pressemitteilung. Das Komitee sagte außerdem, dass der Vorschlag darauf abziele, „die Straflosigkeit zu verringern, die den sexuellen Missbrauch und die Ausbeutung von Kindern im Internet durchdringt“.
Der Ausschuss führte vor der Einreichung des Vorschlags eine Folgenabschätzung durch und kam zu dem Schluss, dass der Anstieg der Zahl von Kindern im Internet und „die neuesten technologischen Entwicklungen“ neue Möglichkeiten für das Auftreten von CSA geschaffen hätten. Die Kommission sagte außerdem, sie sei besorgt darüber, dass Unterschiede in den Rechtsrahmen der Mitgliedstaaten Maßnahmen zur Missbrauchsbekämpfung behindern könnten, und wolle die derzeitigen „begrenzten“ Bemühungen zur Verhinderung von CSA und zur Unterstützung von Opfern verbessern.
In einer unterstützenden Erklärung fügte Innenkommissarin Ylva Johansson hinzu: „Die sich rasch weiterentwickelnden Technologien schaffen neue Möglichkeiten für sexuellen Missbrauch von Kindern im Internet und stellen die Strafverfolgungsbehörden bei der Untersuchung dieses äußerst schweren und weit verbreiteten Verbrechens vor Herausforderungen. Ein starkes Strafrecht ist von entscheidender Bedeutung, und heute unternehmen wir einen entscheidenden Schritt, um sicherzustellen, dass wir über wirksame rechtliche Instrumente verfügen, um Kinder zu retten und Täter vor Gericht zu bringen. Wir erfüllen die Verpflichtungen, die wir in der im Juli 2020 vorgelegten EU-Strategie zur wirksameren Bekämpfung des sexuellen Kindesmissbrauchs eingegangen sind.“
Im Hinblick auf Online-Sicherheitsrisiken für Kinder zielt der Vorschlag der Kommission darauf ab, die Mitgliedstaaten zu mehr Investitionen in die „Sensibilisierung“ zu ermutigen.
Wie beim CSAM-Scanprogramm werden die Mitgesetzgeber im EU-Parlament und im Rat über die endgültige Form des Vorschlags entscheiden. Die Zeit für Verhandlungen im Vorfeld der Parlamentswahlen und der Wiederaufnahme des Ausschusses der Kommissare später in diesem Jahr ist begrenzt, obwohl die heutigen Vorschläge der CSA zur Bekämpfung des Vorgehens wahrscheinlich weniger kontrovers sein dürften als der Plan zur Informationserfassung. Es besteht also die Möglichkeit, dass dieser Plan durchgeht, während ein anderer Plan ins Stocken gerät.
Nach Angaben der Europäischen Kommission wird die Richtlinie 20 Tage nach Veröffentlichung im Amtsblatt der Europäischen Union in Kraft treten, wenn Einigkeit darüber besteht, wie die aktuelle Richtlinie zur Bekämpfung von CSA geändert werden soll.