Irlands Regulierungsrat für neue Medien, Coimisiúnna Meán (Kodex für Online-Sicherheit), hat öffentliche Rückmeldungen zum Kodex für Online-Sicherheit, Irlands erstem Video-Sharing-Plattformdienst, eingeholt. Der Kodexentwurf enthält einen Vorschlag, dass Plattformen die Hinzufügung einer Funktion in Betracht ziehen sollten, um Empfehlungsalgorithmen, die auf Benutzerprofilen basieren, standardmäßig zu deaktivieren.
Es werden Sicherheitsmaßnahmen erwartet, die darauf abzielen, Anbieter von Video-Sharing-Plattform-Diensten (VPSPs) rechtlich für die Sicherheit von Menschen im Internet verantwortlich zu machen, wie etwa die Einführung einer stärkeren Technologie zur Altersüberprüfung und die Verhinderung des Hochladens oder Teilens von Inhalten, die gewalttätig sind oder Hass schüren. Die Vorschläge von Coimisiúnna Meán (CnaM) für Empfehlungsalgorithmen sind vielleicht weniger vielversprechend. Angesichts der Tatsache, dass Technologiegiganten wie Google, Microsoft, Apple, TikTok und Meta Irland zum Hauptsitz ihrer EU-Operationen gemacht haben, könnten die vorgeschlagenen Änderungen schwerwiegende Folgen haben.
Empfehlungsquellen oder Empfehlungsalgorithmen nutzen die Vorlieben des Nutzers, frühere Suchanfragen oder Aktionen sowie andere relevante Daten, um Videoinhalte zu empfehlen, die für den Nutzer von Interesse sein könnten. Wir haben alle diese Erfahrung gemacht: Sie haben auf ein Katzenvideo geklickt, weil Ihr Freund sagte, es sei süß oder lustig, und bevor Sie es wussten, empfahl Ihnen YouTube Hunderte ähnlicher Videos, die Sie nicht ansehen wollten.
Aber das Ziel von CnaM sind keine Katzenvideos. Das Empfehlungssystem wird auch schädliche Inhalte plattformübergreifend verstärken. Aus diesem Grund hat die Kommission einen „Safety by Design“-Ansatz eingeführt, der von VPSPs verlangt, „wo immer möglich, angemessene, verhältnismäßige und wirksame Maßnahmen zu ergreifen, um das Risiko von Schäden (insbesondere für Kinder) zu verringern, die durch die Art und Weise entstehen, wie Empfehlungssysteme Inhalte aggregieren und an Benutzer liefern.“ Im Endeffekt müssen Anbieter (so der Kodex) sicherstellen, dass Empfehlungsalgorithmen Nutzer nicht schädlichen Inhalten aussetzen.
Doch die Pflichten des VPSP enden hier nicht. Wenn die Kodexentwürfe „wie sie sind“ angenommen werden, müssten sie dem Ausschuss jährlich „oder in anderen vom Ausschuss festgelegten Abständen“ über die Maßnahmen berichten, die in Bezug auf empfohlene Algorithmen ergriffen wurden. Berichterstattung erfolgt also im Wesentlichen auf Anfrage. Darüber hinaus müssen Lieferanten „einen empfohlenen Systemsicherheitsplan entwickeln, veröffentlichen und umsetzen, der wirksame Maßnahmen zur Reduzierung des Schadensrisikos umfasst, das durch ihre empfohlenen Systeme verursacht werden kann.“ Bei der Entwicklung des oben genannten Sicherheitsplans müssen VPSPs „zumindest“ darüber nachdenken, ob sie eine Funktion einbauen, die es Benutzern ermöglicht, alle Profilierungsalgorithmen zurückzusetzen, „damit sie genauso funktionieren wie neue Benutzer“, oder ob sie eine Funktion einschließen, die sicherstellt, dass profilierungsbasierte Empfehlungsalgorithmen standardmäßig deaktiviert sind.
CnaM beabsichtigt, gesonderte Konsultationen zu diesen Themen durchzuführen, die von Interessenvertretern bei der Entwicklung des Cyber-Sicherheitskodex als Bedenken geäußert wurden. Sie planen nicht, Maßnahmen zur Änderung des Algorithmus in den ersten Kodex aufzunehmen.
Zurück zu den Katzenvideos. Im Jahr 2022 analysierten Mozilla-Forscher sieben Monate lang die YouTube-Aktivitäten von mehr als 20.000 Teilnehmern und stellten fest, dass ein einzelnes abgelehntes Video durchschnittlich 115 schlechte Empfehlungen auslöste, die den Videos sehr ähnlich waren, die Nutzer der Plattform mitgeteilt hatten, dass sie sie nicht sehen wollten.
Möchten Sie, dass der Algorithmus Ihnen keine „für Sie passenden“ Empfehlungen liefert? Die Frist für öffentliches Feedback zu allen Aspekten des Cyber-Sicherheitskodex, einschließlich der Algorithmusempfehlungen von CnaM, ist der 19. Januar 2024.
Der Entwurf des Kodex und das Konsultationsdokument sind hier verfügbar (PDF):
https://www.cnam.ie/wp-content/uploads/2023/12/Draft_Online_Safety_Code_Consultation_Document_Final.pdf