Automatisierte Tools, mit denen die Facebook-Muttergesellschaft Meta potenziell schädliche Inhalte überwacht, haben zwei Videos im Zusammenhang mit dem Israel-Hamas-Krieg unnötigerweise entfernt, teilte das Meta Oversight Board am Dienstag in einer Erklärung mit. Moderationstechnologie könnte Benutzer daran hindern, Inhalte anzusehen, die sich auf menschliches Leid auf beiden Seiten des Konflikts beziehen, heißt es in dem Bericht.
Die Kommentare, das Ergebnis der ersten „Rapid Review“ des Aufsichtsgremiums, verdeutlichen die intensive Prüfung, der Social-Media-Unternehmen hinsichtlich ihres Umgangs mit konfliktbezogenen Inhalten ausgesetzt sind.
Der Vorstand hob Metas ursprüngliche Entscheidung auf, zwei Inhalte zu entfernen. Als Teil ihrer Entscheidung forderte die Gruppe Meta auf, das Recht der Nutzer auf „freie Meinungsäußerung … und ihre Kommunikationsfähigkeit während dieser Krise“ zu respektieren.
„Der Ausschuss konzentriert sich darauf, das Recht der Menschen auf allen Seiten auf freie Meinungsäußerung zu diesen schrecklichen Ereignissen zu schützen und gleichzeitig sicherzustellen, dass keine Zeugenaussagen Gewalt oder Hass schüren“, sagte Michael McConnell, Co-Vorsitzender des Ausschusses, in einer Erklärung. Stellungnahme. „Diese Zeugnisse sind nicht nur für Redner wichtig, sondern auch für Nutzer auf der ganzen Welt, die zeitnahe und vielfältige Informationen über bahnbrechende Ereignisse suchen.“
Als Reaktion auf die Entscheidung des Gremiums sagte Meta, dass keine weiteren Maßnahmen ergriffen würden, da beide Punkte vor der Entscheidung des Gremiums wieder aufgenommen worden seien. „Ausdruck und Sicherheit sind uns und den Menschen, die unsere Dienste nutzen, wichtig“, sagte das Unternehmen in einem Blogbeitrag.
Am 2. Februar 2023 stand ein Sicherheitsbeamter neben einem Schild im Meta-Hauptquartier in Menlo Park, Kalifornien. Die Facebook-Muttergesellschaft Meta meldete im vierten Quartal einen besser als erwarteten Gewinn mit einem Umsatz von 32,17 Milliarden US-Dollar.
Das Aufsichtsgremium von Meta wird den Umgang des Unternehmens mit Kriegsinhalten zwischen Israel und der Hamas bewerten
Metas Aufsichtsgremium ist eine Einrichtung, die sich aus Experten in Bereichen wie Meinungsfreiheit und Menschenrechten zusammensetzt. Es wird oft als Metas Oberster Gerichtshof bezeichnet, da es Benutzern ermöglicht, gegen Inhaltsentscheidungen auf der Plattform des Unternehmens Berufung einzulegen. Der Vorstand berät das Unternehmen bei der Handhabung bestimmter Entscheidungen zur Inhaltsmoderation sowie allgemeinerer Richtlinienempfehlungen.
Das Komitee sagte Anfang des Monats, es habe beschlossen, den Fall schneller zu prüfen, da Entscheidungen zu kriegsbezogenen Inhalten „dringende Konsequenzen für die reale Welt“ haben könnten. Das Komitee sagte, die durchschnittliche tägliche Zahl der Nutzerbeschwerden über Inhaltsentscheidungen, die „für die Region Naher Osten und Nordafrika relevant“ seien, habe sich in den Wochen nach Beginn des Konflikts zwischen Israel und der Hamas nahezu verdreifacht.
Meta teilte CNN im Oktober mit, dass es „ein spezielles Einsatzzentrum mit Experten, darunter auch solchen, die fließend Hebräisch und Arabisch sprechen, eingerichtet hat, um diese sich schnell entwickelnde regionale Situation genau zu überwachen und darauf zu reagieren, und sich mit externen Faktenprüfern abstimmt.“
Das Aufsichtsgremium teilte am Dienstag mit, dass Meta nach Ausbruch des Konflikts vorläufige Schritte unternommen habe, um potenziell gefährliche Inhalte anzugehen, einschließlich der Senkung der Schwelle für die automatische Entfernung von Inhalten, die gegen die Richtlinien zu Hassreden, Gewalt und Aufstachelung sowie zu Mobbing und Belästigung verstoßen könnten.
„Mit anderen Worten, Meta setzt seine automatisierten Tools aggressiver ein, um potenziell verbotene Inhalte zu entfernen“, sagte der Vorstand und fügte hinzu, dass das Unternehmen diese Schritte unternommen habe, um der Sicherheit Priorität einzuräumen, dass dieser Schritt aber auch „die Wahrscheinlichkeit erhöht, dass Meta versehentlich Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Nicht-Inhalte entfernt.“ Bis zum 11. Dezember hatte Meta die Schwellenwerte für die Moderation von Inhalten seiner automatisierten Systeme nicht auf das normale Niveau zurückgesetzt, sagte der Vorstand.
Die Überprüfung durch das Komitee umfasste zwei Teile: ein auf Instagram gepostetes Video, das die Folgen des Angriffs vor dem Al-Shifa-Krankenhaus in Gaza-Stadt zu zeigen schien, und ein weiteres auf Facebook gepostetes Video, das die Entführung zweier Geiseln durch Hamas-Kämpfer zeigte.
Das erste Video schien „Menschen, darunter verletzte oder tote Kinder, zu zeigen, die auf dem Boden lagen und/oder weinten“. Das Komitee sagte, die Bildunterschriften auf Arabisch und Englisch unter dem Video bezögen sich auf die israelischen Streitkräfte und sagten, das Krankenhaus sei „Ziel einer ‚usurpierten Besetzung‘“ geworden.
Die automatisierten Systeme von Meta entfernten den Beitrag zunächst, weil er gegen die Regeln für grafische und gewalttätige Inhalte verstieß. Ein Benutzer legte gegen die Entscheidung Berufung ein und forderte die Wiedereinsetzung des Videos. Die Systeme von Meta lehnten den Antrag jedoch automatisch ab, nachdem sie mit „hoher Sicherheit“ festgestellt hatten, dass der Inhalt gegen die Regeln verstieß. Nachdem der Vorstand beschlossen hatte, den Fall anzunehmen, veröffentlichte Meta das Video und warnte vor dem beunruhigenden Inhalt. Die Warnung hinderte auch Minderjährige daran, das Video anzusehen und das Video erwachsenen Nutzern zu empfehlen.
Das Aufsichtsgremium sagte am Dienstag, dass das Video von vornherein nie hätte entfernt werden dürfen und kritisierte Metas Vorstoß, seine Verbreitung einzuschränken, mit der Begründung, es sei „im Widerspruch zur Verantwortung des Unternehmens, die freie Meinungsäußerung zu respektieren“.
Ein zweites vom Komitee überprüftes Video zeigte eine Frau und einen Mann auf einem Motorrad, die von Hamas-Kämpfern weggebracht wurden, mit einer Bildunterschrift, in der die Menschen aufgefordert wurden, sich das Video anzusehen, um „ein tieferes Verständnis“ für den Angriff auf Israel am 7. Oktober zu erlangen.
Meta hat den Beitrag zunächst entfernt, weil er gegen die Richtlinie zu gefährlichen Organisationen und Einzelpersonen verstößt, die das Posten von Bildern von Terroranschlägen gegen offensichtliche Opfer verbietet, selbst wenn sie geteilt werden, um auf solche Angriffe aufmerksam zu machen. (Meta bezeichnet die Hamas im Rahmen ihrer Politik als gefährliche Organisation und bezeichnete den Anschlag vom 7. Oktober als Terroranschlag.)
Nachdem das Gremium den Fall aufgegriffen hatte, stellte das Unternehmen das Video mit einem Warnbildschirm wieder ein, als Teil einer größeren Anstrengung, begrenzte Ausnahmen von seiner Richtlinie zu gefährlichen Organisationen und Einzelpersonen zuzulassen, wenn der Inhalt darauf abzielt, Entführungen zu verurteilen, das Bewusstsein dafür zu schärfen oder sie zu melden. oder die Freilassung von Geiseln fordern. Wie bei anderen Videos schränkt der Warnbildschirm die Sichtbarkeit von Videos auf Minderjährige ein und verhindert, dass sie anderen Facebook-Nutzern empfohlen werden.
Wie schon beim ersten Video erklärte das Gremium, dass der Inhalt nicht entfernt werden dürfe, da die Verweigerung der Empfehlung des Videos eine Verletzung der Menschenrechtsverantwortung von Meta darstellen würde.
Meta sagte am Dienstag, es werde die empfohlenen Grenzwerte für zwei vom Gremium überprüfte Videos nicht ändern, da das Gremium mit den Grenzwerten nicht einverstanden sei, aber keine formellen Empfehlungen dazu abgegeben habe, was mit den Videos geschehen solle.
„Der Ausschuss ist der Ansicht, dass der Ausschluss von Inhalten, die das Bewusstsein für mögliche Menschenrechtsverletzungen, Konflikte oder Terrorakte schärfen, aus den Empfehlungen angesichts der großen öffentlichen Besorgnis über solche Inhalte keine notwendige oder angemessene Einschränkung der Meinungsfreiheit darstellt“, hieß es in seiner Entscheidung.