Laut der New York Times nutzt Meta am 22. Juli zunehmend KI zur Überprüfung von Inhalten, in der Hoffnung, menschliche Prüfer zu ersetzen, aber es gab Fälle, in denen KI versehentlich Benutzerkonten gelöscht hat. Um die Sperre aufzuheben, müssen Benutzer einen Einspruch einlegen, der jedoch weiterhin an die KI gerichtet ist.

Das Englisch-Lehrkonto der Hansens wurde gesperrt

Eines Nachts im März dieses Jahres wurde Camille Hanson durch eine Benachrichtigung geweckt. Zusammen mit ihrem Mann betreibt sie ein Unternehmen, in dem sie Englisch für nicht-englische Muttersprachler unterrichtet, und zwar über Konten auf Facebook und Instagram mit fast 1 Million Followern. Diese Konten sind jedoch jetzt zur Löschung markiert. Meta sagte, sie habe gegen die Gemeinschaftsstandards in Bezug auf Betrug und betrügerisches Verhalten verstoßen.

„Ich war nur Englischlehrerin“, erinnert sich die 40-jährige Hansen. Die Vorwürfe des Betrugs und der Täuschung verwirrten sie. „Was habe ich falsch gemacht?“ fragte sie sich.

In der Mitteilung stand, dass sie Berufung einlegen könne, also klickte sie auf die Schaltfläche, um das Berufungsverfahren zu starten. Eine Woche später erhielt sie eine weitere Mitteilung: Ihre Beschwerde sei abgewiesen worden.

„Alle Ihre Daten werden dauerhaft gelöscht“, sagte Meta in seiner Antwort. „Sie können für diese Entscheidung keinen neuen Überprüfungsantrag stellen.“

Herr und Frau Hansen

„Es fühlt sich an, als ob man ein Ladengeschäft eröffnet und jemand sein Büro oder Geschäft schließt“, sagte Hansens Ehemann Calvin, 42, in einem Interview in seinem Haus in Portugal.

Kann KI eine große Rolle übernehmen?

Was der Familie Hansen passiert ist, ist ein Fall von KI-Fehler. Die Aufgabe der Technologie besteht zunehmend darin, festzustellen, welche Konten gegen die Inhaltsregeln von Meta verstoßen, und gleichzeitig Einsprüche gegen diese Entscheidungen zu bearbeiten. Noch beunruhigender ist, dass Benutzer wie die Hansens oft Schwierigkeiten haben, jemanden bei Meta zu kontaktieren, um herauszufinden, was sie tun sollen.

Im März kündigte Meta Pläne an, KI-Bots mehr Macht zu geben und ihnen die Entscheidung zu überlassen, welche Konten schädliche Bilder gesperrt oder gelöscht werden sollen. Monate später entließ das Unternehmen Tausende von Mitarbeitern, darunter auch diejenigen, die diese Jobs hatten.

Benutzer haben sich online organisiert und mehr als 60.000 Menschen haben kürzlich eine Petition unterzeichnet, in der Meta aufgefordert wird, mehr Informationen über gesperrte Konten bereitzustellen und eine menschliche Überprüfung von Einsprüchen zu ermöglichen. Einige Communities auf Reddit und anderen Plattformen sind zudem mit zahlreichen Beschwerden von Meta-Nutzern über die KI-Systeme des Unternehmens gefüllt.

Meta nutzt KI zur Moderation von Inhalten

Meta-Sprecher Daniel Roberts bestritt die Vorstellung, dass KI bei der Verwaltung von Konten schlechter sei als Menschen, und sagte, das neue KI-Überprüfungstool des Unternehmens mache 13 % weniger Fehler und finde 10 % mehr illegale Inhalte als menschliche Mitarbeiter. Roberts sagte, dass alle fünf von der New York Times bei Meta gemeldeten Konten durch die alten KI-Moderationstools des Unternehmens gesperrt wurden.

„Wir sind bestrebt, Ausführungsfehler zu reduzieren und Einzelpersonen dabei zu helfen, ihre Konten zu schützen. KI liefert in beiden Bereichen Ergebnisse“, sagte er.

Meta ist schon oft auf KI-Probleme gestoßen. Im Mai dieses Jahres nutzten Hacker Schwachstellen in seinem KI-Kundendienst-Chatbot aus, um 34.000 Instagram-Konten anzugreifen, darunter Obamas ehemaliges Konto im Weißen Haus. Im selben Monat führten Mitarbeiterproteste gegen ein Programm, das Tastenanschläge zum Trainieren von KI verfolgte, dazu, dass Meta das Programm aussetzte.

Letzte Woche behaupteten 26 ehemalige Meta-Mitarbeiter in einer Klage, das Unternehmen habe sie mithilfe eines KI-Algorithmus entlassen, der auf Mitarbeiter mit Behinderungen abzielte. Ein Meta-Sprecher sagte: „Personalmanagement und organisatorische Entscheidungen wurden und werden von Menschen getroffen, nicht von KI.“

People Over Platforms, eine Benutzerinteressengruppe, die Dienste zur Kontowiederherstellung anbietet, hat dieses Jahr eine Online-Petition gestartet, um Meta zu zwingen, seine Richtlinien zur Kontomoderation zu ändern. Meta warf vielen Unterzeichnern der Petition vor, Material über die Ausbeutung von Kindern weiterzugeben, und verbot sie anschließend. Benutzer glauben, dass dieser Vorwurf „eine zusätzliche Beleidigung zur Verletzung“ darstellt.

Keine Möglichkeit, Berufung einzulegen

Genau das hat Meta letztes Jahr gegen Athenia Rodney behauptet. Rodney ist der Direktor von JuneteenthNY, einer Gruppe, die an das Ende der Sklaverei in den Vereinigten Staaten erinnert. Letztes Jahr hat Meta alle ihre persönlichen und geschäftlichen Konten auf Facebook und Instagram gesperrt.

In der Mitteilung von Meta hieß es: „Unsere Technologie hat festgestellt, dass Ihr Konto oder Ihre Aktivität auf Ihrem Konto nicht unseren Regeln entsprach. Daher hat unsere Technologie Maßnahmen ergriffen.“

Rodney

Rodney sagte, sie könne Metas Begründung für die Entscheidung nicht verstehen, da es sich bei den von ihrer Organisation veröffentlichten Inhalten um „familienfreundliche Inhalte“ handele. Nachdem ihr Konto gesperrt wurde, durchsuchte sie die Fotoarchive von Juneteenth New York und versuchte, Beiträge zu finden, die den KI-Bot ausgelöst haben könnten, fand aber nichts.

Später erinnerte sich Rodney daran, dass das Unternehmen sie kurz bevor Meta ihr Konto löschte, auf verdächtige Logins aus Seattle und Singapur aufmerksam machte, obwohl sie in Atlanta lebte. Dies deutet darauf hin, dass ihr Konto möglicherweise gehackt wurde.

Rodney änderte schnell ihr Passwort, aber sechs Instagram- und Facebook-Konten, die sie für verschiedene geschäftliche und private Zwecke nutzte, blieben gesperrt.

Um die Konten wiederherzustellen, sagte sie, sie habe Ausweisdokumente eingereicht, Beschwerden beim Better Business Bureau und der Federal Trade Commission eingereicht, staatliche Verbraucherschutzämter kontaktiert und Meta-Mitarbeitern auf LinkedIn eine Nachricht geschickt. Doch alle Bemühungen waren vergebens.

Seitdem muss Juneteenth New York seine Sponsoren davon überzeugen, dass es sich um eine legitime Organisation handelt, die es schon seit fast zwei Jahrzehnten gibt.

„Unsere Sponsoren werden unsere Social-Media-Seiten überprüfen, um zu bestätigen, dass wir eine legitime Organisation sind und dies bereits seit 17 Jahren tun“, sagte Rodney. „Aber jetzt, sobald sie sich in unser Konto einloggen und sehen, dass wir nur 500 Follower haben, werden sie sagen, dass du das noch nicht so lange machst und dass du ein Fake bist.“

Aus Versehen blockiert

Nachdem die New York Times Meta auf die fünf gesperrten Konten hingewiesen hatte, sagte Meta, das Unternehmen habe eine Untersuchung durchgeführt und festgestellt, dass zwei der Konten aufgrund von Hackerangriffen gesperrt wurden und das andere Konto aus legitimen Gründen gesperrt wurde. Meta sagte, das gehackte Konto sei ordnungsgemäß gesperrt worden, weil der Hacker gegen Richtlinien zur Kindersicherheit verstoßen habe.

Anschließend stellte Meta die beiden gehackten Konten wieder her, darunter Rodneys Juneteenth New York-Konto. Das Unternehmen sagte, dass von den fünf genannten Konten zwei irrtümlich gesperrt wurden, darunter auch die der Hansens.

Roberto Suarez ist ein Instagram-Star, der mehr als 500.000 Follower hatte, bevor er dieses Jahr gesperrt wurde. Er war einer der Personen, die eine E-Mail von Meta erhielten, in der ihm mitgeteilt wurde, dass sein Konto wiederhergestellt wurde, zusammen mit seinen Fotos, Fans, Nachrichten usw. Er begann, Inhalte erneut für Fans zu veröffentlichen, die seit Monaten nichts von ihm gehört hatten.

Das Konto von Suarez wurde kontinuierlich gesperrt

Ein paar Wochen später schickte Meta ihm eine weitere E-Mail. „Ihr Konto wurde gesperrt“, hieß es in der E-Mail und behauptete, sein Inhalt verstoße gegen das Urheberrecht. „Wenn Sie nichts unternehmen, wird Ihr Konto dauerhaft deaktiviert.“

Suarez bestreitet jegliche Urheberrechtsverletzung. Sein Konto wurde wieder freigegeben, kurz nachdem die New York Times nach dem neuen Verbot gefragt hatte.

Frau Hansen erhielt außerdem eine E-Mail von Meta, in der sie darüber informiert wurde, dass ihr Konto wiederhergestellt wurde.

„Wir haben Ihr Konto überprüft und festgestellt, dass die oben genannte Aktivität unseren Community-Richtlinien zu Betrug und Täuschung entspricht, sodass Sie Instagram wieder verwenden können“, heißt es in der E-Mail. „Es tut uns leid, dass wir einen Fehler gemacht haben.“ (Autor/Xiao Yu)

Für weitere Neuigkeiten aus erster Hand laden Sie bitte den Phoenix News-Client herunter und abonnieren Sie Phoenix Technology. Wenn Sie ausführliche Berichte sehen möchten, suchen Sie bitte auf WeChat nach „ifeng.com Technology“.