Meta nutzte Mitarbeitercomputer, um KI zu trainieren. Infolgedessen wurden 45.000 Datentabellen nicht gesperrt, was zur Unterbrechung des Projekts führte.

Laut Nachrichten vom 23. Juni hat Meta ein internes KI-Schulungsprojekt auf unbestimmte Zeit ausgesetzt. Das Projekt zeichnet Tastatureingaben, Mausbedienungen und Bildschirminhalte auf den Arbeitscomputern der Mitarbeiter auf, um der KI beizubringen, die Bedienung der Software zu erlernen; Der Grund für die Aussetzung war, dass die Zugriffsrechte auf die Projektdaten falsch konfiguriert waren und etwa 45.000 Datentabellen einst für Meta-internes Personal geöffnet waren.

WIRED und Business Insider berichteten separat über den internen Berechtigungsvorfall. Laut Metas internem Sicherheitshinweis gehören die fraglichen Daten zur Model Capability Initiative (MCI), die Spuren von Vorgängen auf den Arbeitscomputern der Mitarbeiter sowie sensible Inhalte wie „vollständige KI-Eingabeaufforderungen und -Transkripte, private Gespräche, Personal- und Leistungsdaten“ enthalten. Bei den im WIRED-Bericht genannten Daten handelt es sich hauptsächlich um Firmenausrüstung, die den US-Mitarbeitern von Meta gehört.

Meta-Sprecherin Tracy Clayton bestätigte, dass das Unternehmen den Sicherheitsvorfall untersucht und sagte, MCI sei für die Dauer der Untersuchung auf unbestimmte Zeit suspendiert worden. Sie betonte außerdem, dass Meta „derzeit keine Hinweise darauf hat, dass Mitarbeiter missbräuchlich auf die Daten zugegriffen haben“. Dies ist jedoch nur eine Aussage zum gegenwärtigen Stand der Untersuchung und entspricht nicht der endgültigen Schlussfolgerung.

Die Risiken, über die sich 1.600 Mitarbeiter Sorgen machten, bewahrheiteten sich.

MCI wurde im April dieses Jahres mit dem Ziel ins Leben gerufen, Daten zum Arbeitsverhalten von Mitarbeitern auf Computern zu sammeln, um KI-Systeme zu trainieren. Mark Zuckerberg, CEO von Meta, erläuterte diese Idee zuvor in internen Besprechungen: KI-Modelle können lernen, indem sie beobachten, wie gute Mitarbeiter arbeiten, und Meta-Mitarbeiter sind besser geeignet, qualitativ hochwertige Proben bereitzustellen, als ausgelagertes Personal, das speziell für die Erstellung dieser Art von Daten eingestellt wird.

Diese Erklärung überzeugte die meisten Mitarbeiter nicht. Im Mai unterzeichneten mehr als 1.600 Meta-Mitarbeiter eine interne Petition, die ein Ende dieser Computer-Verhaltensverfolgung forderte. In der Petition heißt es, dass das Sammeln solcher Daten Sicherheits- und Regulierungsrisiken birgt, einschließlich Datenschutzverletzungen und unbefugter Offenlegung.

Andrew Bosworth, Chief Technology Officer von Meta, teilte den Mitarbeitern zuvor mit, dass die Datenverwaltung bei MCI „streng kontrolliert“ werde und die gleichen Schutzstandards, Speichersysteme und Zugriffskontrollen wie bei den anderen sensiblen Datensätzen des Unternehmens zum Einsatz kommen. Doch nach diesem Vorfall gab Bosworth zu, dass die tatsächliche Umsetzung des Projekts nicht den im Datenschutzüberprüfungsdokument aufgeführten Standards entsprach. In einem internen Beitrag sagte er, dass das Problem in einer falsch konfigurierten Zugriffskontrollliste liege und dass das Unternehmen die Ursache herausfinden und den Datenzugriffspfad zurückverfolgen müsse.

Es handelt sich nicht um einen externen Angriff, aber interne Berechtigungen sind nicht ordnungsgemäß gesperrt.

Dieser Vorfall wurde von Meta intern als SEV2 eingestuft. Laut der Erläuterung im Bericht liegt der interne Schweregrad von Meta zwischen 0 und 5, wobei 0 der schwerwiegendste und SEV 2 der höhere Grad ist. Von WIRED eingesehene interne Beiträge zeigen, dass der Vorfall als „geschlossen“ markiert wurde, was bedeutet, dass das Berechtigungsproblem möglicherweise behoben wurde, Meta jedoch die konkreten Korrekturen und den vollständigen Zeitplan noch nicht öffentlich bekannt gegeben hat.

Streitpunkt für die Mitarbeiter ist nicht nur die Frage, ob tatsächlich jemand die Daten anderer Personen eingesehen hat, sondern auch die Tatsache, dass das Unternehmen in der Vergangenheit versprochen hatte, sensible Datensätze „strikt zu kontrollieren“, und dass es tatsächlich Probleme mit zu weiten Zugriffsberechtigungen gab. Ein Mitarbeiter schrieb in einem internen Forum, er sehe keine Hinweise auf einen böswilligen Zugriff, sei aber „verärgert“, dass die Daten nicht wie versprochen gesperrt seien. BusinessInsider berichtete außerdem, dass interne Mitarbeiter heftig auf das Projekt und diesen Vorfall reagierten.

Der Vorfall berührt auch längerfristige regulatorische Einschränkungen, mit denen Meta konfrontiert ist. Meta unterliegt weiterhin einer Zustimmungsanordnung der US-amerikanischen Federal Trade Commission (FTC), die das Unternehmen verpflichtet, bis 2040 Prozesse zur Verhinderung von Datenschutzverletzungen aufrechtzuerhalten. WIRED erwähnte außerdem, dass Meta damit begonnen hat, KI in einige Datenschutz- und Sicherheitsüberprüfungsarbeiten einzubeziehen; Allerdings gibt es derzeit keine Hinweise darauf, dass KI an diesem MCI-Berechtigungskonfigurationsfehler beteiligt war.

KI-Sprints stoßen auf einen Vertrauensverlust innerhalb von Unternehmen

MCI ist kein isoliertes Projekt. Meta hat im März dieses Jahres ein neues „Applied AI“-Team (Applied AI) gegründet und etwa 6.500 Mitarbeiter relevanten Positionen zugewiesen, mit dem Ziel, KI-Modelle zu verbessern. Business Insider berichtete, dass einige Mitarbeiter das Gefühl hatten, dass die ihnen zugewiesenen Projekte trivial seien und die Arbeitsmoral erschöpft sei; Bosworth entschuldigte sich letzte Woche bei den Mitarbeitern für Kommunikationsprobleme während der KI-Reorganisation und versprach, die Kommunikation zu verbessern und einige Bürovorteile wiederherzustellen.

Dieses Mal, wenn MCI ausgesetzt wird, werden die internen Kosten von Metas Sprint in Richtung KI konkreter sichtbar. Das Unternehmen kann sagen, dass es bisher keine Anzeichen eines missbräuchlichen Zugriffs gefunden hat, aber solange diese Art von Daten fälschlicherweise geöffnet wurde, wird das Vertrauen der Mitarbeiter, „KI mit ihrem eigenen Arbeitsverhalten zu trainieren“, nur schwer mit internen Versprechen allein wiederherzustellen sein. Mitarbeiter sind nicht nur Anbieter von KI-Trainingsdaten, sondern auch direkte Träger von Datenschutz- und Sicherheitsrisiken. Diese doppelte Identität ist es, die an diesem Vorfall wirklich schmerzt.