Meta setzt stark auf Datenbrillen, um sein Geschäft mit künstlicher Intelligenz und Augmented Reality voranzutreiben, aber neu aufgedeckte interne Prozesse haben erneut starke Fragen zu seinen Datenschutzgrenzen aufgeworfen. Mehrere Datenannotatoren des kenianischen Outsourcing-Unternehmens Sama gaben bekannt, dass sie täglich eine große Anzahl von Rohvideoclips ansehen und kommentieren müssen, die mit der „Live-KI (Echtzeit-KI)“-Funktion der Meta-Datenbrillen aufgenommen wurden, was nicht nur alltägliche Interaktionsszenen, sondern auch äußerst private und sogar schockierende Szenen beinhaltet.

Diese Anmerkungen sind ein wichtiger Bestandteil des Trainings des Meta-Computer-Vision-Systems. Jedes manuell kommentierte Videobild gibt eine Rückmeldung an die Algorithmusleistung seines Augmented-Reality-Assistenten. Nach dem Einschalten der „Live-KI“-Funktion sammeln die von Meta und Ray-Ban eingeführten Datenbrillen weiterhin kurze Videos und Audio über Kameras und Mikrofone, um die vom Benutzer gesehenen Szenen in Echtzeit zu analysieren und seine Fragen zu beantworten. Die relevanten Daten werden dann in das Meta-System hochgeladen und in einen riesigen Trainingsdatensatz integriert, um zukünftige Versionen des KI-Assistenten zu optimieren.

Sama-Mitarbeiter sagen jedoch, dass die hochgeladenen Daten tatsächlich weitaus privater sind, als sich die Benutzer vorstellen. Diese Datenannotatoren sagten, sie hätten wiederholt Szenen gesehen, in denen Brillenträger sich bewegten, sich umzogen und sogar Sex auf der Toilette hatten, und die Aufnahmeperspektive stammt von der Brille selbst. Auch wenn es sich nicht um explizite Inhalte handelt, enthüllen die relevanten Clips oft eine große Menge sensibler Informationen, wie zum Beispiel vollständig angezeigte Bankkarten, klar erkennbare Inneneinrichtungen und sogar sehr private Gespräche. Audioclips, die Diskussionen über Proteste, mutmaßliches kriminelles Verhalten oder die Privatsphäre des eigenen Lebens dokumentieren, wurden in das Trainingsmaterial für Metas Algorithmus integriert.

Den öffentlichen Bedingungen nach zu urteilen, hat Meta für diesen Ansatz auf geistlicher Ebene Platz reserviert. Das Unternehmen schreibt in seinen KI-Nutzungsbedingungen und Datenschutzrichtlinien, dass Interaktionen mit „Live-KI“-Assistenten möglicherweise von automatisierten Systemen oder menschlicher Überprüfung gespeichert und eingesehen werden, und erinnert Benutzer ausdrücklich daran, keine vertraulichen Informationen weiterzugeben. Berichten der schwedischen Medien Svenska Dagbladet und Göteborgs-Posten zufolge scheinen Benutzer, die tatsächlich eine Brille tragen, jedoch im Allgemeinen nicht zu verstehen, dass jede Bewegung, die sie vor sich haben, ins Ausland übertragen und Bild für Bild von unbekannten Auftragnehmern überprüft werden kann. Kommentatoren stellten fest, dass das Feedback häufig sofort abgewiesen wurde, wenn sie sich beim Management darüber beschwerten, dass der Inhalt zu persönlich sei oder dass der Kommentierungsprozess unbequem sei.

Meta reagierte zunächst mehrere Wochen lang nicht auf wiederholte Anfragen schwedischer Journalisten. Als ein Sprecher später den Medien antwortete, stützte er sich immer noch ausschließlich auf die AI-Nutzungsbedingungen und Datenschutzrichtlinien des Unternehmens und betonte, dass von Benutzern hochgeladene Medieninhalte bei Verwendung von „Live AI“ in Übereinstimmung mit diesen Dokumenten verarbeitet würden, und lehnte es ab, Straight Arrow News weitere Kommentare zu übermitteln.

Die gesellschaftlichen Bedenken rund um Meta-Wearables haben in den letzten Monaten weiter zugenommen. Anfang des Jahres berichtete die New York Times unter Berufung auf ein internes Memo, dass Meta plante, seine Datenbrillen mit Gesichtserkennungsfunktionen auszustatten. Bürgerrechtsgruppen warnen davor, dass die Kombination von Gesichtserkennung und kontinuierlicher Videoerfassung zu einem mobilen Überwachungsnetzwerk in der realen Welt mit eingeschränkter Kontrolle und Transparenz führen könnte.

Außerhalb von Meta beginnen auch Drittentwickler, „defensive“ Tools zu entwickeln, um mit dieser aufkommenden Bedrohung umzugehen. Eine kürzlich aufgetauchte Android-App behauptet, erkennen zu können, ob jemand in der Nähe eine Smart-Brille trägt: Die App scannt bestimmte visuelle oder drahtlose Signaleigenschaften und warnt den Benutzer, sobald sie feststellt, dass sich ein verdächtiges tragbares Aufnahmegerät in der Nähe befindet.

Meta betonte, dass seine Datenbrillen beim Aufnehmen eine kleine LED-Anzeige aufleuchten lassen, um die Menschen in ihrer Umgebung darüber zu informieren, dass sie filmen. Datenschutzexperten weisen jedoch darauf hin, dass dieses Design in realen Szenarien nur einen sehr begrenzten Schutz bietet, insbesondere nachdem Forscher gezeigt haben, dass die Kontrollleuchte leicht ausgeschaltet oder umgangen werden kann.

In den Augen von Regulierungsbehörden und Befürwortern des Datenschutzes stellt sich eine zentrale Frage: Kann eine in einer langen Dienstzeit verborgene Erinnerung als „wirksame Benachrichtigung“ über eine derart umfangreiche und tiefgreifende Erhebung und manuelle Überprüfung personenbezogener Daten angesehen werden? Für diejenigen Annotatoren, die der KI von Meta jeden Tag „beibringen“ müssen, wie man die Welt versteht, scheint die Antwort selbstverständlich zu sein: Sie wissen genau, welche Art von Inhalten sie sich ansehen, und sie sind sich auch des Inhalts bewusst, und die Person, die an dem Inhalt beteiligt ist, wird es möglicherweise nie bemerken.