Meta hat kürzlich stillschweigend seine Partnerschaft mit dem Outsourcing-Unternehmen Sama gekündigt, nachdem das Unternehmen damit beauftragt wurde, die von Ray-Ban-Datenbrillen gesammelten Bilddaten zu verwenden, um Schulungsmaterial für das generative KI-System von Meta bereitzustellen. Anschließend kündigte Sama die Entlassung von 1.108 Mitarbeitern an, von denen einige sagten, sie seien als „Vergeltung“ entlassen worden, nachdem sie den Medien mitgeteilt hatten, dass die von ihnen überprüften Videos eine große Menge höchst privater Inhalte enthielten.
Der Vorfall kam erstmals im Februar dieses Jahres ans Licht. Sama-Mitarbeiter in Nairobi, Kenia, berichteten zwei schwedischen Zeitungen, dass zu ihrer Arbeit die Kennzeichnung von Videos von Datenbrillen gehörte, oft ohne dass die Personen auf den Aufnahmen wussten, dass sie gefilmt wurden. Diese Ray-Ban-Smart-Brillen verfügen über einen integrierten KI-Assistenten und müssen kontinuierlich Audio- und Videodaten aufzeichnen, von denen ein Teil als KI-Trainingsdaten verwendet wird. Anschließend ergänzen und verbessern menschliche Annotatoren Inhalte, die für die KI schwer zu verstehen sind.
Meta gab an, dass den Benutzern in den Nutzungsbedingungen erklärt wurde, wie die relevanten Daten verwendet werden, und dass die Brille vor der Aktivierung des KI-Modus eine ausdrückliche Genehmigung des Benutzers einholen muss. Mehrere Sama-Mitarbeiter gaben jedoch an, dass das Filmmaterial, mit dem sie in Kontakt kamen, nicht nur Finanzinformationen wie Bankkonten und private Gespräche enthielt, sondern auch Nacktaufnahmen im Badezimmer und Szenen intimen Verhaltens, die die kognitiven Grenzen der Öffentlichkeit für die routinemäßige Datenerfassung deutlich überschritten.
Nach der Veröffentlichung der investigativen Medienberichte kündigte Meta an, den Vertrag mit Sama zu kündigen, mit der Begründung, das Unternehmen habe „die Standards von Meta nicht erfüllt“. Sama antwortete sofort, dass es nie eine formelle Rückmeldung erhalten habe, dass die Qualität seiner Arbeit „minderwertig“ sei. Gleichzeitig gaben einige Mitarbeiter bekannt, dass das Unternehmen im Rahmen der verschärften Sicherheitsmaßnahmen dafür gesorgt habe, dass sie nahezu untätig „arbeiten“ und dass sie verdächtigt werden, interne Ermittlungen zu nutzen, um „Whistleblower“ ins Visier zu nehmen, die die Nachricht an die Medien weitergeben.
Dies ist nicht das erste Mal, dass Sama in Arbeits- und Ethikkontroversen im Zusammenhang mit KI verwickelt ist. Dieses in Kalifornien ansässige Outsourcing-Unternehmen wurde von OpenAI mit der Bereitstellung von Schulungsdiensten für ChatGPT beauftragt, das 2022 offiziell eingeführt wird. Um die Ausgabe schädlicher Inhalte durch Chatbots zu reduzieren, sorgte Sama dafür, dass kenianische Mitarbeiter für weniger als 2 US-Dollar pro Tag über einen langen Zeitraum äußerst wirkungsvolle Text- und Bildinhalte überprüften und herausfilterten. Es wurde festgestellt, dass die damit verbundene Arbeit offensichtliche Schäden für die psychische Gesundheit der Mitarbeiter verursachte. Im selben Jahr wurden Meta und Sama auch wegen der Rekrutierung von Mitarbeitern durch irreführende Stellenausschreibungen angeklagt, es handelte sich dabei um verschleierten Menschenhandel, und wegen der Entlassung von Arbeitern, die versuchten, eine Gewerkschaft zu gründen.
Zusätzlich zu arbeitsrechtlichen Fragen hat dieser Vorfall erneut die Datenschutzrisiken von Datenbrillen in den Vordergrund gerückt. Bereits zu Zeiten von Google Glass stießen seine Aufnahmefähigkeiten wegen der Möglichkeit einer „unsichtbaren Überwachung“ im öffentlichen Raum auf heftigen Widerstand in der öffentlichen Meinung. Nachdem Meta nun die Kategorie mit Produkten „neu aufgelegt“ hat, die zurückhaltender sind und dem Erscheinungsbild von Alltagsbrillen ähneln, wurden einige Benutzer während Gerichtsverfahren mit Brillen fotografiert, einige haben die Aufzeichnung bei Polizeieinsätzen aktiviert und es wurde festgestellt, dass Studenten Datenbrillen verwenden, um bei Prüfungen zu schummeln.
Da tragbare Geräte immer beliebter werden, beschleunigen auch andere Technologiegiganten ihren Einsatz. Berichten zufolge testet Apple derzeit bis zu vier Smart-Brillen-Designs mit dem Ziel, in Zukunft direkt mit den Ray-Ban-Produkten von Meta zu konkurrieren. Angesichts des Trends zur tiefen Integration von KI und Sensorgeräten wird die Frage, wie ein Gleichgewicht zwischen innovativer Erfahrung, Privatsphäre und Arbeitsrechten hergestellt werden kann, zu einem Kernproblem, dem sich die Technologiebranche nicht entziehen kann.