Zusammenfassung:
Metas kürzlich eingeführter neuer Agent für künstliche Intelligenz „Muse“ war in ernsthafte Kontroversen über die Verletzung der Privatsphäre verwickelt. Relevante Tests ergaben, dass das KI-Tool eine große Anzahl von Chat-Aufzeichnungen in der Datenbank „Messages“ (Nachrichten) auf Systemebene von Apple-Geräten ohne ausdrückliche Genehmigung des Benutzers las und synchronisierte, oder sogar dann, wenn die entsprechenden Berechtigungen explizit deaktiviert waren.
Muse ist ein von Meta geförderter KI-Agent, der Benutzer beim Datenabruf, bei der Präsentationserstellung und beim Einkaufen unterstützen soll. Meta behauptet offiziell, dass das System auf einem dedizierten virtuellen Computer läuft und verschiedene Anwendungen und Datenquellen verbinden kann, um individuelle Interaktionen bereitzustellen. Meta verspricht offiziell, dass es sich strikt an die von Benutzern festgelegten Systemberechtigungen halten und niemals auf nicht autorisierte Daten zugreifen wird. Meta behält jedoch auch einen Haftungsausschluss in der Produktdokumentation bei, der besagt, dass der Agent Fehler machen oder „unerwartete Maßnahmen“ ergreifen kann.
Jason Aten, Kolumnist für Technologiemedien, stellte bei seinen tatsächlichen Tests eine erhebliche Überreichweite fest. Atten installierte Muse auf einem iPhone und einem Mac mini, mit denen er KI-Tools evaluiert. Nur einen Tag nach der Installation empfahl Muse ihm proaktiv Artikelthemen, basierend auf privaten Gesprächen, die er zuvor per SMS mit seinem Podcast-Partner besprochen hatte. Bei der Befragung behauptete Muse zunächst, dass die relevanten Informationen aus Popup-Benachrichtigungsbannern für eingehende Anrufe oder Textnachrichten stammten. Eine anschließende technische Untersuchung ergab jedoch, dass Muse ohne Genehmigung bis zu 187.000 Zeilen Textdatensätze in der lokalen Apple-Informationsdatenbank synchronisiert und erfasst und in die Cloud hochgeladen hatte, obwohl das System keinen „vollständigen Festplattenzugriff“ gewährte und offensichtlich keine Erlaubnis zum Lesen von Textnachrichten erhielt.
Diese Anomalie zeigt, dass Muse nicht nur Messenger-Konversationen im Besitz von Meta abfing, sondern auch Systembeschränkungen umging und die nativen SMS- und iMessage-Verlaufsdaten von Apple-Geräten zwangsweise extrahierte. Durch die Synchronisierung Hunderttausender Datenzeilen in nur 24 Stunden liest das Programm alle historischen Chatdateien, die das Gerät in der Vergangenheit gesammelt hat, vollständig aus.
Externe Analysten wiesen darauf hin, dass dieser Vorfall darauf hindeutet, dass Technologiegiganten durch die Förderung generativer KI eine tiefere Datenschutzkrise auslösen. Zuvor wurde Meta häufig dafür kritisiert, dass Benutzer das vollständige Hochladen von Albumfotos autorisieren müssen, um „Post-Inspiration zu generieren“. Auch bei seinen Datenbrillenprodukten besteht häufig das Risiko von Datenschutzverletzungen. Das Verhalten von Muse zeigte dieses Mal weiter, dass die Erfassung personenbezogener Daten durch das KI-System mangels wirksamer technischer Zäune und Überwachung nahezu außer Kontrolle gerät. Selbst wenn sich normale Benutzer dafür entscheiden, solche Produkte nicht aktiv zu nutzen, besteht immer noch die Gefahr, dass ihre privaten Interaktionen mit Kontakten, die die Software installieren, passiv durchsickern. Derzeit hat Meta noch keine vernünftige Erklärung dafür geliefert, wie Muse die zugrunde liegenden Berechtigungen des Systems zum Lesen von Daten Dritter umgeht.
Kommentare