Zusammenfassung:
Die Ende-zu-Ende-verschlüsselte Messaging-App Signal gab am Freitag bekannt, dass sie den Zugriff auf Screenshots auf Mobiltelefonen beschränken wird, um zu verhindern, dass KI-Agenten die privaten Chats der Benutzer lesen. Das Unternehmen warnte davor, dass der Trend der Technologiebranche, künstliche Intelligenz tief in Verbrauchergeräte einzubetten, ihre Fähigkeit zum Schutz der Privatsphäre der Benutzer schwächt.

Signal wird von Befürwortern des Datenschutzes seit langem als führend im Bereich der sicheren Kommunikation angesehen. Das Unternehmen sagte, die dieses Mal eingeführten neuen Schutzmaßnahmen seien unvollständig und forderte Betriebssystemanbieter wie Apple, die Google-Muttergesellschaft Alphabet und Microsoft auf, Anwendungsentwicklern spezifischere und wirksamere Mittel zur Verfügung zu stellen, um zu verhindern, dass KI-Agenten auf sensible Daten zugreifen.
Signal verlangt von diesen Unternehmen außerdem, die Funktionsweise ihrer KI-Agenten weiter offenzulegen, damit Entwickler beurteilen können, auf welche Daten diese Programme zugreifen, und ihre Systeme entsprechend anpassen können. Der Schritt spiegelt einen wachsenden Streit zwischen datenschutzorientierten Apps und großen Technologieunternehmen wider. Letztere bemühen sich darum, KI-Agenten auf den Markt zu bringen, die den Inhalt des Bildschirms eines Benutzers anzeigen und entsprechende Aktionen im Namen des Benutzers ausführen können.
Signal wies ausdrücklich darauf hin, dass direkt in das Betriebssystem integrierte KI-Funktionen wie Apples Siri AI und Googles Gemini Intelligence besonders besorgniserregend sind, da sie extrem tief in Benutzergeräte integriert sind. Das Unternehmen sagte, dass das Betriebssystem eine laufende Umgebung für Signal und andere Anwendungen bereitstelle und die Integration dieser „Agenten-KI“ diese Umgebung für den Schutz der Privatsphäre zunehmend ungünstig mache. Signal sagte in einem Blogbeitrag an Reuters, dass dies eine „existentielle Bedrohung“ für das Unternehmen und seine Fähigkeit darstelle, seine Mission verantwortungsvoll zu erfüllen.
Um zu verhindern, dass KI-Agenten Signalnachrichten scannen, führt der Dienst neue Einstellungen ein, die den Zugriff auf Screenshots auf Mobiltelefonen blockieren und diese Einschränkungen standardmäßig aktivieren. Wenn Signal einen Screenshot-Versuch erkennt oder der KI-Assistent versucht, auf den Bildschirm zuzugreifen, erhält der Benutzer eine Popup-Eingabeaufforderung und kann basierend auf den Gerätebedingungen entscheiden, ob die Einschränkung aufgehoben werden soll.
Signal hat letztes Jahr die Recall-KI von Microsoft daran gehindert, Screenshots auf Windows-Systemen zu erstellen. Das Unternehmen gibt an, dass es auf den macOS-Systemen von Apple keinen zuverlässigen ähnlichen Schutz bieten kann.
KI-Agenten, die im Auftrag von Benutzern Vorgänge ausführen können, werden als nächste große Welle der KI-Technologie angepriesen. Sie können relevante Informationen aus verschiedenen Anwendungen extrahieren und zeitsparende Aufgaben wie das Beantworten von E-Mails, Terminvereinbarungen und Online-Einkäufe erledigen, ohne dass Benutzer Schritt-für-Schritt-Anweisungen geben müssen. Allerdings kann diese Fähigkeit auch die Schutzmechanismen umgehen, die Anwendungen wie Signal für sich selbst entwickelt haben.
Reuters berichtete Anfang dieser Woche, dass der KI-Agent Muse von Meta sein offizielles „Connector“-Tool umgehen und auf Signalnachrichten auf Apple-Computern und -Telefonen zugreifen konnte, auf denen das Android-System von Google ausgeführt wurde. In beiden Fällen nutzte Muse die umfassenden Berechtigungen auf Betriebssystemebene, die bei der ersten Einrichtung der App gewährt wurden, um Nachrichten abzurufen und diese Berechtigungen auf eine Weise zu nutzen, mit der der Benutzer möglicherweise nicht gerechnet hätte.
Beispielsweise verwendet Muse auf dem macOS-System von Apple eine Kombination aus Computer-Barrierefreiheit und Screenshot-Tools, verwendet Apples Einstellungen für Menschen mit Behinderungen wieder, navigiert zur Signal-Oberfläche, erstellt Screenshots von Chat-Inhalten, extrahiert Text aus Bildern und reproduziert Nachrichten innerhalb der Muse-App. Ein diese Woche von Apple veröffentlichtes Systemupdate blockiert diesen speziellen Pfad effektiv, führt aber auch einen neuen Satz von Berechtigungen für KI-Agenten ein, die ähnliche Funktionen bieten und mit mehr Benutzerwarnungen ausgestattet sind.
Als Antwort auf den Reuters-Bericht gab Meta an, dass der KI-Agent den Computer des Benutzers anzeigen und bedienen muss, um Aufgaben im Namen des Benutzers auszuführen; Muse kann nur über vom Benutzer explizit gewährte Berechtigungen auf andere Anwendungen zugreifen.
Signal sagte, dass Entwickler eine direkte Möglichkeit für die Anwendung haben sollten, den Datenverarbeitungsprozess des KI-Assistenten vollständig zu verlassen, insbesondere in Aspekten wie Bildschirmlesen, Benachrichtigungen und Dateisystemzugriff. Als Dienst einer gemeinnützigen Stiftung verspricht Signal den Benutzern ein sicheres Messaging-Erlebnis, indem es die auf seinen eigenen Servern gespeicherten Daten begrenzt, die Schaltung von Anzeigen verweigert und eine Ende-zu-Ende-Verschlüsselung bereitstellt. Dies bedeutet, dass das Unternehmen nicht auf die Konversationen der Benutzer in seiner App zugreifen und diese lesen kann.
Signal wies darauf hin, dass ein KI-System, das den Bildschirm eines Benutzers scannen kann, Nachrichten aus der sicheren Umgebung von Signal extrahieren und an andere vom Agenten verwendete Server übertragen kann, wodurch der oben genannte Schutzmechanismus zerstört wird.
Kommentare