Google hat kürzlich eine neue Funktion in Gemini eingeführt, die eng mit Google Fotos verknüpft ist und es diesem KI-Assistenten ermöglicht, Informationen direkt aus der Fotobibliothek des Benutzers zu extrahieren, um personalisiertere Bildinhalte zu generieren.Das Ziel von Google besteht darin, dass Systeme bei der Erstellung von KI-Bildern „echte Bilder von Ihnen und Ihren Lieben verwenden“, anstatt sich ausschließlich darauf zu verlassen, dass Benutzer in Eingabeaufforderungen ausführliche Beschreibungen von Aussehen, Familienmitgliedern und persönlichem Stil bereitstellen.
Die Änderung ist Teil der umfassenderen „Personal Intelligence“-Strategie von Google, die darauf abzielt, Gemini mit Apps wie Fotos, Gmail, Suche, Karten und YouTube zu verbinden, um mehr persönlichen Kontext in Antworten zu integrieren und sie für Nutzer relevanter erscheinen zu lassen. In Bezug auf die Bildgenerierung wird Gemini Fotoinformationen verwenden, die durch die Verbindung mit Google Fotos gewonnen wurden, um Details automatisch auszufüllen und so zu versuchen, die Mühe beim Schreiben von „Mini-Romanen“ mit langen Eingabeaufforderungswörtern in herkömmlichen Eingabeaufforderungsprojekten zu reduzieren.
Das zugrunde liegende Bildmodell, das dieser Funktion zugrunde liegt, ist Nano Banana 2, das kürzlich aktualisierte Bildgenerierungsmodell von Google. Offiziell wird es als eine Möglichkeit positioniert, schneller KI-Szenen zu generieren, die „für Sie wirklich relevant aussehen“. Kurz gesagt: Wenn der Benutzer der Aktivierung dieser Funktion zustimmt, greift Gemini beim Generieren von Bildern automatisch auf relevante Fotos im Album des Benutzers zurück, um das Aussehen, den Szenenstil und andere Elemente des Charakters anzupassen, um das Ergebnis näher an Sie und Ihre Familie im wirklichen Leben heranzuführen.
Sobald die Funktion jedoch aufgedeckt wurde, löste sie eine neue Runde von Datenschutzbedenken und öffentlichen Kontroversen aus. Viele Kritiker befürchten, dass Familienfotos, persönliche Erinnerungen und sogar verschiedene sensible Fotos weiter in die „KI-Content-Fabrik“ eingebunden und in einen Teil maschinengenerierter Inhalte umgewandelt werden, was die Befürchtung verstärkt, dass „persönliche Daten in KI-Produktionsmaterialien weiterverarbeitet werden“. Im Zusammenhang mit der Rückruffunktion von Microsoft, die aufgrund von Datenschutzproblemen heftige Gegenreaktionen hervorgerufen hat, ist diese Art von KI-Innovation, die „tief in die privaten Domänendaten von Endbenutzern eindringt“, besonders sensibel.
Den von Google offengelegten Informationen zufolge handelt es sich hierbei nicht um einen standardmäßig aktivierten Dienst, sondern um einen freiwilligen „Opt-in“-Mechanismus. Google sagte, dass „persönliche Intelligenz“ eine optionale Funktion sei und Benutzer entscheiden könnten, welche Anwendungen sie mit Gemini verbinden möchten. Die ersten Objekte, die auf die Funktion zur Generierung von Fotos-Bildern zugreifen können, sind berechtigte Google AI-Abonnenten in den USA. Mit anderen Worten: Google scannt und analysiert derzeit nicht direkt alle Google Fotos-Alben ohne Wissen des Nutzers.
Bezüglich der Datennutzung betont Google, dass die Gemini-Anwendung nicht direkt die private Google Fotos-Bibliothek des Nutzers für das Modelltraining nutzen wird. Gleichzeitig kann der Benutzer nach der Bildgenerierung auf die Schaltfläche „Quellen“ klicken, um zu sehen, welches Foto vom System als Referenz ausgewählt wurde, um den Generierungsprozess der aktuellen Ergebnisse zu steuern. Diese Anweisungen versuchen, einige Bedenken von Außenstehenden auszuräumen und den Benutzern ein gewisses Maß an Sichtbarkeit und Rückverfolgbarkeit zu bieten.
Allerdings konnten diese Zusicherungen die Zweifel nicht vollständig ausräumen. Befürworter des Datenschutzes weisen darauf hin, dass die Glaubwürdigkeit sogenannter „optionaler“ Systeme weitgehend davon abhängt, wie klar und ehrlich Unternehmen ihre Funktionen beschreiben, und die Erfolgsbilanz von Big Tech in dieser Hinsicht ist nicht beruhigend. Selbst wenn die privaten Bilder der Benutzer nicht direkt für Schulungen verwendet werden, kann sie für viele Menschen dennoch beunruhigend sein.
Im Allgemeinen ist die aktuelle Situation nicht so, dass Google es heimlich „mit einem Klick einschaltet“ und standardmäßig die Fotobibliotheken aller Benutzer scannt. Aber „die KI frei in Ihrem privaten Fotoalbum herumlaufen zu lassen und Speicherfragmente zu extrahieren, um neue Inhalte zu generieren“ an sich ist ein Konzept, das normale Benutzer leicht in die Defensive versetzen kann. In einer Zeit, in der die Grenzen zwischen KI-Diensten und Privatsphäre ständig neu gezogen werden, werden solche Produktversuche rund um „persönliche Intelligenz“ wahrscheinlich noch einige Zeit lang im Mittelpunkt technologischer Innovationen und Datenschutzstreitigkeiten stehen.