Mit der zunehmenden Verbreitung von KI-generierter Technologie wird Google von Android-Apps verlangen, dass sie eine Möglichkeit bieten, anstößige KI-generierte Inhalte zu melden und neue Moderationsregeln einzuhalten, die festlegen, welche Art von KI-generierten Inhalten akzeptabel sind.
Apps, die künstliche Intelligenz zur Generierung von Inhalten nutzen, müssen Anfang nächsten Jahres eine Schaltfläche zum Markieren oder Melden anstößiger Inhalte hinzufügen, um im Play Store von Google verfügbar zu bleiben.
Google möchte den Meldeprozess so einfach wie möglich gestalten, sodass Nutzer, ähnlich wie beim bestehenden In-App-Meldesystem, melden können, ohne die App zu verlassen.
Das Unternehmen sagte, dass seine Richtlinie zu KI-generierten Inhalten KI-Chatbots, Apps, die KI-generierte Bilder verwenden, und Apps, die KI verwenden, um Sprach- oder Videoinhalte von echten Menschen zu erstellen, abdeckt. Apps, die KI-generierte Inhalte hosten, Apps, die KI nur zum Zusammenfassen von Materialien wie Büchern nutzen, und Produktivitäts-Apps, die KI als Funktion nutzen, unterliegen nicht der neuen Richtlinie.
Nach Ansicht von Google umfassen problematische KI-Inhalte nicht einvernehmliches Deepfake-Sexualmaterial, Aufnahmen von echten Personen, die für Betrug genutzt werden, falsche oder irreführende Wahlinhalte, KI-generierte Anwendungen „hauptsächlich zur Befriedigung sexuellen Verlangens“ und die Erstellung von Schadcode.
In seiner Ankündigung räumte Google ein, dass die KI-Generierung „eine schnell wachsende Anwendungskategorie“ ist, was den Eindruck erweckt, dass Google seine KI-Richtlinien möglicherweise überdenken wird, wenn sich die Technologie weiterentwickelt.
Zusätzlich zu den neuen Regeln für KI-generierte Inhalte hat Google auch seine Foto- und Videoberechtigungsrichtlinien für den Play Store verschärft und begrenzt, wie viele Apps auf Daten zugreifen können.
„Fotos und Videos auf dem Gerät eines Benutzers gelten als sensible personenbezogene Daten des Benutzers und sollten mit den strengsten Best Practices für den Datenschutz behandelt werden“, sagte das Unternehmen. „Diese sensiblen Informationen können Benutzer zu leichten Zielen für Leaker oder Ausbeutung machen. Daher trägt die Minimierung dieses Zugriffs dazu bei, die Belastung für Entwickler durch den Umgang mit solchen sensiblen Daten zu vermeiden.“
Nur Apps, die umfassenden Zugriff auf Fotos und Videos erfordern, erhalten weiterhin allgemeine Berechtigungen, während Apps mit eingeschränkter Nutzung von Mediendateien die Fotoauswahl verwenden müssen.