Zusammenfassung:
Apple hat kürzlich bekannt gegeben, dass es seine Überprüfungsrichtlinien für den App Store aktualisiert hat und strengere Verwaltungsmaßnahmen gegen unfreiwillige private Bilder ergreifen wird, die durch künstliche Intelligenz generiert werden. Zuvor hatten die Plattformregeln sexuell eindeutige Inhalte verboten, und die neuesten Vorschriften verlangen von Entwicklern außerdem, solche durch KI generierten Deep-Fake-Inhalte proaktiv zu verhindern, zu überwachen und zu entfernen. Wenn Entwickler keine wirksamen Maßnahmen ergreifen, werden entsprechende Anwendungen möglicherweise aus dem App Store entfernt.
In der aktualisierten Klausel 1.2 benennt Apple erstmals klar die Anwendungskategorien, die die Generierung von KI-Inhalten beinhalten. Es wird angenommen, dass dieser Schritt mit einigen generativen KI-Produkten zusammenhängt, darunter Chatbot-Dienste, die wegen der Generierung von Nacktheit und sexualisierten Deepfake-Inhalten für Kontroversen gesorgt haben. Zuvor hatte Apple relevante Entwickler gewarnt, dass die Gefahr besteht, dass relevante Apps aus dem App Store entfernt werden, wenn relevante Apps weiterhin die Generierung von Nackt-Deepfake-Bildern zulassen. Anschließend fügte das Unternehmen entsprechende Sicherheitsschutzmechanismen hinzu und erhielt die Genehmigung von Apple, eine aktualisierte Version zu veröffentlichen.
Gleichzeitig hat Apple eine neue Überprüfungsrichtlinie mit der Nummer 2.5.19 hinzugefügt, um zu betonen, dass es Entwicklern nicht gestattet ist, neue Funktionen hinzuzufügen, die während der Überprüfungsphase nicht offengelegt wurden, nachdem die App die Überprüfung bestanden hat. Apple erwähnte ausdrücklich sogenannte „Nudification Apps“, das sind Apps, die künstliche Intelligenz nutzen, um Fotos von echten Menschen in Nackt- oder Pornobilder umzuwandeln. Apple geht davon aus, dass einige Entwickler während des Überprüfungszeitraums möglicherweise den wahren Zweck ihrer Anwendungen verbergen und warten, bis die Anwendung für die Online-Veröffentlichung freigegeben ist, bevor sie entsprechende Funktionen aktivieren.
Gemäß den neuen Vorschriften werden alle Anwendungen, die versteckte oder nicht offengelegte Funktionen enthalten, aus den Regalen verbannt, einschließlich Anwendungen, die ihren Zweck während der Überprüfungsphase absichtlich verschleiern und dann nach der Genehmigung schädliche Funktionen freigeben. Apple wies darauf hin, dass es sich bei dieser Art von Verhalten um ein typisches „Köder-und-Schalter“-Verhalten handele und dass die „Ausziehen“-Funktion ein repräsentativer Fall dieser Art von Verstoß sei.
Zusätzlich zu den Vorschriften zu KI-generierten Inhalten hat Apple auch Teil 5 der Überprüfungsrichtlinien überarbeitet, um das ursprüngliche Anwendungsverbot für Menschenhandel und Kinderausbeutung auf alternative Vertriebskanäle für Anwendungen auszuweiten. Dies bedeutet, dass Apps den gleichen Anforderungen an die Inhaltssicherheit unterliegen, unabhängig davon, ob sie über den offiziellen App Store oder andere zulässige Vertriebsmethoden verfügbar gemacht werden.
In seiner Ankündigung an die Entwickler betonte Apple, dass das Unternehmen nicht zögern werde, Strafmaßnahmen zu ergreifen, wie etwa die Entfernung von Apps aus den Regalen und die Beendigung der Entwicklerqualifikationen für Apps und Entwickler, die gegen diese Vorschriften verstoßen.
Diese Regelaktualisierung zeigt, dass Apple angesichts der zunehmenden Beliebtheit generativer künstlicher Intelligenzwerkzeuge seine Aufsicht über Deep Fakes, nicht einvernehmliche private Bildgenerierung und damit verbundene Missbräuche weiter verstärkt, um das Risiko zu verringern, dass KI-Technologie zur Belästigung, Ausbeutung oder Verletzung der Privatsphäre eingesetzt wird.
Lesen Sie den vollständigen Text der Regeln:
https://developer.apple.com/app-store/review/guidelines/
Kommentare