Die aktuelle rasante Entwicklung der KI-Branche hat es immer einfacher gemacht, Bilder zu generieren, aber die generierten Bilder werden manchmal als Fotografie oder Live-Bilder aktueller Nachrichten ausgegeben. Beispielsweise wurde auf X/Twitter ein Bild von Trumps Verhaftung weit verbreitet.
Andererseits gibt es auch Künstler, die für die Teilnahme an der Sony World Photography Competition bewusst KI nutzen, um Bilder zu generieren. Dadurch gelang es ihnen, das Organisationskomitee erfolgreich zu täuschen und den Preis zu gewinnen. Der Künstler weigerte sich, den Preis anzunehmen. Schließlich diente es ursprünglich dazu, das Organisationskomitee zu verspotten.
In mancher Hinsicht könnte es mit der Entwicklung der KI-Technologie in Zukunft immer schwieriger werden, die erzeugten Bilder zu identifizieren. Deshalb haben japanische Unternehmen, die etwa 90 % des globalen Digitalkameramarktes kontrollieren, eine neue Methode eingeführt: die Einbettung digitaler Signaturen in Fotos.
Eine neue Allianz aus Nikon, Sony, Canon, einigen Nachrichtenorganisationen und Technologieunternehmen hat ein Tool namens Verify auf den Markt gebracht, mit dem kostenlos festgestellt werden kann, ob Fotos authentisch aufgenommen wurden.
Wenn das Tool erkennt, dass das Foto eine digitale Signatur hat, zeigt es das Datum, den Ort und andere Anmeldeinformationen des aufgenommenen Fotos an. Es kann natürlich nicht festgestellt werden, ob das Foto von KI erstellt wurde. Fotos mit digitalen Signaturen können jedoch als echte Aufnahmen betrachtet werden und nicht als von KI generiert oder von Künstlern mithilfe von Software erstellt.
Derzeit haben Nikon, Sony und Canon diesen Standard übernommen. Im Jahr 2024 werden sie weitere Kameras auf den Markt bringen, die digitale Signaturen unterstützen oder durch Firmware-Updates Signaturfunktionen für einige bestehende Kameras bereitstellen.
Damit dieser Standard zum Mainstream wird, reicht es definitiv nicht aus, neue Modelle auf den Markt zu bringen. Die Idee von Sony ist daher, dass auch bestehende Modelle ihn so weit wie möglich unterstützen, damit mehr Fotos digitale Signaturen haben und überprüft werden können.
Um Angriffen und Fälschungen vorzubeugen, wird diese Überprüfung nicht lokal durchgeführt. Das heißt, wenn das Verifizierungstool das Bild erkennt, sendet es seine Informationen zur Erkennung an Sony-Server. Sony drängt auch auf andere Medienorganisationen, relevante Technologien und Standards zu übernehmen.
Neben der Einführung weiterer Kameras, die in diesem Jahr eingebettete digitale Signaturen unterstützen, erforscht Canon auch die Hinzufügung digitaler Signaturen zu Videos, damit überprüft werden kann, ob sie authentisch aufgenommen wurden.