Zusammenfassung:
Ein durch künstliche Intelligenz erzeugtes Foto eines Krokodils löste kürzlich eine reale Fahndung in Singapur aus. Da es sich bei dem Foto fälschlicherweise um eine echte Aufnahme handelte, stellte die örtliche Leitung die Aktivitäten in dem beliebten Wassergebiet vorübergehend ein und mobilisierte Ressourcen, um eine Fahndung einzuleiten. Dem Mann, der das Foto produziert und verbreitet hat, drohen nun rechtliche Konsequenzen bis zu zehn Jahren Gefängnis.
Den Fallinformationen zufolge erstellte der 30-jährige Ye Lin mithilfe von Google Gemini ein Bild von Salzwasserkrokodilen, die im August dieses Jahres im Pandan-Stausee auftauchten, und schickte es an einen Kollegen. Es wird berichtet, dass die Tat möglicherweise als Scherz begann, das Foto jedoch später weiter verbreitet wurde und schließlich dazu führte, dass Informationen über die Krokodilsichtung an Singapurs nationale Wasserbehörde PUB gemeldet wurden.
Der Pandan-Stausee ist ein beliebter lokaler Ort zum Kajakfahren und Wassersport. Nach Erhalt der Benachrichtigung haben PUB und der National Park Service schnell Maßnahmen ergriffen und nicht nur eine Warnung an die Öffentlichkeit herausgegeben, sondern auch alle Wasseraktivitäten in der Region eingestellt und Personal für die Suche und den Fang von Krokodilen zusammengestellt.
Nach einer Untersuchung bestätigten die zuständigen Behörden am nächsten Tag, dass es sich bei dem sogenannten Krokodilfoto tatsächlich um ein von KI erzeugtes Falschbild handelte. Anschließend meldete PUB den Fall der Polizei und der Fall wurde offiziell in das strafrechtliche Ermittlungsverfahren aufgenommen.
Polizeiliche Ermittlungen ergaben, dass Ye Lin nach dem Vorfall relevante Bilder und die Gemini-Anwendung auf seinem Mobiltelefon gelöscht hatte. Die Strafverfolgungsbehörden betrachteten diesen Schritt als Vertuschung von Beweismitteln und zur Behinderung von Gerichtsverfahren. Daher wurde ihm neben der „Verbreitung falscher Informationen“ auch die „Behinderung der Justiz“ vorgeworfen.
Nach dem Gesetz von Singapur kann die Verbreitung falscher Informationen mit einer Gefängnisstrafe von bis zu drei Jahren, einer Geldstrafe von bis zu 10.000 S$ oder beidem bestraft werden. Die Behinderung der Justiz wird mit bis zu sieben Jahren Gefängnis bestraft. Bei einer Verurteilung in beiden Fällen droht ihm eine Höchststrafe von zehn Jahren.
Der Fall löste auch Diskussionen über die Risiken des Missbrauchs generativer künstlicher Intelligenz aus. Dieser Vorfall führte nicht nur zu einer Fehleinschätzung der Öffentlichkeit, sondern veranlasste auch mehrere Regierungsbehörden, Arbeitskräfte und Ressourcen für die Bewältigung eines nicht existierenden Sicherheitsvorfalls einzusetzen. Beamte wiesen darauf hin, dass falsche Informationen und bearbeitete, manipulierte oder KI-generierte Inhalte öffentliche Panik auslösen und wertvolle öffentliche Ressourcen verschwenden können, sodass relevante Verhaltensweisen ernsthaft behandelt werden.
Es wird davon ausgegangen, dass Ye Lin erklärt hat, dass er vorhabe, sich schuldig zu bekennen und keinen Anwalt zur Verteidigung engagieren werde. Der Fall wird voraussichtlich im November dieses Jahres erneut verhandelt.
Dieser Vorfall gilt als repräsentativer Fall im Zeitalter der generativen künstlichen Intelligenz. Da die KI-Bilderzeugungstechnologie immer realistischer wird, stellt die Unterscheidung zwischen echten und künstlichen Inhalten und die Verhinderung des Missbrauchs verwandter Technologien für Regulierungsbehörden und die Öffentlichkeit in verschiedenen Ländern neue Herausforderungen dar.
Kommentare