Eine Reihe von Vorfällen im Zusammenhang mit Grok, einem KI-Tool von Unternehmen X, hat in Japan für Aufsehen gesorgt. Es wurde festgestellt, dass einige japanische Mittelschüler und College-Studenten Grok verwendet haben, um ohne deren Zustimmung sexuell anzügliche oder sexualisierte Bilder ihrer Klassenkameraden zu erstellen. Dieses Verhalten löste weitverbreitete Unruhe aus, und auch bei relevanten Nutzern begann man, sich über mögliche rechtliche Konsequenzen Sorgen zu machen.
Seit Grok am 24. Dezember 2025 die Funktion zur Bildgenerierung und -bearbeitung eingeführt hat, sind auf sozialen Plattformen zahlreiche synthetische Bilder aufgetaucht, die reale Charaktere in nackte Körper verwandeln oder freizügige Unterwäsche tragen, was viele Beschwerden von Opfern ausgelöst hat.
Am 6. Januar, Company
Zahlreiche entsprechende Anfragen erschienen daraufhin auf der japanischen Rechtsberatungs-Website Bengoshi.com. Die meisten Fragesteller waren Teenager und junge Nutzer. Sie gaben an, sich der rechtlichen Risiken, die sich aus der Nutzung von Grok ergeben könnten, nicht bewusst zu sein. Beispielsweise gestanden einige Oberstufenschüler, dass sie Nacktvideos von Mädchen in ihrer Klasse erstellt hatten, und obwohl diese nicht verbreitet worden waren, machten sie sich Sorgen darüber, ob der Akt des „Herstellens“ selbst eine illegale Handlung darstellte; Einige fragten auch, ob die Erteilung von Anweisungen an die KI, Klassenkameraden in Unterwäschebilder umzuwandeln, als Produktion pornografischer Inhalte angesehen werden würde. Einige College-Studenten gaben an, dass ihre Konten und Daten zwar gelöscht wurden, sie jedoch immer noch besorgt darüber sind, ob die Plattform relevante Informationen an die Polizei weitergeben wird, und erwägen sogar, sich zu stellen.
Yohei Shimizu, ein auf Internetrecht spezialisierter Anwalt, wies darauf hin, dass ein solches Verhalten tatsächlich eine rechtliche Haftung auslösen könne. Er erklärte, dass, wenn die erzeugten Bilder Nacktheit oder offensichtlich sexuell anzügliche Inhalte enthielten, dies eine Verletzung des Rufs oder der Privatsphäre der Parteien darstellen könne; In schwerwiegenden Fällen kann es sogar um strafrechtliche Verleumdung oder Urheberrechtsverletzungen gehen.
Diese Vorfälle in Japan gelten auch als eine der weltweiten Kontroversen gegen Grok. Kritiker argumentieren, dass das Tool die Schwelle zur Generierung unangemessener Inhalte etwas herabsetze. Viele Nutzer, die die juristische Website konsultierten, gaben an, dass ihnen die Schwere des Verhaltens erst bewusst geworden sei, als sie die offizielle Warnung von Unternehmen