Laut Reuters,Die Stadt Baltimore in den Vereinigten Staaten hat offiziell eine Klage gegen xAI, ein Unternehmen für künstliche Intelligenz im Besitz von Elon Musk, eingereicht und beschuldigt seinen KI-Chatbot Grok, illegal nicht einvernehmliche, sexuell eindeutige Bilder und Inhalte zur sexuellen Ausbeutung von Kindern erstellt zu haben.Als bisher größte Stadt, die xAI wegen „tiefer Fälschung“ verklagt hat, wies Baltimore mit einer Bevölkerung von etwa 568.000 Einwohnern in einer beim Bezirksgericht eingereichten Beschwerde darauf hin, dass xAI Grok als sicheren Allzweck-KI-Assistenten verpackt habe und dass bei seiner tatsächlichen Funktionsweise ein Verstoß gegen Verbraucherschutzgesetze vermutet werde.
Gerichtsdokumente enthüllen die umfangreichen Daten des Tools zur Inhaltsgenerierung. Nach Schätzungen des Anti-Digital Hate Center auf Basis von 20.000 Proben wurden zu Beginn dieses Jahres innerhalb von 11 Tagen etwa 3 Millionen realistische sexualisierte Bilder auf der sozialen Plattform X generiert, darunter mehr als 23.000 illegale Inhalte mit Kindern. Der Bürgermeister von Baltimore, Brandon Scott, gab eine Erklärung heraus, in der er Technologieunternehmen beschuldigte, die sexuelle Ausbeutung von Kindern zu erleichtern, und betonte, dass die Verantwortlichen rechtlich zur Verantwortung gezogen werden müssen. Darüber hinaus wird in der Beschwerde auch ein von Grok erstelltes Selbstporträt in einem blauen Bikini angeführt, das Musk am 31. Dezember 2025 als Beweismittel gepostet hatte, und behauptet, dass dies eine „öffentliche Befürwortung“ der Fähigkeit des KI-Tools sei, eindeutige Bilder von echten Menschen zu erzeugen.
Während die Situation eskaliert,Grok, das 2023 veröffentlicht wird, sieht sich an vielen Orten in Amerika, Europa, Asien und Australien mit behördlichen Untersuchungen konfrontiert.Obwohl xAI Mitte Januar ankündigte, die Bildbearbeitungsfunktionen von Grok in einigen Gerichtsbarkeiten einzuschränken, und Musk damals darauf bestand, dass er von Groks Generation illegaler Bilder von Minderjährigen „völlig ahnungslos“ sei, hat sich die rechtliche Kontroverse nicht gelegt. In dieser Klage verlangt Baltimore City nicht nur eine nicht näher bezeichnete Geldstrafe, sondern fordert das Gericht auch auf, eine einstweilige Verfügung zu erlassen, um xAI zu zwingen, die „ausbeuterischen“ Designmerkmale von Grok vollständig zu ändern. Bisher haben weder die Muttergesellschaft SpaceX noch xAI, deren jüngste Gesamtbewertung etwa 1,25 Billionen US-Dollar erreichte, offiziell auf die Klage reagiert.