Grok, der Chatbot für künstliche Intelligenz im Besitz von Elon Musk, sieht sich weltweit wachsender Kritik und der Gefahr staatlicher Maßnahmen ausgesetzt, weil er auf Benutzerbefehle auf der Social-Media-Plattform X reagiert und sexuell eindeutige Bilder, darunter Bilder von Minderjährigen, generiert.
Die zuständigen malaysischen Behörden gaben am Samstag eine Erklärung heraus, in der es heißt, dass das Land entsprechende von Grok erstellte Bilder untersucht, nachdem Beschwerden eingegangen sind, dass einige Personen die Technologie der künstlichen Intelligenz missbraucht haben, um Bilder von Frauen und Minderjährigen zu manipulieren und unanständige, höchst beleidigende oder andere schädliche Inhalte zu produzieren.
Die malaysische Kommission für Kommunikation und Multimedia erklärte am Samstag in einer Erklärung, dass die Produktion oder Verbreitung solcher schädlicher Inhalte nach malaysischem Recht illegal sei. Die Medienaufsichtsbehörde sagte, sie werde gegen Nutzer der sozialen Plattform X ermitteln, denen Gesetzesverstöße vorgeworfen werden, und Vertreter des Unternehmens zur Befragung vorladen.
„Obwohl Social Platform X derzeit kein lizenzierter Dienstanbieter ist, trägt es die Verantwortung, die Verbreitung schädlicher Inhalte auf seiner Plattform zu verhindern“, heißt es in der Erklärung.
Musk antwortete in einem Beitrag auf der sozialen Plattform
„Jeder, der Grok nutzt, um illegale Inhalte zu generieren, muss mit den gleichen Konsequenzen rechnen wie das Hochladen illegaler Inhalte“, schrieb er in dem Beitrag.
Malaysia ist das jüngste Land, das starke Bedenken hinsichtlich Grok äußert. Die indische Regierung schickte einen Brief an die soziale Plattform Bloomberg, der eine Kopie des Briefes vom 2. Januar überprüfte.
Die indische Regierung fordert soziale Plattformen. Die indische Regierung erklärte außerdem, dass sie möglicherweise die Einführung spezieller Vorschriften für anstößige Inhalte, die durch künstliche Intelligenz generiert werden, auf Social-Media-Plattformen in Betracht zieht.
Indiens Minister für Informationstechnologie Ashwini Vaishnaw sagte in einem Interview: „Der zuständige parlamentarische Ausschuss hat die Einführung eines strengen Gesetzes zur Regulierung von Social-Media-Plattformen empfohlen. Wir prüfen diesen Vorschlag derzeit.“
Auch die französische Regierung erhob am vergangenen Freitag Anklage und behauptete, Grok habe ohne Zustimmung der Beteiligten „offensichtlich illegale“ sexuelle Inhalte auf der sozialen Plattform X generiert. Die französische Regierung wies in einer Erklärung darauf hin, dass die von Grok generierten entsprechenden Bilder möglicherweise gegen das EU-Gesetz über digitale Dienste verstoßen haben. In der Erklärung heißt es, dass diese Verordnung von großen Plattformen verlangt, Maßnahmen zu ergreifen, um das Risiko der Verbreitung illegaler Inhalte zu verringern.
Der Chatbot erzeugte anstößige Bilder und verstieß offensichtlich gegen seine eigene Richtlinie zur akzeptablen Nutzung, die die Generierung von Inhalten, die die Sexualisierung von Kindern beinhalten, ausdrücklich verbietet. Derzeit wurden einige illegale Bilder aus den Regalen entfernt.
Der Reporter bat xAI, das Unternehmen, das Grok entwickelt hat und die soziale Plattform betreibt, per E-Mail um eine Stellungnahme zu diesem Thema
In den letzten zwei Wochen haben immer mehr Nutzer der sozialen Plattform X Grok gebeten, Bilder zu generieren und Fotos von Frauen und Kindern zu sexualisieren und zu manipulieren. Der ungesunde Trend verbreitete sich schnell auf der ganzen Welt, nachdem die Plattform kurz vor Weihnachten ihre Fotobearbeitungsfunktion eingeführt hatte.
Grok hat einen Beitrag auf der sozialen Plattform gepostet