Zusammenfassung:
Laut Reuters forderte Tom Siegel, der Gründer des Vertrauens- und Sicherheitsteams von Google, diese Woche eine Verlangsamung der KI-Entwicklung und warnte, dass die Technologiebranche die Fehler der Social-Media-Ära wiederholt und Kindern möglicherweise größeren Schaden zufügt.
Segal
Social-Media-Unternehmen zahlen jetzt enorme Entschädigungen und sehen sich mit Tausenden von Klagen konfrontiert, weil ihnen vorgeworfen wird, jungen Nutzern Schaden zuzufügen. Unterdessen arbeiten Regierungen auf der ganzen Welt daran, den Zugang Minderjähriger zu Social-Media-Plattformen einzuschränken.
Reuters berichtete letztes Jahr exklusiv über ein internes Richtliniendokument von Meta. In dem Dokument hieß es, sein Chatbot könne „romantische oder erotische Gespräche mit Kindern führen“, was eine Untersuchung des Kongresses auslöste. Dennoch haben regulatorische Maßnahmen mit der rasanten Entwicklung der KI nicht Schritt gehalten.
Segal, der als Vizepräsident für Vertrauen und Sicherheit bei Google fungierte, sagte gegenüber Reuters: „Wir befinden uns derzeit in einer sehr schlechten Situation, was die Auswirkungen angeht, die KI auf Kinder hat. Die Vorstellung, dass die Branche das Problem alleine und ohne fremde Hilfe lösen kann, ist unrealistisch.“
Seine Bedenken spiegeln die wachsende Befürchtung einiger in der Technologiebranche und akademischer Forscher wider: KI stellt eine größere Bedrohung für Kinder dar als soziale Medien. Jetzt ist die Branche bestrebt, Chatbots immer mehr erweiterte Funktionen hinzuzufügen, und Millionen junger Menschen nutzen diese Bots bereits täglich.
Segal gab am Dienstag bekannt, dass er sich Common Sense Media angeschlossen hat, einer Interessenvertretung für Kindersicherheit im Internet. Die 2003 gegründete gemeinnützige Organisation führt Forschungen durch und bewertet die Eignung verschiedener Medien für Kinder. Im Mai gründete die Organisation das Youth AI Safety Institute, eine Forschungsorganisation zur Bewertung der Nutzung von KI durch Kinder, und Siegel wird als erster geschäftsführender Direktor des Instituts fungieren. Anthropic und die OpenAI Foundation, die gemeinnützige Organisation, die OpenAI kontrolliert, sind Unterstützer des Instituts.
Segal sagte, er plane, Standards zu entwickeln, um KI-Unternehmen zur Rechenschaft zu ziehen, und hofft, mit diesen Unternehmen und Drittorganisationen zusammenzuarbeiten, um dieses Ziel zu erreichen.
Zuvor arbeitete er von 2004 bis 2019 bei Google, verließ Google jedoch später mit der Überzeugung, dass die Fähigkeit der Technologiebranche, einen sicheren Online-Bereich für Verbraucher zu schaffen, „an einen Engpass gestoßen“ sei. Anschließend war er Mitbegründer von TrustLab, einem Startup, das Tools entwickelt, mit denen Unternehmen Sicherheitsbedrohungen erkennen können. Anfang des Monats trat er als CEO zurück, um eine neue Rolle zu übernehmen.
Siegel sagte, dass große KI-Unternehmen derzeit verschiedene Funktionen für Kinder einführen, ohne angemessene Sicherheitsmaßnahmen zu ergreifen.
„Ich denke, wir stehen vor einem sehr, sehr ernsten Schadensrisiko“, sagte er. Siegel sagte, dass KI-Unternehmen sofort Schritte unternehmen können, um junge Menschen besser zu schützen, und nannte Risiken, die von Selbstmord und Wahnsinn bis hin zu „kognitivem Offloading“ reichen. Das sogenannte kognitive Offloading bezieht sich auf den Rückgang der Fähigkeiten zum kritischen Denken, der dadurch verursacht wird, dass man sich bei der Beantwortung von Fragen auf KI verlässt.
Anthropic und OpenAI könnten strengere Maßnahmen zur Altersüberprüfung einführen, um zu verhindern, dass Minderjährige ihre Chatbots nutzen, sagte er. Er sagte auch, dass sein früherer Arbeitgeber Google die Option zum Deaktivieren der KI-Übersicht und des KI-Modus in seiner Suchmaschine hinzufügen könnte, so wie es derzeit einen Schalter gibt, mit dem Benutzer pornografische Inhalte filtern können.
Segal fügte hinzu, dass sich diese Maßnahmen zwar kurzfristig auf die Nutzung oder den Gewinn auswirken könnten, KI-Unternehmen, die keine Maßnahmen ergreifen, jedoch dem Risiko von Klagen und Regulierungen ausgesetzt sein werden, die ihr Geschäft stärker beeinträchtigen könnten.
Auf Siegels Äußerungen antwortete ein Google-Sprecher, dass Eltern den Zugriff ihrer Kinder auf Suchmaschinen durch entsprechende Kontrollfunktionen komplett sperren könnten. Der Sprecher sagte: „Unsere KI-Suchfunktionen sind eine leistungsstarke Möglichkeit für Kinder und Jugendliche, Informationen und die Welt zu lernen, zu erkunden und zu verstehen.“
Ein OpenAI-Sprecher sagte, dass das Unternehmen zusätzlich zum selbst gemeldeten Alter der Benutzer auch „Konto- und Verhaltenssignale“ verwendet, um minderjährige Benutzer zu identifizieren. „Obwohl keine einzelne Methode zur Altersüberprüfung perfekt ist, testen und verbessern wir diese Systeme weiterhin, einschließlich der Verhinderung von Versuchen, Sicherheitsmaßnahmen zu umgehen“, sagte der Sprecher.
Kommentare