Zusammenfassung:
Angesichts der potenziellen Auswirkungen generativer künstlicher Intelligenz auf die psychische Gesundheit von Minderjährigen und dem Suchtrisiko unterzeichnete der Gouverneur von Kalifornien, Gavin Newsom, offiziell eine Reihe bahnbrechender Gesetzesentwürfe zur Netzwerk- und KI-Sicherheit. Dieses Regelungspaket ist das erste in den Vereinigten Staaten, das strenge funktionale rote Grenzen für KI-Chatbots festlegt, die Dienste für Minderjährige bereitstellen. Darüber hinaus wird der gesetzliche Rechenschaftsmechanismus für die Einführung und Datenerfassung von Algorithmen auf sozialen Plattformen umfassend verbessert, was zeigt, dass Kalifornien erneut den strengsten regulatorischen Maßstab in den Vereinigten Staaten gesetzt hat, wenn es darum geht, Minderjährige vor äußerst aufdringlichen digitalen Technologien zu schützen.
p>
In den letzten Jahren hat das Phänomen der „anthropomorphen emotionalen Bindung“ junger Menschen an Systeme der künstlichen Intelligenz angesichts der explosionsartigen Beliebtheit von KI-Begleitern, virtuellem Nachhilfeunterricht und Rollenspiel-Chatbots mit anthropomorphen Interaktionsfähigkeiten in medizinischen und pädagogischen Kreisen große Besorgnis ausgelöst. Mehrere Umfragen zur psychischen Gesundheit haben gezeigt, dass Minderjährige KI-Modelle aufgrund mangelnder mentaler Abwehr leicht als echte Vertraute betrachten können, die Geheimnisse bewahren können, und während des Interaktionsprozesses schwere psychologische Traumata wie schädliche Informationsinduktion, erhöhte Tendenzen zur Selbstverletzung und sogar emotionale Manipulation erleiden. Der vom kalifornischen Gesetzgeber vorgelegte Kernentwurf zielt dieses Mal genau auf diese Art von interaktiven künstlichen Intelligenzdiensten mit hoher Klebrigkeit und anthropomorphen Eigenschaften ab.
Dem neu unterzeichneten Gesetzentwurf zufolge müssen Chatbot-Plattformen für künstliche Intelligenz, die für Minderjährige betrieben werden, strenge Altersgrenzen und Sicherheitsvorschriften festlegen. Die Vorschriften verbieten der KI eindeutig, an Minderjährige belehrende Bemerkungen zu machen, die Selbstverletzung, Selbstmord, extreme Magersucht, Gewalt oder explizite Inhalte für Erwachsene beinhalten. Im Hinblick auf die zugrunde liegende Logik des Systems muss die Plattform über integrierte Risikokontroll- und Kriseninterventionsprotokolle für sensible Wörter verfügen. Sobald der Algorithmus erkennt, dass ein minderjähriger Benutzer Depressionen, Selbstverletzungen oder Verzweiflung äußert, muss der reguläre Dialog sofort unterbrochen und ein direkter Kanal zur offiziellen Hotline für Suizidintervention und psychologische Krisenhilfe eingerichtet werden. Darüber hinaus verlangt das neue Gesetz von Entwicklern auch, die nichtmenschlichen Eigenschaften von KI gegenüber minderjährigen Benutzern ausdrücklich offenzulegen. Es ist strengstens verboten, Algorithmen zu verwenden, um absichtlich eine falsche emotionale Induktion zu erzeugen oder eine Marketingrhetorik „emotionale Bindung“ zu etablieren, die Kindern ein Abhängigkeitsgefühl vermittelt. Darüber hinaus werden optionale Kindersicherungsmechanismen und nächtliche Suchtbeschränkungen für die tägliche Nutzungszeit von Minderjährigen festgelegt.
Neben Sonderregelungen für KI-Chatbots stärkt das von Newsom unterzeichnete Gesetzespaket auch das bestehende kalifornische Rahmenwerk zum Schutz der Online-Privatsphäre von Minderjährigen weiter. Die neuen Vorschriften verbieten den gängigen Social-Media- und Online-Content-Plattformen ausdrücklich, die genauen Standortinformationen, die Browsing-Dauer und den privaten Suchverlauf minderjähriger Nutzer zu nutzen, um gezielte und süchtig machende Empfehlungsalgorithmen ohne die ausdrückliche Zustimmung des Erziehungsberechtigten zu trainieren; Für Geschäftspraktiken, die Dark Patterns verwenden, um Kinder dazu zu verleiten, den Informationsfluss kontinuierlich zu aktualisieren, eine automatische kontinuierliche Wiedergabe zu starten oder nicht autorisierte Mikrotransaktionen in Spielen zu veranlassen, werden die Regulierungsbehörden schwere wirtschaftliche und administrative Strafen verhängen und den Generalstaatsanwalt ermächtigen, Zivilklagen gegen gesetzesverletzende Technologieunternehmen einzuleiten, die weiterhin an Reformen arbeiten.
In der Erklärung zur Unterzeichnung des Gesetzesentwurfs wiesen viele kalifornische Gesetzgeber und Interessengruppen für Kinderrechte, die die Gesetzgebung leiten, darauf hin, dass Technologieplattformen unreife Minderjährige seit langem in einen digitalen Schmelztiegel voller Suchtrisiken und psychologischer Manipulation gebracht haben, um dem Datenverkehr und der Nutzerbindung nachzujagen. Als zentraler Motor globaler technologischer Innovation darf Kalifornien nicht die Augen vor den psychischen Gesundheitskosten von Kindern verschließen, die durch das rasante Wachstum der Technologie entstehen. Die Verabschiedung von Gesetzen zur Festlegung klarer moralischer und sicherheitstechnischer Grenzen für KI-Chatbots ist nicht nur ein dringender Schritt zum Schutz der körperlichen und geistigen Gesundheit der nächsten Generation, sondern auch eine grundlegende Einschränkung für Technologieunternehmen, ihrer sozialen Verantwortung nachzukommen.
Analysten aus der Technologiebranche und dem digitalen Recht wiesen darauf hin, dass angesichts der enormen Größe Kaliforniens in der globalen digitalen Wirtschaft und des Agglomerationseffekts führender Technologieunternehmen im Silicon Valley die Reihe kleinerer Gesetze zum Schutz von Internet und KI, die von Kalifornien verabschiedet wurden, unweigerlich einen überregionalen „Brüssel-Effekt“ und „Kalifornien-Effekt“ hervorrufen wird. Aufgrund der extrem hohen Kosten für die Entwicklung separater Versionen für Benutzer in einem einzigen Staat im Hinblick auf die technische Architektur sind multinationale Technologieunternehmen und hochmoderne KI-Labore höchstwahrscheinlich gezwungen, diese Reihe strenger Kindersicherheitsfilter und Suchtbekämpfungsprotokolle direkt auf das Benutzerökosystem in den Vereinigten Staaten und sogar auf der ganzen Welt auszuweiten. Das Inkrafttreten dieser Reihe von Gesetzesentwürfen deutet nicht nur darauf hin, dass die Compliance-Kosten für KI-Begleiter und soziale Tools für Jugendliche erheblich steigen werden, sondern wird auch anderen Bundesstaaten in den Vereinigten Staaten einen Gesetzesentwurf von großem praktischem Wert für den Umgang mit der physischen und psychischen Gesundheitskrise von Minderjährigen im KI-Zeitalter liefern.
Kommentare