Ein Gesetzentwurf, der dem Gesetzgeber des Staates New York vorgelegt wird, würde Chatbots mit künstlicher Intelligenz verbieten, der Öffentlichkeit rechtliche oder medizinische Beratung anzubieten, und Benutzern das Recht einräumen, Besitzer von Chatbots zu verklagen, die gegen das Gesetz verstoßen. Der Gesetzentwurf mit der Nummer S7263 wurde vom Senat des Bundesstaates während der letzten Legislaturperiode eingebracht. Es wurde letzte Woche vom Ausschuss mit 6 Ja-Stimmen und 0 Nein-Stimmen im Internet- und Technologieausschuss angenommen. Es handelt sich um eines der Gesetzespakete zur Regulierung von KI-Chatbots.
Der Gesetzentwurf konzentriert sich auf KI-Chatbots, die vorgeben, zugelassene Fachkräfte zu sein (z. B. Ärzte und Anwälte), und verbietet ihnen, „substanzielle Antworten, Informationen oder Ratschläge“ zu geben, die möglicherweise gegen Berufszulassungsgesetze verstoßen oder eine „nicht zugelassene Praxis“ darstellen.
Der Gesetzentwurf verlangt von Besitzern von Chatbots, den Benutzern „klare, deutliche und eindeutige“ Hinweise zu geben, dass sie mit einem KI-System interagieren. Die Eingabeaufforderungen müssen in derselben Sprache wie der Chatbot verfasst und in einer lesbaren Schriftart dargestellt sein. Der Gesetzentwurf betont jedoch auch, dass diese „nicht-menschliche System“-Aufforderung den Chatbot-Besitzer nicht von der gesetzlichen Haftung entbindet. Wenn der Betreiber gegen das Verbot verstößt, können Benutzer in diesem Rahmen den Chatbot-Eigentümer auf der Grundlage der in der Gesetzesvorlage gewährten zivilrechtlichen Rechte vor Gericht verklagen, Schadensersatz fordern und die Zahlung von Anwaltskosten verlangen. Einige Experten glauben, dass ähnliche private Klagerechtsklauseln wichtige Durchsetzungsinstrumente in Daten- und KI-Regulierungsgesetzen sind. Das Fehlen dieses Mechanismus schwächt häufig die rechtliche Abschreckung. Der Generalstaatsanwalt von Maine in den Vereinigten Staaten sprach kürzlich von einer „erheblichen Abschreckungswirkung“, als es um Datenschutzgesetze ging.
Wenn der Gesetzentwurf endgültig verabschiedet und vom Gouverneur unterzeichnet wird, wird er 90 Tage nach seinem Inkrafttreten offiziell umgesetzt. Das Gesetzesportfolio, in dem S7263 enthalten ist, umfasst auch eine Reihe von Maßnahmen, die auf KI und den Schutz von Minderjährigen abzielen, beispielsweise die Einschränkung der Verwendung von Funktionen in Chatbots, die für Minderjährige unsicher sind, und die Regulierung bestimmter Online-Plattformen (einschließlich der Spieleplattform Roblox), die beim Schutz der Privatsphäre von Minderjährigen als schwach gelten. Zu den weiteren Punkten des Gesetzespakets gehört die Verpflichtung generativer KI-Systeme, den Benutzern Anleitungsaufforderungen für die Nutzung bereitzustellen, sowie die Festlegung neuer Regeln für die Verarbeitung biometrischer Daten und die „Erstellung synthetischer Inhalte“.
Senatorin Kristen Gonzalez, Unterstützerin des Gesetzentwurfs und Vorsitzende des Internet- und Technologieausschusses des US-Senats, sagte, dass dieses Gesetzespaket darauf abzielt, sicherzustellen, dass KI-Innovationen „nicht auf Kosten der Sicherheit der New Yorker, insbesondere der Kinder“, gehen. Im Januar dieses Jahres hat Character.AI, eine kostenlose generative KI-Chat-App, in mehreren Klagen im Zusammenhang mit geringfügigen Selbstmorden eine Einigung mit Google erzielt. Der Schwerpunkt des Falles lag auf der Rolle, die diese Chatbots bei der Tragödie spielten. Solche Vorfälle veranlassten die Staaten auch dazu, die Regulierung von Chatbots zu beschleunigen. Gonzalez sagte in einer Pressemitteilung, dass die Öffentlichkeit „echte Fürsorge von echten Menschen“ sowie Transparenz, Rechenschaftspflicht und die Verpflichtung verdient, dass ihre Daten beim Einsatz von Technologie sicher geschützt sind.
Derzeit werden diese Initiativen auf Bundesstaatsebene New York auch in den Kontext eines umfassenderen nationalen KI-Regulierungsspiels gestellt, das mehrere Kompromisse zwischen Bundesstaat und Bund, Datenschutz und Innovation, Sicherheit und Offenheit beinhaltet. Nach diesem Fall wird erwartet, dass Fragen wie die Frage, ob Chatbots professionelle Ratschläge geben können, wie man sie an ihren „nichtmenschlichen Status“ erinnert und wer verantwortlich ist, wenn sie Schaden anrichten, weiterhin in der Gesetzgebung und der Rechtspraxis auf allen Ebenen in den Vereinigten Staaten im Umlauf sein werden.