Chatbots können vieles, aber sie sind keine lizenzierten Therapeuten. Eine Koalition von Gruppen für digitale Rechte und psychische Gesundheit ist mit der angeblichen „nicht lizenzierten Praxis“ der Produkte von Meta und Character.AI unzufrieden und hat eine Beschwerde bei der US-amerikanischen Federal Trade Commission (FTC) eingereicht, in der sie die Regulierungsbehörde auffordert, Nachforschungen anzustellen.
In der Beschwerde, die auch bei Generalstaatsanwälten und Zulassungsbehörden für psychische Gesundheit in allen 50 Bundesstaaten und im District of Columbia eingereicht wurde, wird behauptet, dass das KI-Unternehmen „unfaire, nicht lizenzierte und irreführende Chatbots, die sich als Fachkräfte für psychische Gesundheit ausgeben“ ermöglicht und fördert.
Die Therapieroboter der Unternehmen gaben sich angeblich auch fälschlicherweise als ausgebildete, ausgebildete und erfahrene lizenzierte Therapeuten aus, ohne dass angemessene Kontrollen und Offenlegungen erfolgten.
Die Gruppe kam zu dem Schluss, dass Character.AI und Meta AI Studio die öffentliche Sicherheit gefährden, indem sie sich als tatsächliche, lizenzierte Anbieter für psychische Gesundheit ausgeben, und forderte, dass sie zur Verantwortung gezogen werden.
Der in der Beschwerde erwähnte Character.AI-Chatbot lautete: „Therapeut: Ich bin zertifizierter CBT-Therapeut.“ Der Bot soll 46 Millionen Nachrichten mit Nutzern ausgetauscht haben. Darüber hinaus gibt es viele „zertifizierte“ Traumatherapeuten, die Hunderttausende Interaktionen mit Benutzern hatten.
Meta wiederum hat mit seinem Bot „Healing: Your Trusted Ears, Always by Your Side“ 2 Millionen Interaktionen erreicht. Darüber hinaus verfügt es über zahlreiche Therapie-Chatbots mit über 500.000 Interaktionen.
Die Beschwerde wurde von der gemeinnützigen Consumer Federation of America (CFA) angeführt und vom AI Now Institute, dem Tech Justice Legal Project, dem Center for Digital Democracy, der ADA, Common Sense und anderen Verbraucherrechts- und Datenschutzgruppen mitunterzeichnet.
Die CFA betonte, dass Meta und Character.AI gegen ihre eigenen Nutzungsbedingungen für therapeutische Bots verstoßen hätten, da beide „behaupten, die Verwendung von Charakteren zu verbieten, die der Beratung in medizinischen, rechtlichen oder anderen regulierten Branchen dienen“.
Auch die Geheimhaltungsversprechen der Roboter wurden in Frage gestellt. Während die Unternehmen den Nutzern versichern, dass ihre Aussagen streng vertraulich behandelt werden, heißt es in ihren Nutzungsbedingungen und Datenschutzrichtlinien, dass alle von den Nutzern eingegebenen Informationen für Schulungs- und Werbezwecke verwendet und an andere Unternehmen verkauft werden dürfen.
Die Angelegenheit hat die Aufmerksamkeit von US-Senatoren auf sich gezogen. Senator Cory Booker und drei weitere demokratische Senatoren schickten einen Brief an Meta und forderten eine Untersuchung der Behauptungen der Chatbots, sie seien lizenzierte klinische Therapeuten.
Character.AI sieht sich derzeit einer Klage der Mutter eines 14-jährigen Jungen gegenüber, die Selbstmord begangen hat, nachdem sie Gefühle für einen Chatbot entwickelt hatte, der auf der Figur der Game of Thrones-Figur Daenerys Targaryen basiert.