Claude, ein Produkt des KI-Unternehmens Anthropic, hat kürzlich einen obligatorischen Mechanismus zur Identitätsüberprüfung eingeführt, der von einigen Benutzern verlangt, von der Regierung ausgestellte Originaldokumente für die Fotoüberprüfung in Echtzeit bereitzuhalten, was zu weit verbreiteten Kontroversen führte. Gemäß den von Claude bekannt gegebenen KYC-Regeln (Know Your Customer) werden zur Überprüfung nur Originalpässe, Führerscheine oder Personalausweise akzeptiert, Kopien, gescannte Kopien, digitale Zertifikate oder vorläufige Personalausweise werden jedoch nicht akzeptiert. Der Verifizierungsprozess wird vom Drittanbieter Persona durchgeführt und dauert in der Regel nicht länger als 5 Minuten.

Viele Benutzer haben jedoch festgestellt, dass die Identitätsprüfung kein Ausweis für die weitere Nutzung des Dienstes ist, sondern vielmehr ein Frühwarnzeichen dafür, dass das Konto gesperrt wird. In Claudes offiziellen FAQ wurde speziell ein Antworteintrag für die Frage „Warum wurde mein Konto nach der Verifizierung gesperrt?“ eingerichtet. und die Gründe für die Sperrung klar aufgeführt, einschließlich wiederholter Verstöße gegen Nutzungsrichtlinien, Erstellung von Konten von nicht unterstützten Standorten, Verstoß gegen Nutzungsbedingungen und Nutzung durch Personen unter 18 Jahren.

Aus den Datenschutzbestimmungen von Persona, einem Drittanbieter, der die Verifizierung durchführt, geht hervor, dass das Unternehmen über 17 Unterauftragsverarbeiter verfügt, die möglicherweise Zugriff auf Benutzerdaten haben und die Nutzung der Daten zur Verbesserung der Betrugsbekämpfungsfunktionen ermöglichen, was bedeutet, dass Benutzer-ID-Daten zum Trainieren des eigenen Modells von Persona verwendet werden können.

Dieser Überprüfungsmechanismus deckte auch Claudes Altersgrenze von 18 Jahren auf. Ein Benutzer mit dem Online-Namen llm_nerd verriet, dass sein 15-jähriger Sohn Spieleprogrammierer sei. Er abonniert den Claude Max-Dienst und nimmt Aufträge zur Entwicklung durch KI-Programmierung entgegen. Sein Einkommen übersteigt das seines Vaters. Sein Konto wurde jedoch gesperrt, da das System erkannte, dass es von einem Minderjährigen genutzt wurde. In einer E-Mail von Anthropic wurde klargestellt, dass „festgestellt wurde, dass Ihr Konto von Kindern genutzt wird, was gegen unsere Vorschriften verstößt.“ Der Nutzer erhielt eine Rückerstattung für den gesamten Monat, ohne Abzüge für die Anzahl der genutzten Tage.

Es ist erwähnenswert, dass das Modell Claude Opus 4.6 auf Nachfrage die KYC-Regeln des eigenen Unternehmens systematisch verneinte. Das Modell weist darauf hin, dass Anthropic über drei bestehende Schutzebenen verfügt: Kreditkartenverifizierung (Bank-KYC), Verhaltensdaten-Telemetrieüberwachung (die Missbrauchsmuster erkennen kann) und ein Echtzeit-Inhaltsmoderationssystem für das KI-Modell selbst. Das Modell geht davon aus, dass statische Ausweisfotos das „schwächste Glied“ und das „Datengut mit dem höchsten Risiko“ im gesamten Sicherheitsmodell sind. Sobald es durchgesickert ist, schadet es eher dem Benutzer als dem Unternehmen und ermutigt die Benutzer, über die Angelegenheit zu schreiben und sie öffentlich zu kritisieren.

Das aktuelle Mindestalter für die Nutzung von OpenAI und Gemini beträgt 13 Jahre, während Anthropic auf 18 Jahre festgelegt ist. Einige Internetnutzer scherzten darüber, dass das Konto gesperrt und das Geld zurückerstattet wird, wenn ein Minderjähriger entdeckt wird. Es könnte also eine Lücke geben, „zu behaupten, dass ein Minderjähriger am Ende des Monats kostenlos Prostitutionsmarken nutzt“.