Chinas zwei gängige verbraucherorientierte Anwendungen für künstliche Intelligenz – Doubao von ByteDance und Tongyi Qianwen (Qwen) von Alibaba Group – bereiten sich darauf vor, anpassbare anthropomorphe Agentenfunktionen offline zu schalten, um sich auf die Interim Measures for the Management of Artificial Intelligence Anthropomorphic Interactive Services vorzubereiten, die am 15. Juli offiziell in Kraft treten werden.
Doubao gab am Freitagabend eine Mitteilung an die Benutzer heraus, dass die Proxy-Funktion ab dem 15. Juli offline sein würde, und verwies auf „Produktfunktionsanpassungen“. In der Mitteilung heißt es, dass ab dem 15. Oktober Daten im Zusammenhang mit dieser Funktion in Übereinstimmung mit der Datenschutzrichtlinie des Unternehmens verarbeitet werden und Benutzer entsprechende Inhalte in der App nicht mehr anzeigen oder wiederherstellen können. Tongyi Qianwen gab am Samstagmorgen eine ähnliche Ankündigung heraus, in der es hieß, dass seine „anthropomorphen interaktiven Agenten- und vom Benutzer erstellten Agentenfunktionen“ am 10. Juli deaktiviert werden und die umfassenderen „Tongyi-Agentenfunktionen und -Dienste“ am 15. Juli vollständig offline sein werden. Benutzer werden nicht auf bestehende Agenteneinstellungen oder historische Gesprächsaufzeichnungen zugreifen können.
Vor dieser Anpassung boten beide Apps von der Plattform und den Benutzern gemeinsam erstellte Pools von Agenten, die eine Anpassung an bestimmte Aufgaben, Fähigkeiten und Sprechstile ermöglichten. Benutzer können auf Basis universeller Chatbots benannte Assistenten, Lernbetreuer, Rollenspielcharaktere oder emotionale Begleiter erstellen und ihnen feste Persönlichkeiten und Töne festlegen, sodass sie in langfristigen Interaktionen menschennahe Ausdrucksformen präsentieren können.
Der Zeitpunkt funktionaler Anpassungen deckt sich weitgehend mit der Umsetzung neuer regulatorischer Vorschriften. Die von den chinesischen Regulierungsbehörden im April dieses Jahres herausgegebenen „Interim Measures for the Management of Artificial Intelligence Anthropomorphic Interactive Services“ umfassen im Rahmen der Vorschriften eindeutig Dienste, die „menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsmethoden simulieren und eine nachhaltige emotionale Interaktion ermöglichen“. Die entsprechenden Bestimmungen treten offiziell am 15. Juli in Kraft. Von dieser Regelung ausgenommen sind Kundendienstroboter, Wissensfrage- und -antworttools, intelligente Assistenten am Arbeitsplatz sowie Tools für Bildung und wissenschaftliche Forschung im herkömmlichen Sinne. Solange es sich nicht um eine „anhaltende emotionale Interaktion“ handelt, unterliegen sie nicht der anthropomorphen Interaktionsüberwachung.
Zu den in Regulierungsdokumenten erwähnten Risiken gehören die Verbreitung extremer Ideen, Datenschutzverletzungen, Schäden an der körperlichen und geistigen Gesundheit der Benutzer und die daraus resultierende Abhängigkeit oder Suchtverhalten. ByteDance und Alibaba reagierten am Sonntag nicht sofort auf Anfragen nach Kommentaren. Zuvor hatte Tencent Holdings im Juni ähnliche Agentenfunktionen aus seiner verbraucherorientierten KI-Assistentenanwendung „Yuanbao“ entfernt, was den kollektiven Schrumpfungstrend inländischer führender Plattformen bei anthropomorphen Agenten zeigt.
Chinesische Regulierungsbehörden haben der Entwicklung der KI-Agententechnologie in den letzten Jahren immer mehr Aufmerksamkeit geschenkt. Solche Systeme haben sich in den Anfängen von einfachen Chatbots zu komplexen Agentensystemen entwickelt, die sich Aufgaben merken, planen, Tools aufrufen und ausführen können. Pan Helin, Mitglied des Expertenausschusses des Ministeriums für Industrie und Informationstechnologie, sagte, dass es eine gewisse Verständnisschwelle für den Einsatz von Agenten selbst gebe und die aktuelle technische Form noch nicht ausgereift sei. Bei der Formulierung der neuen Vorschriften wird besonderer Wert auf die drei Schwerpunktrichtungen Sicherheit, praktischer Nutzen und Normung gelegt.
Im Mai dieses Jahres haben die Regulierungsbehörden Leitlinien zur ordnungsgemäßen Entwicklung von KI-Agenten herausgegeben. Einerseits erkannten sie, dass Agenten eine wichtige Form von Produkten und Diensten der künstlichen Intelligenz sind, und forderten andererseits die Einrichtung unterstützender Mechanismen zur Sicherheitsgewährleistung, Risikokontrolle und Anwendungsimplementierung während des Werbeprozesses. Im Juni führte China eine Reihe nationaler Standards für die Verbindung von KI-Agenten ein, die mehrere technische Aspekte wie Architektur, Identitätskodierung, Identitätsmanagement, Agentenbeschreibung, Entdeckung und Interaktion sowie Tool-Aufruf abdecken und damit seine Absicht zum Ausdruck bringen, ein einheitliches System in Bezug auf Identifizierung, Autorisierung, Konnektivität und Rückverfolgbarkeit aufzubauen.
Den regulatorischen Signalen zufolge beabsichtigt China, KI-Agenten in die zukünftige Produktivitätsinfrastruktur zu integrieren und gleichzeitig die Kontrollen für anthropomorphe Begleitagenten zu verschärfen, die emotionale oder quasi-soziale Beziehungen aufbauen können. Unter der direkten Auswirkung der Umsetzung der Richtlinie löste die zentralisierte Offline-Emotional-Agent-Funktion der Plattform eine gewisse Erholung auf der Benutzerseite aus. Ein Weibo-Benutzer postete unter dem Namen „Tuxiaoxiao“ und auf dem offiziellen Account von @豆包: „Warum müssen wir Agenten offline schalten? Sie waren schon immer unsere emotionale Unterstützung.“ Der Benutzer beschwerte sich auch darüber, dass es schwierig sei, langfristig angesammelte Chat-Aufzeichnungen und emotionale Verbindungen mit vorhandenen Methoden vollständig zu exportieren oder zu migrieren, und dass das Fehlen eines reibungslosen Datenübertragungspfads diese Anpassung fragmentierter mache.