Die Online-Gaming-Plattform Roblox gab kürzlich bekannt, dass sie eine auf künstlicher Intelligenz basierende Funktion zum Umschreiben von Chats in Echtzeit eingeführt hat. Wenn Spieler Nachrichten mit illegalen Inhalten senden, blockiert das System diese nicht mehr einfach mit dem „#“-Zeichen, sondern schreibt die relevanten Ausdrücke automatisch in eine höflichere und plattformkompatiblere Sprache um und versucht dabei, der ursprünglichen Ausdrucksabsicht des Benutzers so nahe wie möglich zu kommen. Roblox gab an, dass lange Absätze von „####“ in der Vergangenheit nicht nur den Gesprächsrhythmus unterbrachen, sondern es den Spielern auch schwer machten, den Kontext zu verstehen. Daher hofft Roblox, mit dieser Methode die Reibung im Chat-Prozess zu reduzieren und gleichzeitig die Standards der Höflichkeit in der Community aufrechtzuerhalten.
Wenn ein Benutzer mit dem neuen Mechanismus Inhalte mit sensiblen Wörtern eingibt, zeigt das Chatfenster direkt den umgeschriebenen Text an und weist alle an der Konversation beteiligten Benutzer darauf hin, dass die Nachricht umgeschrieben wurde, um eine freundliche und klare Kommunikationsatmosphäre aufrechtzuerhalten. In dem Bericht heißt es beispielsweise, dass der Satz „Beeil dich, TF!“ das wäre komplett blockiert worden, da „####“ nun in neutralere Ausdrücke wie „Beeil dich!“ geändert wird. Rajiv Bhatia, Vizepräsident für Benutzer- und Entdeckungsprodukte bei Roblox, sagte in einer Pressemitteilung, dass der Chat das Herzstück des sozialen, kollaborativen und spielerischen Erlebniss der Spieler auf der Plattform sei und dass das Umschreiben in Echtzeit dabei helfe, Benutzer dazu zu bringen, passendere Begriffe zu verwenden, ohne den Rhythmus des Spiels zu stören.
Bhatia betonte, dass diese Funktion einerseits Hindernisse im Chat durch „Polieren statt Stummschalten“ abbaut, andererseits weiterhin die ursprünglichen Sicherheitsstandards der Plattform beibehält und bei schwerwiegenderen Verstößen weiterhin strenge Sicherheitssysteme eingesetzt werden. Roblox wies darauf hin, dass die neu eingeführte Funktion zum Umschreiben in Echtzeit auf alle Sprachen anwendbar ist, die von den automatischen Übersetzungstools der aktuellen Plattform unterstützt werden, um ihre mehrsprachige Benutzerbasis abzudecken.
Zusätzlich zur neuen Umschreibfunktion hat Roblox auch sein Textfiltersystem aktualisiert, um mehr Variationen illegaler Sprache zu identifizieren. Das Unternehmen sagte, dass nach Verbesserungen die Leistung des Systems bei der Erkennung von „Leetspeak“ und komplexeren Schreibmethoden zur Vermeidung von Zensur verbessert wurde, wodurch „Fehler“ bei der Weitergabe oder Anforderung persönlicher Informationen deutlich reduziert wurden und die damit verbundene Fehleinschätzungsrate um etwa das Zwanzigfache gesenkt wurde.
Das Update erfolgt vor dem Hintergrund, dass Roblox die Sicherheitsmaßnahmen auf der Plattform verschärft. Roblox hat erst im Februar dieses Jahres eine obligatorische Gesichtsverifizierung für den Plattform-Chat eingeführt, nachdem das Unternehmen mit mehreren Klagen von Generalstaatsanwälten aus Texas, Kentucky und Louisiana konfrontiert war, in denen behauptet wurde, dass die Plattform ernsthafte versteckte Gefahren für die Kindersicherheit berge. Die Klagen basieren auf mehreren Untersuchungsberichten und Vorwürfen von Forschungsorganisationen, dass Roblox minderjährige Benutzer hochriskanten Umgebungen aussetzt, darunter Täuschung und explizite Inhalte, was eine laufende behördliche Kontrolle und Druck auf seine Sicherheitsmechanismen auslöst.
Aufgrund des regulatorischen Drucks und der Sicherheitsanforderungen der Community nutzt Roblox dieses Mal eine Kombination aus Echtzeit-KI-Umschreibung und stärkerer Textfilterung, um die Kohärenz und Lesbarkeit von In-Game-Chats so weit wie möglich aufrechtzuerhalten und gleichzeitig die Sicherheit von Kindern und Jugendlichen zu gewährleisten.