Roblox lanceerde een real-time, AI-aangedreven chat-herformuleringsfunctie om verboden woorden te vervangen door respectvoller taalgebruik. Het nieuwe systeem vervangt het vorige filter van het platform, dat simpelweg verboden tekst censureerde met hash-symbolen. Roblox verklaarde dat de verandering bedoeld is om te voorkomen dat gesprekken verstoord en moeilijk te volgen zijn.
De functie herformuleert gefilterde tekst om dicht bij de oorspronkelijke bedoeling van de gebruiker te blijven, terwijl de beleefdheid behouden blijft. Het bericht “Schiet op, TF!” verschijnt nu als “Schiet op!” in plaats van “####.” Het bedrijf waarschuwt alle gebruikers in een chat wanneer een bericht opnieuw is geformuleerd.
“Realtime herformulering helpt de gameplay en gesprekken op het goede spoor te houden en tegelijkertijd de taal te begeleiden naar wat gepast is”, zegt Rajiv Bhatia, vice-president van User and Discovery Product bij Roblox. “Deze aanpak vermindert de wrijving in de chat, terwijl de normen behouden blijven die onze gemeenschap beschaafd houden.”
De herformuleringstool ondersteunt alle talen die beschikbaar zijn via de automatische vertaalhulpmiddelen van Roblox. Roblox is ook bezig met het upgraden van zijn tekstfiltersysteem om leetspeak en andere geavanceerde pogingen om filters te omzeilen te detecteren. Het bedrijf meldde dat deze upgrades het aantal valse negatieven bij het delen of opvragen van persoonlijke informatie twintig keer verminderden.
Deze aankondiging volgt op Roblox’s introductie van verplichte gezichtsverificatie voor chattoegang. De verificatievereiste werd ingevoerd na rechtszaken van de procureurs-generaal van Texas, Kentucky en Louisiana over de risico’s voor de veiligheid van kinderen. De juridische acties waren ingegeven door berichten over jonge gebruikers die te maken kregen met gevaren zoals ‘grooming’ en expliciete inhoud op het platform.
