Roblox uruchomił funkcję przeformułowania czatu w czasie rzeczywistym, opartą na sztucznej inteligencji, która pozwala zastąpić zakazane słowa bardziej pełnym szacunku językiem. Nowy system zastępuje poprzedni filtr platformy, który po prostu cenzurował zabroniony tekst za pomocą symboli skrótu. Roblox stwierdził, że zmiana ma na celu zapobieganie zakłócaniu rozmów i utrudnianiu ich śledzenia.
Ta funkcja przekształca przefiltrowany tekst tak, aby był zbliżony do pierwotnych intencji użytkownika, zachowując przy tym uprzejmość. Na przykład komunikat „Pośpiesz się z TF!” będzie teraz wyświetlany jako „Pospiesz się!” zamiast “####.” Firma powiadamia wszystkich użytkowników na czacie, gdy wiadomość została przeformułowana.
„Przeformułowywanie w czasie rzeczywistym pomaga utrzymać rozgrywkę i rozmowy na właściwym torze, jednocześnie kierując język w kierunku tego, co właściwe” – powiedział Rajiv Bhatia, wiceprezes ds. użytkowników i produktów Discovery w Roblox. „Takie podejście zmniejsza tarcia na czacie, zachowując jednocześnie standardy, które pomagają zachować obywatelstwo w naszej społeczności”.
Narzędzie do ponownego formułowania obsługuje wszystkie języki dostępne za pośrednictwem narzędzi do automatycznego tłumaczenia Roblox. Roblox unowocześnia także swój system filtrowania tekstu, aby wykrywać leetspeak i inne wyrafinowane próby ominięcia filtrów. Firma podała, że te ulepszenia 20-krotnie zmniejszyły liczbę fałszywych negatywów podczas udostępniania lub pozyskiwania danych osobowych.
To ogłoszenie następuje po wprowadzeniu przez Roblox obowiązkowej weryfikacji twarzy w celu uzyskania dostępu do czatu. Wymóg weryfikacji został wdrożony w następstwie pozwów złożonych przez prokuratorów generalnych Teksasu, Kentucky i Luizjany w związku z zagrożeniami dla bezpieczeństwa dzieci. Podjęcie działań prawnych było spowodowane doniesieniami o młodych użytkownikach, którzy byli narażeni na niebezpieczeństwa, takie jak uwodzenie i treści o charakterze wulgarnym na platformie.
