Repensando o chat para mais diversão, jogabilidade e civilidade

• Uma conversa natural e fluida é essencial para jogos em equipes ou comunidades. 

• Os ##### no lugar de expressões inapropriadas podem atrapalhar a conversa, dificultar o entendimento e prejudicar a jogabilidade.

• Para manter a conversa fluida e respeitosa, estamos aprimorando nossos filtros de conversa e reformulando palavrões para expressões que estão dentro das nossas diretrizes.

• Esse é o primeiro passo para, a longo prazo, reduzir os ##### e proporcionar conversas mais naturais. Vamos continuar aprendendo, iterando e atualizando nossas ferramentas para promover conversas seguras e civilizadas, incluindo controles adicionais para os usuários.

Todos os dias, milhões de pessoas se conectam e jogam na Roblox, onde a comunicação em tempo real é importante para que os usuários se expressem e coordenem suas ações durante o jogo. O uso de filtros de IA para bloquear textos problemáticos (visíveis para os usuários como #####) sempre foi fundamental para nossa abordagem de segurança e aumento da civilidade. Os ##### são gerados em tempo real e ajudam os usuários a entender quando algo que eles digitam não é permitido. É claro que, quando os usuários violam as regras várias vezes, há outras consequências além de suas palavras serem substituídas por ###.

Em maio de 2025, inserimos avisos antecipados e em tempo real para ajudar os usuários a entender nossas políticas. Agora, eles estão ativos tanto para o chat de texto quanto para o de voz. Essas notificações servem para informar aos usuários que eles quebraram uma regra, solicitar que repensem sua linguagem na próxima vez e ajudá-los a se tornarem cidadãos digitais melhores. Em experimentos no ano passado, observamos que emitir notificações no chat de texto na experiência e aplicar suspensões temporárias reduziu em 5% o número de mensagens de chat filtradas e em 6% as consequências de denúncias de abuso.

Hoje estamos adicionando um recurso extra para manter o chat de texto na experiência mais civilizado. Vamos usar a IA para reformular automaticamente as mensagens, começando com palavrões. À medida que esses sistemas se expandem, eles criam um ciclo que reforça a civilidade. O feedback em tempo real ajuda os usuários a aprender e seguir nossas Regras da Comunidade. Todos os usuários, não apenas o remetente da mensagem, veem qual linguagem é permitida na Roblox (e o remetente vê o que não é permitido). Isso fornece mais feedback aos usuários que podem não conhecer as regras e se baseia em nossa base de filtragem e avisos em tempo real para ajudar na promoção de conversas seguras, civilizadas e divertidas na Roblox.

Reformulação de mensagens no chat em tempo real: passando de bloqueios para orientações

Para muitos usuários, uma sequência de ##### pode ser um beco sem saída na conversa, sem nenhuma orientação sobre como reformular sua linguagem para seguir nossas Regras da Comunidade. Muitas vezes, isso pode causar confusão e dificultar a colaboração entre as equipes dentro de um jogo. Imagine alguém tentando dizer a um amigo que tem um monstro atrás dele e digitando algo como "Cuidado! Tem um puta monstro aí!"para avisá-lo. O amigo só vai ver "###########", o que não ajuda muito. 

A partir de hoje, o texto filtrado será traduzido para uma linguagem mais respeitosa que ainda pareça natural para os usuários da Roblox. No lançamento, essa reformulação em tempo real está focada em palavrões. Por exemplo, "Corre crlh!"pode virar "Corre!", que está muito mais próximo da intenção original do que #####. Para deixar claro, quando reformulamos uma mensagem que viola nossa política de palavrões, ela ainda será considerada uma violação, e as mesmas regras ainda serão aplicáveis. Um usuário que continuar tentando usar palavrões no chat ainda enfrentará as mesmas consequências por violar várias vezes nossa política. 

Pense nesse sistema como o volante de um carro, em vez de uma placa de pare. Se a mensagem violar nossa política, todos no chat serão notificados de que o texto foi reformulado para manter as coisas civilizadas. Trocando palavras restritas por expressões que os usuários realmente usam nas conversas do dia a dia, deixamos o chat respeitoso sem perder a naturalidade ou o fluxo da conversa. Ao substituir essas "placas de pare" por orientações em tempo real, podemos reduzir parte desse atrito e ainda reforçar nossas regras contra palavrões.

Ainda estamos no início do processo de reformular frases e dar mais contexto aos usuários quando um conteúdo escrito é bloqueado. Com o tempo, como qualquer ferramenta de tradução de IA, ele se tornará cada vez mais fiel e refinado para preservar o tom e o contexto original do usuário. Nossa prioridade continua sendo criar uma maneira segura e civilizada de comunicação no Roblox, que continue priorizando a informação, a educação e a orientação dos nossos usuários à medida que eles aprendem nossos padrões.

Embora isso reduza algumas interrupções no bate-papo, nosso sistema de segurança em várias camadas permanece em vigor para comportamentos mais sérios. A reformulação de frases está disponível exclusivamente para o bate-papo na experiência, apenas para usuários com idade verificada em grupos de idades semelhantes e suas conexões confiáveis. É compatível com todos os idiomas atualmente disponíveis por meio de nossas ferramentas de tradução automática. Nosso objetivo é alcançar um nível de fidelidade que nos permita reduzir os ### até que possamos eliminá-los completamente, tornando a comunicação digital tão natural e clara quanto uma conversa presencial.

Ao desenvolvermos esse recurso, consultamos os membros do nosso Conselho de Adolescentes para construir um sistema como os adolescentes realmente conversam. Sofia, membra do conselho, disse: "a reformulação de frases em tempo real preserva o fluxo da conversa e, ao mesmo tempo, ajuda a manter a comunidade segura. Isso coloca a interação de volta nos trilhos de forma gentil e ajuda as pessoas a se sentirem bem-vindas". 

Jordyn, membro do Conselho de Adolescentes, concorda. "Essa mudança ensina os jogadores a considerar como eles se comunicam e fortalece a interação, promovendo conexões amigáveis", disse Jordyn. A reformulação de frases é um meio termo entre as solicitações dos jogadores e os padrões de segurança necessários."  

Filtros de texto aprimorados: evolução dos padrões para o contexto

Nossos recursos de segurança estão sempre evoluindo para se assemelharem às conversas dos usuários no Roblox. Nossos filtros de texto são treinados para detectar e bloquear qualquer coisa que vá contra as Regras da Comunidade. Isso precisa acontecer em escala global e em tempo real, enquanto os usuários estão conversando.

Inicialmente, esse sistema tinha dois componentes: 1) um sistema baseado em regras, projetado para detectar e bloquear conteúdos que violam nossas regras em questão de minutos quando ocorrem eventos do mundo real; 2) um conjunto de modelos especializados que foram treinados a partir de um modelo maior, com base em um conjunto de amostras simuladas e reais que sempre são atualizadas para incluir as transformações das linguagens. 

Esses modelos especializados são muito bons em tarefas específicas, como encontrar uma lista de palavras que não permitimos, mas eles não conseguem raciocinar muito bem, então não são bons em encontrar termos que estão mudando. Modelos extremamente grandes não funcionam em tempo real, e alucinações (ou categorizações incorretas) geralmente aumentam os falsos positivos. 

Nessa atualização, adicionamos um terceiro componente no nosso sistema de filtro de texto. Agora, quando os modelos especializados não têm certeza se algo está violando as regras ou não, eles são enviados para modelos muito grandes, que são melhores em raciocinar e avaliar mais o contexto. Esses modelos de grande escala podem tomar decisões mais complexas. 

Nossos experimentos mostram que essa abordagem combinada melhorou consideravelmente nossos filtros. Os filtros agora detectam melhor o leet speak, a substituição de letras por números ou símbolos, além de tentativas mais sofisticadas de burlar o sistema. Nenhum sistema é perfeito, mas estamos contentes porque essa inovação mais recente nos permitiu reduzir em 20x a prevalência de falsos negativos quando alguém compartilha ou solicita informações pessoais, como perfis de redes sociais ou telefone.

Essa abordagem é ousada e inovadora, e nem sempre conseguiremos reformular as frases perfeitamente. Porém, continuaremos aprendendo e testando à medida que avançamos e reduziremos cada vez mais os ##### que os usuários veem em suas conversas, com o objetivo de longo prazo de eliminá-los completamente. Nosso objetivo final é capacitar os usuários para que colaborem e se conectem de forma divertida e respeitosa.