Resumo de segurança: janeiro
Pesquisa proativa sobre moderação de avatares e civilidade
O Resumo de Segurança deste mês destaca as iniciativas de segurança e civilidade que lançamos nas últimas semanas, incluindo novas tecnologias para monitorar proativamente avatares e educar os usuários sobre nossas políticas. Também criamos e lançamos novos relatórios de civilidade em parceria com organizações terceirizadas.
Anunciando a moderação proativa de avatares
Em 2025, os usuários do Roblox atualizaram seus avatares em média 274 milhões de vezes por dia, mudando as roupas e os penteados de seus avatares, além de adicionar animais de estimação, chapéus e outros acessórios. Muitos usuários dedicam tempo para cuidar cuidadosamente da aparência de seus avatares, pois ela é uma forma de se expressarem na plataforma. Para ajudar a manter as pessoas seguras, verificamos proativamente tudo o que é enviado para o Avatar Marketplace e bloqueamos qualquer coisa que detectemos como violação de nossos Padrões da Comunidade. No entanto, os usuários às vezes combinam itens inofensivos de uma forma que cria uma roupa que viola nossas políticas. Por exemplo, um terno preto, uma braçadeira e um bigode são todos conformes por si só, mas, combinados, poderiam ser usados para criar um avatar que se assemelha a Adolf Hitler, o que vai contra nossas políticas.
Apoiando a pesquisa sobre civilidade
Para promover ainda mais a pesquisa na indústria de jogos, a Roblox colaborou com a Prosocial Design Network, uma organização dedicada a promover elementos de design inovadores que estimulem e incentivem comportamentos positivos em plataformas online. O objetivo dessa colaboração foi identificar projetos de pesquisa que possam ajudar a promover conexões sociais positivas em plataformas de jogos. As propostas foram analisadas e temos o prazer de anunciar que seis equipes de pesquisa receberam bolsas para desenvolver projetos relacionados à promoção de conexões por meio dos jogos. À medida que esses projetos de pesquisa avançam, esperamos ver o que será aprendido e se alguma dessas descobertas poderá influenciar o design de produtos futuros da Roblox, bem como de outras empresas. Mais detalhes sobre os projetos vencedores podem ser encontrados aqui.
Relatório: Design para conexões sociais positivas
Em colaboração com o Young and Resilient Research Centre da Western Sydney University e o PROJECT ROCKIT, lançamos recentemente um relatório sobre a construção de conexões. O relatório fornece uma estrutura para que formuladores de políticas e líderes do setor de tecnologia possam projetar de forma intencional e proativa o bem-estar, a autonomia e as conexões sociais saudáveis das crianças. Essas recomendações baseadas em evidências incluem inovações técnicas e padrões regulatórios para ajudar o setor a se unir na criação de ambientes digitais que capacitem os jovens a prosperar em ambientes seguros e conectados.
As recomendações deste relatório reforçam os investimentos que a Roblox vem fazendo ao longo dos anos, e muitas delas se alinham à nossa visão de design voltado para a segurança, incluindo:
- Sistema de segurança em camadas: Ao longo dos anos, projetamos um sistema de segurança em camadas que possui redundâncias integradas e melhoria contínua para ajudar a equilibrar inovação e segurança do usuário.
- Parcerias com especialistas: Aproveitamos uma combinação de tecnologia de segurança sofisticada e colaboração no mundo real, trabalhando com todos — pais, especialistas em segurança e órgãos governamentais — para manter nossa comunidade segura e civilizada.
- Conselhos de adolescentes e pais: esses conselhos reúnem jovens e seus pais para consultar sobre algumas de nossas políticas e recursos e fornecer insights sobre a linguagem, a fim de garantir que o conteúdo que compartilhamos com usuários mais jovens seja relevante e respeitoso.
- Moderação de voz em tempo real: esse sistema aciona notificações para informar aos usuários quando eles violam uma política, orientando-os sobre nossas políticas e aplicando suspensões temporárias do chat em caso de violações subsequentes.
- Moderação proativa de avatares: Conforme mencionado acima, esse novo sistema também incluirá informações para ajudar a esclarecer aos usuários por que seu avatar não pode ser publicado e qual política seu avatar ou atualização viola.
“Nossa colaboração com a Roblox ressalta a importância do design baseado em evidências para criar ambientes digitais que priorizem o bem-estar dos jovens”, disse a professora Amanda Third, do Young and Resilient Research Centre da Western Sydney University. “Este importante trabalho destaca o valor de reunir pesquisadores, jovens e o setor para aprofundar nossa compreensão e projetar espaços que promovam conexão, empatia, inclusão e engajamento social positivo. A colaboração intersetorial é essencial se quisermos construir ambientes online que defendam os direitos das crianças e apoiem de forma significativa comportamentos pró-sociais, com as vozes dos jovens no centro desse processo.”
Todo esse trabalho faz parte de nossa ação social e colaboração contínuas com organizações juvenis, incluindo o PROJECT ROCKIT, para apoiar seu trabalho na prevenção do bullying online e na promoção de conexões sociais saudáveis e positivas na internet.
