Resumen de seguridad de enero

El Resumen de seguridad de este mes destaca las iniciativas de seguridad y civilidad que lanzamos en las últimas semanas, incluida la nueva tecnología para monitorear de manera proactiva los avatares e informar a los usuarios sobre nuestras políticas. También creamos y lanzamos nuevos informes de civilidad en asociación con organizaciones de terceros.

Anuncio de la moderación proactiva de avatares

En 2025, los usuarios de Roblox actualizaron sus avatares un promedio de 274 millones de veces al día, cambiando su ropa y peinados, además de agregar mascotas, sombreros y otros accesorios. Muchos usuarios dedican tiempo a cuidar el aspecto de su avatar porque es una expresión de sí mismos en la plataforma. Para mantener la seguridad de las personas, escaneamos de manera proactiva todo lo que se sube al Mercado de Avatares y bloqueamos cualquier cosa que detectemos que infringe nuestras Normas de la comunidad. Sin embargo, los usuarios a veces combinan objetos inocuos de una manera que crea un atuendo que infringe nuestras políticas. Por ejemplo, un traje negro, un brazalete y un bigote cumplen con las normas por sí solos, pero combinados, podrían usarse para crear un avatar que se parezca a Adolf Hitler, lo que va en contra de nuestras políticas.

Históricamente, hemos identificado avatares problemáticos a través de los reportes de los usuarios. A partir de este mes, escanearemos automáticamente los avatares en busca de infracciones cada vez que se cambien, a menudo antes de que otros usuarios lo vean. Estos escaneos evalúan el avatar completo, con todos los objetos equipados, para detectar si algo infringe nuestras normas. Si el sistema detecta algo inapropiado, el avatar del usuario se restablecerá a un avatar predeterminado (con todos los objetos del avatar sin equipar). Una notificación informará al usuario que su avatar fue restablecido y qué política se infringió, para ayudarle a conocer y cumplir con las pautas de nuestra plataforma en el futuro. Si bien ningún sistema es perfecto, estas notificaciones proporcionan a los usuarios una forma de marcar si sienten que el sistema cometió un error y nos ayudan a mejorar la precisión de la moderación. 

Para avanzar en la investigación para la industria del videojuego, Roblox colaboró con la Prosocial Design Network, una organización dedicada a promover elementos de diseño innovadores que fomentan y alientan el comportamiento positivo en las plataformas en línea. El objetivo de esta colaboración fue identificar proyectos de investigación que puedan ayudar a promover una conexión social positiva en las plataformas de videojuegos. Revisamos las propuestas y otorgamos subvenciones a seis equipos de investigación para impulsar proyectos enfocados en fomentar la conexión a través de los videojuego. Con el avance de estos proyectos de investigación, esperamos aprender de sus resultados y ver si pueden influir en el diseño de futuros productos de Roblox y de otras empresas. Consulta más detalles sobre los proyectos ganadores aquí. 

Informe: Diseño para conexiones sociales positivas  

En colaboración con el Young and Resilient Research Centre de la Western Sydney University y PROJECT ROCKIT, recientemente publicamos un informe sobre la creación de conexiones. El informe proporciona un marco para que responsables políticos y líderes de la industria tecnológica diseñen de manera intencional y proactiva en favor del bienestar, la autonomía y las relaciones sociales saludables de los niños Estas recomendaciones basadas en evidencia incluyen innovaciones técnicas y estándares regulatorios para ayudar a la industria a unirse para crear entornos digitales que empoderen a los jóvenes a prosperar en entornos seguros y conectados.  

Las recomendaciones de este informe refuerzan las inversiones que Roblox ha hecho a lo largo de los años y muchas se alinean con la forma en que pensamos sobre el diseño para la seguridad, que incluye:  

• Sistema de seguridad multicapa: a lo largo de los años, hemos diseñado un sistema de seguridad por capas que incorpora redundancias y mejora continua para ayudar a equilibrar la innovación con la seguridad de los usuarios. 

• Asociación con expertos: aprovechamos una combinación de tecnología de seguridad avanzada y colaboración en el mundo real, trabajando con todos (padres, madres o tutores, expertos en seguridad y agencias gubernamentales) para mantener nuestra comunidad segura y respetuosa. 

• Consejos de adolescentes y padres, madres o tutores: estos consejos reúnen tanto a los jóvenes como a sus padres, madres o tutores para consultar sobre algunas de nuestras políticas y características y proporcionar información sobre el lenguaje para garantizar que el contenido que compartimos con los usuarios más jóvenes se sienta relevante y respetuoso.

• Moderación de voz en tiempo real: este sistema activa notificaciones para informar a los usuarios cuando han infringido una política, comunicarles nuestras normas y aplicar tiempos de espera en el chat en caso de infracciones posteriores. 

• Moderación proactiva de avatares: como se señaló anteriormente, este nuevo sistema también incluirá información para ayudar a los usuarios a comprender por qué su avatar no puede publicarse y qué política infringe su avatar o la actualización realizada.

“Nuestra colaboración con Roblox subraya la importancia del diseño basado en evidencia para crear entornos digitales que prioricen el bienestar de los jóvenes,” dijo la profesora Amanda Third, del Young and Resilient Research Centre de la Western Sydney University. “Este importante trabajo destaca el valor de reunir a investigadores, jóvenes y a la industria para profundizar nuestra comprensión y diseñar espacios que fomenten la conexión, la empatía, la inclusión y el compromiso social positivo. La colaboración intersectorial es indispensable si queremos construir entornos en línea que defiendan los derechos de los niños y apoyen de manera significativa los comportamientos prosociales, con las voces de los jóvenes en el centro de ese proceso”.

Todo este trabajo es parte de nuestro alcance y colaboración continuos con organizaciones juveniles, incluido PROJECT ROCKIT, para apoyar su trabajo en la prevención del acoso en línea y la promoción de conexiones sociales saludables y positivas en línea.