Resumen de seguridad: enero

El resumen de seguridad de este mes destaca las iniciativas de seguridad y civismo que hemos puesto en marcha en las últimas semanas, incluida una nueva tecnología para supervisar de forma proactiva los avatares y educar a los usuarios sobre nuestras políticas. También hemos creado y publicado nuevos informes de civismo en colaboración con organizaciones externas. 

Anuncio de la moderación proactiva de avatares 

En 2025, los usuarios de Roblox actualizaron sus avatares una media de 274 millones de veces al día, cambiando la ropa y los peinados de sus avatares, además de añadir mascotas, sombreros y otros accesorios. Muchos usuarios dedican tiempo a cuidar minuciosamente el aspecto de su avatar, ya que es una forma de expresarse en la plataforma. Para ayudar a mantener la seguridad de los usuarios, analizamos de forma proactiva todo lo que se sube al Avatar Marketplace y bloqueamos cualquier elemento que detectemos que incumpla nuestras Normas de la comunidad. Sin embargo, a veces los usuarios combinan elementos inofensivos de una forma que da lugar a un atuendo que incumple nuestras políticas. Por ejemplo, un traje negro, un brazalete y un bigote cumplen las normas por separado, pero, combinados, podrían utilizarse para crear un avatar que se parezca a Adolf Hitler, lo cual va en contra de nuestras políticas.

Con el fin de impulsar aún más la investigación en el sector de los videojuegos, Roblox ha colaborado con Prosocial Design Network, una organización dedicada a promover elementos de diseño innovadores que fomenten y estimulen un comportamiento positivo en las plataformas en línea. El objetivo de esta colaboración era identificar proyectos de investigación que pudieran ayudar a promover una conexión social positiva en las plataformas de videojuegos. Se han revisado las propuestas y nos complace anunciar que seis equipos de investigación han recibido subvenciones para llevar a cabo proyectos relacionados con el fomento de las conexiones a través de los videojuegos. A medida que avancen estos proyectos de investigación, esperamos ver qué se aprende y si alguno de ellos puede servir de base para el diseño de futuros productos tanto para Roblox como para otras empresas. Puedes encontrar más detalles sobre los proyectos ganadores aquí. 

Informe: Diseño para conexiones sociales positivas  

En colaboración con el Young and Resilient Research Centre de la Universidad de Western Sydney y PROJECT ROCKIT, hemos publicado recientemente un informe sobre «Building Connection». El informe ofrece un marco para que los responsables políticos y los líderes del sector tecnológico diseñen de forma intencionada y proactiva en pro del bienestar, la autonomía y las conexiones sociales saludables de los niños. Estas recomendaciones, basadas en datos empíricos, incluyen innovaciones técnicas y normas reguladoras para ayudar al sector a unirse con el fin de crear entornos digitales que empoderen a los jóvenes para que prosperen en entornos seguros y conectados.  

Las recomendaciones de este informe refuerzan las inversiones que Roblox ha realizado a lo largo de los años y muchas de ellas coinciden con nuestra forma de concebir el diseño de la seguridad, incluyendo:  

• Sistema de seguridad multicapa: A lo largo de los años, hemos diseñado un sistema de seguridad por capas que cuenta con redundancias integradas y mejora continua para ayudar a equilibrar la innovación con la seguridad de los usuarios. 
• Colaboración con expertos: Aprovechamos una combinación de tecnología de seguridad sofisticada y colaboración en el mundo real, trabajando con todos —padres, expertos en seguridad y organismos gubernamentales— para mantener nuestra comunidad segura y respetuosa. 
• Consejos de adolescentes y padres: Estos consejos reúnen tanto a los jóvenes como a sus padres para consultarles sobre algunas de nuestras políticas y funciones, y nos aportan información sobre el lenguaje para garantizar que el contenido que compartimos con los usuarios más jóvenes resulte relevante y respetuoso.
• Moderación de voz en tiempo real: este sistema envía notificaciones para informar a los usuarios cuando han infringido una política, educándolos sobre nuestras políticas e implementando suspensiones del chat en caso de infracciones posteriores. 
• Moderación proactiva de avatares: como se ha señalado anteriormente, este nuevo sistema también incluirá información para ayudar a informar a los usuarios sobre por qué no se puede publicar su avatar y qué política infringe su avatar o actualización.

«Nuestra colaboración con Roblox subraya la importancia del diseño basado en la evidencia para crear entornos digitales que prioricen el bienestar de los jóvenes», afirmó la profesora Amanda Third, del Centro de Investigación Young and Resilient de la Universidad de Western Sydney. «Este importante trabajo pone de relieve el valor de reunir a investigadores, jóvenes y la industria para profundizar en nuestra comprensión y diseñar espacios que fomenten la conexión, la empatía, la inclusión y la participación social positiva. La colaboración intersectorial es esencial si queremos construir entornos en línea que defiendan los derechos de los niños y apoyen de manera significativa los comportamientos prosociales, con las voces de los jóvenes en el centro de ese proceso».

Todo este trabajo forma parte de nuestra labor continua de divulgación y colaboración con organizaciones juveniles, entre ellas PROJECT ROCKIT, para apoyar su labor en la prevención del acoso en línea y la promoción de relaciones sociales sanas y positivas en Internet.