Aperçu de la sécurité : janvier

Le Safety Snapshot de ce mois-ci met en avant les initiatives en matière de sécurité et de civilité que nous avons lancées au cours des dernières semaines, notamment une nouvelle technologie permettant de surveiller de manière proactive les avatars et de sensibiliser les utilisateurs à nos politiques. Nous avons également créé et publié de nouveaux rapports sur la civilité en partenariat avec des organisations tierces. 

Annonce de la modération proactive des avatars 

En 2025, les utilisateurs de Roblox ont mis à jour leurs avatars en moyenne 274 millions de fois par jour, modifiant leurs vêtements et leurs coiffures, et ajoutant des animaux de compagnie, des chapeaux et d’autres accessoires. De nombreux utilisateurs passent du temps à soigner l’apparence de leur avatar, car celui-ci est une expression de leur personnalité sur la plateforme. Afin d'assurer la sécurité de tous, nous analysons de manière proactive tout ce qui est mis en ligne sur l'Avatar Marketplace et bloquons tout ce que nous détectons comme enfreignant nos Normes communautaires. Cependant, les utilisateurs combinent parfois des éléments inoffensifs d'une manière qui crée une tenue contraire à nos politiques. Par exemple, un costume noir, un brassard et une moustache sont tous conformes pris séparément, mais combinés, ils pourraient être utilisés pour créer un avatar ressemblant à Adolf Hitler, ce qui va à l'encontre de nos politiques.

Afin de faire progresser la recherche dans le secteur du jeu vidéo, Roblox a collaboré avec le Prosocial Design Network, une organisation dédiée à la promotion d'éléments de conception innovants qui favorisent et encouragent les comportements positifs sur les plateformes en ligne. L'objectif de cette collaboration était d'identifier des projets de recherche susceptibles de contribuer à promouvoir des liens sociaux positifs sur les plateformes de jeu. Les propositions ont été examinées et nous sommes heureux d'annoncer que six équipes de recherche ont reçu des subventions pour mener à bien des projets liés à la promotion des liens sociaux par le biais du jeu. Au fur et à mesure de l'avancement de ces projets de recherche, nous espérons découvrir les enseignements qui en seront tirés et voir si certains d'entre eux pourraient inspirer la conception future de produits pour Roblox ainsi que pour d'autres entreprises. Vous trouverez plus de détails sur les projets lauréats ici. 

Rapport : Concevoir pour des liens sociaux positifs  

En collaboration avec le Young and Resilient Research Centre de l’université Western Sydney et PROJECT ROCKIT, nous avons récemment publié un rapport intitulé « Building Connection ». Ce rapport fournit un cadre aux décideurs politiques et aux dirigeants du secteur technologique pour concevoir de manière intentionnelle et proactive des solutions favorisant le bien-être, l’autonomie et des liens sociaux sains chez les enfants. Ces recommandations fondées sur des données factuelles incluent des innovations techniques et des normes réglementaires visant à aider le secteur à s’unir pour créer des environnements numériques qui permettent aux jeunes de s’épanouir dans des environnements sûrs et connectés.  

Les recommandations de ce rapport viennent renforcer les investissements réalisés par Roblox au fil des ans et beaucoup d’entre elles rejoignent notre approche de la conception axée sur la sécurité, notamment :  

• Un système de sécurité à plusieurs niveaux : au fil des ans, nous avons conçu un système de sécurité à plusieurs niveaux doté de redondances intégrées et d’un processus d’amélioration continue afin de concilier innovation et sécurité des utilisateurs. 
• Partenariats avec des experts : nous combinons des technologies de sécurité sophistiquées et une collaboration concrète, en travaillant avec tous les acteurs concernés — parents, experts en sécurité et organismes gouvernementaux — afin de garantir la sécurité et le respect au sein de notre communauté. 
• Conseils d'adolescents et de parents : ces conseils réunissent à la fois des jeunes et leurs parents pour les consulter sur certaines de nos politiques et fonctionnalités, et nous aider à affiner notre langage afin de garantir que le contenu que nous partageons avec les plus jeunes utilisateurs soit pertinent et respectueux.
• Modération vocale en temps réel : ce système envoie des notifications pour informer les utilisateurs lorsqu’ils ont enfreint une politique, les sensibilise à nos politiques et met en place des suspensions de chat en cas de violations répétées. 
• Modération proactive des avatars : comme indiqué ci-dessus, ce nouveau système inclura également des informations visant à expliquer aux utilisateurs pourquoi leur avatar ne peut pas être publié et quelle politique leur avatar ou leur mise à jour enfreint.

« Notre collaboration avec Roblox souligne l’importance d’une conception fondée sur des données probantes pour créer des environnements numériques qui privilégient le bien-être des jeunes », a déclaré la professeure Amanda Third, du Young and Resilient Research Centre de l’université de Western Sydney. « Ce travail important met en évidence l’intérêt de réunir chercheurs, jeunes et acteurs du secteur pour approfondir notre compréhension et concevoir des espaces qui favorisent les liens, l’empathie, l’inclusion et l’engagement social positif. La collaboration intersectorielle est essentielle si nous voulons construire des environnements en ligne qui respectent les droits des enfants et soutiennent de manière significative les comportements prosociaux, en plaçant la voix des jeunes au cœur de ce processus. »

Tout ce travail s’inscrit dans le cadre de notre action de sensibilisation et de notre collaboration continues avec des organisations de jeunesse, notamment PROJECT ROCKIT, afin de soutenir leur action en matière de prévention du harcèlement en ligne et de promotion de relations sociales saines et positives sur Internet.