Aperçu de la sécurité : mars
Modération complète, nouveau tableau de bord pour les créateurs et formation pour les gestionnaires de communauté
Dans notre Safety Snapshot de mars, nous expliquons comment nous modérons les contenus à l’aide de systèmes automatisés conçus pour détecter et supprimer les contenus problématiques, souvent avant même que les utilisateurs ne les voient. Nous présentons également un nouveau tableau de bord permettant aux créateurs de repérer et de traiter les comportements inappropriés des utilisateurs dans leurs propres jeux, ainsi qu’un nouveau programme de formation destiné aux gestionnaires de communauté de l’ensemble du secteur. Consultez le Safety Snapshot du mois dernier pour en savoir plus sur les outils de signalement des utilisateurs.
Modération continue des comportements des utilisateurs
Une partie de la magie de Roblox réside dans le contenu en constante expansion et évolution produit par nos créateurs. À tout moment, les créateurs publient des mises à jour de jeux et ajoutent de nouveaux badges ou animaux de compagnie, tandis que les utilisateurs changent les tenues de leurs avatars et peignent ou construisent des objets en temps réel. Nous examinons tout cela avant sa publication sur la plateforme et supprimons tout ce qui enfreint nos directives.
Plusieurs niveaux d’outils de modération permettent de détecter la grande majorité des contenus problématiques sur Roblox, et nous rejetons tout ce qui va à l’encontre de nos Normes communautaires. Mais nous ne sommes pas parfaits, c’est pourquoi nous nous appuyons sur les signalements des utilisateurs pour nous aider à repérer ce que nous aurions pu manquer et prendre les mesures qui s’imposent.
La nature dynamique des jeux Roblox signifie que le contenu change continuellement en fonction de la manière dont les utilisateurs combinent des avatars, des vêtements et des mouvements précédemment approuvés. Par exemple, dans les jeux qui permettent le dessin libre, un utilisateur pourrait dessiner un symbole ou un objet offensant. C'est pourquoi nous avons récemment lancé un nouveau système d'IA pour la modération multimodale en temps réel, capable d'analyser ces combinaisons dans leur ensemble.
Les systèmes de modération par IA traditionnels sont conçus pour évaluer un objet à la fois et manquent souvent de contexte, passant ainsi à côté de combinaisons qui pourraient poser problème d'une manière que les éléments pris isolément ne font pas. Notre nouveau système de modération multimodale en temps réel évalue une scène dans son ensemble, y compris les avatars, le texte et les objets 3D. Il capture tous ces éléments simultanément à un moment précis et détermine si la scène dans son ensemble enfreint nos règles. Si ce type de comportement problématique se produit de manière répétée dans une instance de jeu donnée, le système fermera uniquement cette instance (également appelée serveur), plutôt que le jeu dans son ensemble.
Depuis le lancement de ce système multimodal, nous avons fermé environ 5 000 instances par jour qui enfreignaient nos Règles de la communauté. À mesure que nous affinons et déployons le système, nous améliorons constamment notre précision et travaillons avec la communauté pour minimiser les faux positifs. Nous travaillons à l’extension de ce système multimodal afin de couvrir et de surveiller 100 % du temps de jeu. Mais il y aura toujours des individus qui tenteront de contourner n’importe quel système ; c’est pourquoi nous développons activement des technologies qui vont au-delà de la simple fermeture des serveurs. Nous travaillons sur des moyens d’identifier des acteurs malveillants spécifiques afin de pouvoir les éliminer sans perturber l’expérience des joueurs bien intentionnés.
Offrir aux créateurs une visibilité sur les fermetures de serveurs
Nous offrons aux créateurs une plus grande transparence sur les résultats de ce système de modération multimodal grâce à un ajout au tableau de bord de sécurité. Comme indiqué ci-dessus, nous fermons les serveurs de jeu lorsqu’ils sont submergés par des comportements inappropriés. Afin de permettre aux créateurs de mieux visualiser la fréquence à laquelle cela se produit dans leurs jeux, nous avons ajouté un nouveau graphique à leur tableau de bord créateur existant.
Les créateurs peuvent désormais voir combien de leurs serveurs de jeu ont été fermés en raison d’un comportement inapproprié des utilisateurs (c’est-à-dire une violation de nos politiques en matière de harcèlement, de discrimination ou de contenu romantique et sexuel). Cela leur permet d’identifier une augmentation soudaine et d’agir avant que les fermetures n’affectent l’ensemble de leur communauté. Ils peuvent ensuite examiner leur jeu de plus près et décider si des modifications sont nécessaires au niveau des émoticônes personnalisées, des outils d’édition d’avatar ou des fonctionnalités de création en jeu afin d’aider à prévenir les créations problématiques.
Formation des modérateurs numériques
Roblox, Keyword Studios et Riot Games s'associent à Rachel Kowert, psychologue de recherche et directrice de recherche chez Games for Change, pour mettre en place un nouveau programme de certification destiné aux responsables de communautés numériques. Roblox apportera son expertise en matière de modération communautaire et de conception prosociale afin de piloter et de contribuer à l'élaboration du programme du nouveau DLC Leadership Program. L'objectif de cette initiative est de pallier le manque de formation standardisée pour les modérateurs en ligne, les gestionnaires de communauté et les créateurs dans le domaine du jeu vidéo. Dans un article récent, Mme Kowert a déclaré que le programme visait à « traduire la recherche sur les communautés de joueurs et les comportements en ligne en outils pratiques que les leaders du numérique pourront utiliser pour bâtir des communautés en ligne plus résilientes et durables ».
En participant à cette initiative, nous contribuerons à montrer la voie au secteur en développant un programme de certification standardisé unique en son genre, conçu pour bénéficier à la communauté des créateurs de Roblox et au secteur du jeu vidéo dans son ensemble. Une fois mis en place, ce programme aidera les créateurs à acquérir les compétences essentielles nécessaires pour modérer et gérer efficacement leurs propres communautés en pleine expansion. Nous sommes convaincus que former davantage de modérateurs et de créateurs aux meilleures pratiques pour des communautés en ligne saines et respectueuses contribuera à rendre le jeu en ligne plus positif pour tous.
