Repenser le chat pour plus de fun, de jeux et de civilité

• Lorsque des équipes ou des communautés jouent ensemble, il est essentiel d'avoir des conversations fluides et naturelles sur le chat.

• Les chaînes de #####, indiquant que des propos inappropriés ont été bloqués, peuvent perturber les conversations, les rendre difficiles à suivre et interrompre les parties.

• Afin de favoriser une expérience de chat fluide et ancrée dans le respect, nous améliorons nos filtres dédiés. En outre, nous reformulons les grossièretés en faveur de mots conformes à nos directives.

• C'est la première étape de notre démarche à long terme visant à réduire le nombre de #####. Objectif : une expérience de chat plus naturelle. Nous allons continuer notre apprentissage, nos tentatives et faire évoluer nos outils pour que le chat soit un lieu sûr et propice aux échanges courtois. Nous allons notamment nous appuyer sur des contrôles supplémentaires pour les utilisateurs.

Chaque jour, des millions de personnes se connectent et jouent sur Roblox. Sur notre plateforme, la communication en temps réel est cruciale pour que les utilisateurs s'amusent ensemble et tissent des liens. L'utilisation de filtres d'IA pour bloquer les textes problématiques (à la place, les utilisateurs voient des #####) a toujours été au cœur de notre approche en matière de sécurité et de renforcement de la civilité. Ces marques de hachage sont générées en temps réel. Elles permettent aux utilisateurs de comprendre que ce qu'ils s'apprêtent à envoyer est contraire à nos règles. Bien entendu, si les utilisateurs enfreignent les règles à plusieurs reprises, les conséquences sont bien plus strictes que le simple remplacement de leurs propos par ###.

En mai 2025, nous avons mis en place des avertissements proactifs en temps réel pour aider les utilisateurs à comprendre nos politiques. Ces avertissements sont désormais actifs pour le chat vocal et texte. Ces notifications informent les utilisateurs d'éventuels manquements aux règles, les incitent à s'exprimer différemment et les aident à devenir de meilleurs citoyens numériques. L'année dernière, des expériences ont montré que l'envoi de notifications dans le chat texte de l'expérience et l'application de temps d'arrêt ont entraîné une diminution de 5 % du nombre de messages filtrés sur le chat, ainsi qu'une baisse de 6 % des conséquences suite à des signalements de comportements abusifs.

Aujourd'hui, nous ajoutons une autre fonctionnalité visant à favoriser le maintien de la civilité dans le chat texte des expériences : nous nous appuyons sur l'IA pour reformuler automatiquement les messages, notamment les grossièretés. Ces systèmes, en constante évolution, créent un élan de civilité. Ainsi, chaque commentaire en temps réel aide les utilisateurs à apprendre et à respecter nos Normes de la communauté. Tous les utilisateurs, et non seulement les auteurs de messages problématiques, savent alors quels propos sont autorisés sur Roblox (et les auteurs fautifs savent ce qui ne l'est pas). Cela permet d'offrir davantage de commentaires aux utilisateurs qui ne connaissent peut-être pas les règles. Grâce à cet outil, qui s'appuie sur notre système de filtrage et d'avertissements en temps réel, nos utilisateurs peuvent échanger de manière sûre, respectueuse et plaisante sur Roblox.

Reformulation en temps réel dans le chat : des panneaux « stop » aux conseils

Pour de nombreux utilisateurs, une chaîne de caractères ##### peut bloquer les conversations. En outre, ils n'ont aucune indication sur la façon de repenser leur propos afin de respecter nos Normes de la communauté. Le résultat est souvent confus et rend plus difficile la collaboration entre les équipes au sein d'une expérience. Imaginez : un utilisateur essaie d'avertir son ami pour lui dire qu'un monstre se trouve derrière lui. Il envoie un message comme « Fais gaffe ! Il y a un putain de monstre sur ton ahhh ! »pour l'avertir. L'ami en question ne voit que « ########### ». Ce n'est pas très utile. 

À partir d'aujourd'hui, le texte filtré sera traduit dans un langage plus respectueux et toujours naturel pour les utilisateurs de Roblox. Cette reformulation en temps réel va tout d'abord se concentrer sur les grossièretés. Par exemple : « Grouille-toi ! »pourrait devenir « Dépêche-toi ! ».Le résultat est beaucoup plus lisible que #####. Soyons clairs : dès lors que nous reformulons un message contraire à notre politique en matière de grossièretés, nous réagissons face à une violation. Les mêmes règles s'appliquent. Un utilisateur qui tente plusieurs fois de jurer dans le chat fait toujours face aux mêmes conséquences pour avoir enfreint notre politique à plusieurs reprises.

Ce système s'apparente à un volant, plutôt qu'à un panneau « stop ». Si un message enfreint notre politique, tous les participants au chat savent que le texte a été reformulé par mesure de courtoisie. En associant les mots restreints à des expressions de tous les jours des utilisateurs du chat, nous contribuons à une ambiance respectueuse, sans jamais perdre son caractère authentique ou sa fluidité. En remplaçant ces panneaux « stop » par des conseils en temps réel, nous sommes en mesure de réduire une partie de ces frictions et de renforcer nos règles contre les jurons.

Nous n'en sommes encore qu'aux premiers stades de la reformulation et de la contextualisation des messages bloqués pour les utilisateurs. Comme tout outil de traduction basé sur l'IA, avec le temps, il gagnera en précision et en nuance dans sa capacité à préserver le ton et le contexte d'origine de l'utilisateur. Sur Roblox, notre priorité reste de construire un moyen de communication sûr et respectueux, qui continue de privilégier l'information, l'éducation et l'accompagnement des utilisateurs dans l'apprentissage de nos standards.

Bien que la reformulation réduise certaines interruptions dans le chat, notre système de sécurité multicouche reste actif pour les comportements plus graves. La reformulation est disponible exclusivement pour le chat au sein des expériences, entre utilisateurs dont l'âge a été vérifié et appartenant aux groupes d'âge similaires, ainsi qu'à leurs Connexions de confiance. Les reformulations sont prises en charge dans toutes les langues actuellement disponibles via nos outils de traduction automatique. Notre objectif est d'atteindre un niveau de précision qui nous permettra de réduire les ### jusqu'à les supprimer complètement, rendant ainsi la communication numérique aussi naturelle et fluide qu'une conversation en personne.

Pour concevoir un système qui reflète la manière dont les jeunes communiquent réellement, nous avons consulté les membres de notre Conseil des Adolescents lors du développement de cette fonctionnalité. Sofia, membre de ce Conseil, nous a confié : « Passer à la reformulation en temps réel préserve le flux de la conversation tout en garantissant la sécurité de chacun. Cela recentre habilement l'interaction et aide les utilisateurs à se sentir à l'aise. » 

Jordyn, membre du Conseil des Adolescents, est du même avis. « Ce changement invite les joueurs à réfléchir quant à leur manière de communiquer et renforce les interactions en favorisant des connexions amicales », explique Jordyn. « Passer à la reformulation permet de trouver un juste milieu entre les demandes des joueurs et les normes de sécurité nécessaires. »

Filtres de texte améliorés : passer des modèles au contexte

Nos fonctionnalités de sécurité évoluent constamment pour s'adapter à la manière dont les utilisateurs communiquent sur Roblox. Nos filtres de texte sont pensés pour détecter et bloquer tout contenu allant à l'encontre des Normes de la communauté. Cela doit se faire à l'échelle mondiale et en temps réel, pendant que les utilisateurs sont en train de discuter.

Initialement, ce système comportait deux composants : 1) Un système basé sur des règles, conçu pour détecter et bloquer rapidement tout contenu enfreignant nos règles lors d'événements en temps réel. 2) Un ensemble de modèles spécialisés, entraînés à partir d'un modèle plus large, utilisant des échantillons simulés et réels, constamment mis à jour pour inclure les évolutions du langage.

Ces modèles spécialisés sont très efficaces pour des tâches spécifiques, comme l'identification de mots interdits. Toutefois, leur capacité à raisonner est limitée, ce qui les rend moins efficaces pour détecter des termes en évolution. Les modèles de très grande taille ne fonctionnent pas en temps réel, et les hallucinations (ou erreurs de catégorisation) augmentent souvent les faux positifs.

Dans cette mise à jour, nous avons introduit un troisième composant au sein de notre système de filtre de texte. Désormais, lorsque les modèles spécialisés ne sont pas certains qu'un contenu enfreint les règles, celui-ci est transféré à des modèles beaucoup plus grands, meilleurs dans le raisonnement et l'évaluation de contexte. Ces grands modèles peuvent prendre des décisions plus complexes.

Nos expériences montrent que cette approche combinée a considérablement amélioré l'efficacité de nos filtres. Ils peuvent désormais mieux détecter le « leet-speak » (une orthographe où les lettres sont remplacées par des chiffres ou symboles) et les tentatives plus sophistiquées de contourner nos systèmes. Aucun système n'est parfait, mais nous sommes ravis que cette dernière innovation nous ait permis de réduire de 20 fois la prévalence des faux négatifs liés au partage ou à la sollicitation d'informations personnelles, comme les identifiants de réseaux sociaux ou les numéros de téléphone.

Il s'agit d'une nouvelle approche audacieuse et il se peut que nous ne reformulions pas toujours les choses parfaitement. Mais, à mesure que nous avançons, nous poursuivrons nos apprentissages et expérimentations, et nous continuerons à réduire le nombre de ##### visibles par les utilisateurs dans leurs chats, avec pour objectif à long terme de les supprimer entièrement. Notre objectif ultime est de permettre aux utilisateurs de collaborer et de tisser des liens de manière amusante et respectueuse.