Ripensare la chat per favorire il divertimento, la giocabilità e la civiltà

• Una chat naturale e fluida è fondamentale nei giochi in cui team o community si divertono e collaborano insieme.

• Le stringhe di #####, che indicano che sono stati bloccati commenti non appropriati, possono creare confusione nella chat, essere difficili da comprendere e intralciare il gioco.

• Per mantenere la chat fluida e rispettosa, stiamo migliorando i nostri filtri e sostituendo le volgarità con parole che rientrano nelle nostre linee guida.

• Questo è il primo passo del nostro percorso a lungo termine per ridurre l'uso di ##### e offrire un'esperienza di chat più naturale. Continueremo a imparare, migliorare e perfezionare i nostri strumenti per promuovere una chat sicura e rispettosa, includendo controlli aggiuntivi per gli utenti.

Ogni giorno, milioni di persone si connettono e giocano su Roblox. Per noi, è fondamentale garantire agli utenti comunicazioni in tempo reale per esprimersi e coordinarsi durante il gioco. Utilizzare filtri di intelligenza artificiale per bloccare i testi inappropriati (visibili agli utenti come stringhe di #####) è sempre stato fondamentale per favorire la sicurezza e la civiltà. Queste stringhe, costituite dal simbolo cancelletto, vengono generate in tempo reale e aiutano gli utenti a capire quando stanno digitando qualcosa di non consentito. Naturalmente, gli utenti che infrangono ripetutamente le regole devono affrontare conseguenze ben più serie del semplice oscuramento dei loro commenti.

Nel maggio 2025, abbiamo introdotto avvisi proattivi in tempo reale per aiutare gli utenti a comprendere le nostre politiche. Questi sono ora attivi sia per le chat di testo sia per quelle vocali. Queste notifiche avvisano gli utenti in caso di violazione di una regola, li invitano a riconsiderare il loro linguaggio la volta successiva e li aiutano a diventare cittadini digitali migliori. Gli esperimenti condotti lo scorso anno hanno dimostrato che l'invio di notifiche e l'applicazione di periodi momentanei di sospensione nelle chat testuali all'interno delle esperienze hanno portato a una riduzione del 5% dei messaggi filtrati e a un calo del 6% delle conseguenze derivanti dalle segnalazioni di abuso.

Oggi aggiungiamo un'ulteriore funzionalità per favorire il rispetto nelle chat testuali delle esperienze: utilizziamo l'intelligenza artificiale per riformulare automaticamente i messaggi ed eliminare le volgarità. Man mano che questi sistemi si evolvono, creano un circolo virtuoso di comportamenti civili. Quindi, ogni commento in tempo reale aiuta gli utenti a imparare e rispettare le nostre Norme della community. Tutti gli utenti, non solo il mittente del messaggio, capiscono quale linguaggio è consentito su Roblox (e il mittente vede ciò che non è consentito). In questo modo, forniamo più feedback agli utenti che potrebbero non conoscere le regole e consolidiamo il nostro sistema di filtri e di avvisi in tempo reale per favorire conversazioni sicure, rispettose e divertenti su Roblox.

Riformulazione in tempo reale delle volgarità nella chat: passaggio dai segnali di stop alle indicazioni

Per molti utenti, una stringa di ##### è come un muro che blocca la conversazione. Inoltre, non fornisce alcuna indicazione su come riformulare il proprio linguaggio per rispettare le nostre Norme della Community. Questo può spesso causare confusione e rendere più difficile la collaborazione tra i team all'interno di un gioco. Immagina qualcuno che, vedendo un mostro alle spalle di un amico, digita qualcosa come "Attento! C’è un fottuto mostro dietro di te!"per avvertirlo. L'amico vede solo "###########". Non è molto utile. 

A partire da oggi, il testo filtrato verrà sostituito con un linguaggio più rispettoso che risulti comunque naturale per gli utenti di Roblox. Al momento del lancio, questa riformulazione in tempo reale del testo si concentra sulle volgarità. Ad esempio, "Sbrigati, cacchio!"potrebbe diventare semplicemente "Sbrigati!",che è molto più vicino all'intento originale rispetto a #####. Per essere chiari, anche se riformuliamo un messaggio che viola la nostra politica sulle volgarità, si tratta comunque di una violazione e si applicano le stesse regole. Un utente che continua a imprecare in chat dovrà affrontare le stesse conseguenze per aver violato ripetutamente la nostra politica.

Pensa a questo sistema come a un volante piuttosto che a un segnale di stop: se un messaggio non rispetta la nostra politica, tutti nella chat vengono informati che il testo è stato riformulato per mantenere un tono rispettoso. Abbinando le parole vietate a frasi che gli utenti usano quotidianamente in chat, contribuiamo a mantenere le conversazioni rispettose senza perdere l'autentitcità o la fluidità originali. Sostituendo questi segnali di stop con un'indicazione in tempo reale, possiamo ridurre parte di questo attrito, pur continuando comunque a far rispettare le nostre regole contro il turpiloquio.

Siamo ancora alle prime fasi della riformulazione e contestualizzazione dei messaggi bloccati agli utenti. Come qualsiasi strumento di traduzione basato sull'intelligenza artificiale, nel tempo diventerà sempre più preciso e capace di cogliere le sfumature per preservare il tono o il contesto originale di un utente. La nostra priorità rimane la creazione di un modo sicuro e rispettoso di comunicare su Roblox, che continui a favorire l'informazione, l'educazione e il supporto agli utenti affinché comprendano i nostri standard.

Sebbene la riformulazione delle volgarità riduca alcune delle interruzioni nella chat, il nostro sistema di sicurezza multilivello rimane in vigore per i comportamenti più gravi. La funzionalità di riformulazione è disponibile esclusivamente nelle chat presenti nelle esperienze tra utenti di età verificata in gruppi di età simili e i loro Collegamenti affidabili. Le riformulazioni sono supportate in tutte le lingue attualmente disponibili tramite i nostri strumenti di traduzione automatica. Il nostro obiettivo è raggiungere un livello di accuratezza che ci consenta di ridurre l'uso di stringhe di ### fino a quando non potremo eliminarle del tutto, rendendo la comunicazione digitale naturale e chiara come una conversazione di persona.

Durante lo sviluppo di questa funzionalità, abbiamo consultato i membri del nostro Consiglio degli adolescenti per sviluppare un sistema che riflettesse il modo in cui i giovani chattano realmente. Sofia, membro del Consiglio, ci ha confidato che: "Il passaggio alla riformulazione in tempo reale delle volgarità preserva il flusso della conversazione, contribuendo al contempo a garantire la sicurezza degli utenti. Riporta con delicatezza la conversazione al tono giusto e fa sentire le persone a proprio agio". 

Jordyn, membro del Consiglio degli adolescenti, è d'accordo. "Questo cambiamento insegna ai giocatori a riflettere sul modo in cui comunicano e rafforza l'interazione promuovendo connessioni amichevoli", ha affermato Jordyn. "Il passaggio alla riformulazione consente di trovare una via di mezzo tra le richieste dei giocatori e gli standard di sicurezza necessari".

Filtri di testo migliorati: passaggio dai modelli al contesto

Le nostre funzionalità di sicurezza si evolvono continuamente per adattarsi al modo in cui gli utenti chattano su Roblox. I nostri filtri di testo sono addestrati a rilevare e bloccare tutto ciò che va contro le nostre Norme della community. Ciò deve avvenire su scala globale e in tempo reale, mentre gli utenti chattano.

Inizialmente, questa funzionalità aveva due componenti: 1) Un sistema basato su regole, progettato per rilevare e bloccare in pochi minuti i contenuti che violano le nostre regole quando si verificano eventi nel mondo reale. 2) Un insieme di modelli specializzati, sviluppati a partire da uno più ampio, basato su una serie di campioni simulati e reali che vengono continuamente aggiornati per includere le evoluzioni del linguaggio.

Questi modelli specializzati sono molto validi per compiti specifici, come trovare un elenco di parole vietate, ma la loro capacità di ragionare è limitata, quindi non sono così bravi a individuare nuovi termini. I modelli estremamente grandi non funzionano in tempo reale e le imprecisioni (o le classificazioni errate) spesso aumentano i falsi positivi.

In questo aggiornamento, abbiamo introdotto un terzo componente nel nostro sistema di filtro del testo. Ora, quando i modelli specializzati non sono sicuri se un contenuto infranga o meno le regole, lo passano a modelli più grandi, che sono più bravi a ragionare e valutare il contesto. Questi modelli di grandi dimensioni sono capaci di prendere decisioni più complesse.

I nostri esperimenti dimostrano che questo approccio combinato ha migliorato significativamente i nostri filtri. I filtri ora possono rilevare meglio il "leet-speak", cioè quando le lettere vengono sostituite da numeri o simboli, e i tentativi più sofisticati di aggirare i nostri filtri. Nessun sistema è mai perfetto, ma siamo entusiasti che questa innovazione più recente ci abbia permesso di ridurre di 20 volte i falsi negativi legati alla condivisione o alla richiesta di informazioni personali, come gli handle dei social media o i numeri di telefono.

Si tratta di un nuovo approccio audace, quindi non sempre riusciremo a riformulare i messaggi in modo perfetto. Continueremo però a imparare e fare esperimenti, riducendo sempre di più il numero di stringhe di ##### che gli utenti vedono nelle chat, con l’obiettivo di eliminarle del tutto. Il nostro obiettivo finale è quello di consentire agli utenti di collaborare e connettersi in modo divertente e rispettoso.