Panoramica sulla sicurezza: marzo

Nel nostro Safety Snapshot di marzo, vi illustriamo come moderiamo i contenuti tramite sistemi automatizzati progettati per individuare e rimuovere i contenuti problematici, spesso prima ancora che gli utenti li vedano. Vi presentiamo inoltre una nuova dashboard che consente ai creatori di individuare e affrontare i comportamenti scorretti degli utenti nei propri giochi, nonché un nuovo programma per la formazione dei community manager in tutto il settore. Consultate il Safety Snapshot del mese scorso per ulteriori informazioni sugli strumenti di segnalazione degli utenti. 

Moderazione continua del comportamento degli utenti 

Parte della magia di Roblox è rappresentata dai contenuti in continua espansione e in continua evoluzione prodotti dai nostri creatori. In ogni momento, i creatori pubblicano aggiornamenti dei giochi e aggiungono nuovi badge o animali domestici, mentre gli utenti cambiano gli abiti dei propri avatar e dipingono o costruiscono oggetti in tempo reale. Esaminiamo tutto questo prima che venga pubblicato sulla piattaforma e rimuoviamo qualsiasi cosa che violi le nostre linee guida. 

I molteplici livelli di strumenti di moderazione intercettano la stragrande maggioranza dei contenuti problematici su Roblox e noi rifiutiamo tutto ciò che va contro i nostri Standard della community. Ma non siamo perfetti, quindi ci avvaliamo delle segnalazioni degli utenti per aiutarci a individuare ciò che potremmo aver tralasciato e ad agire di conseguenza.

La natura dinamica dei giochi Roblox implica che i contenuti cambino continuamente in base a come gli utenti combinano avatar, abiti e movimenti precedentemente approvati. Ad esempio, nei giochi che consentono il disegno a mano libera, un utente potrebbe disegnare un simbolo o un oggetto offensivo. Ecco perché abbiamo recentemente lanciato un nuovo sistema di IA per la moderazione multimodale in tempo reale in grado di analizzare queste combinazioni nel loro insieme. 

I sistemi di moderazione basati sull'intelligenza artificiale tradizionali sono progettati per valutare un oggetto alla volta e spesso mancano di contesto, trascurando combinazioni che potrebbero essere problematiche in modi in cui i singoli elementi non lo sono. Il nostro nuovo sistema di moderazione multimodale in tempo reale valuta un'intera scena, inclusi avatar, testo e oggetti 3D. Cattura tutti questi elementi insieme in un momento specifico e valuta se l'intera scena viola le nostre regole. Se questo tipo di comportamento problematico si verifica ripetutamente in una singola istanza di gioco, il sistema chiuderà solo quell'istanza (chiamata anche server), piuttosto che l'intero gioco. 

Da quando abbiamo lanciato questo sistema multimodale, abbiamo chiuso circa 5.000 istanze al giorno che violavano i nostri Standard della community. Man mano che addestriamo il sistema e ne aumentiamo la portata, ne miglioriamo costantemente la precisione e collaboriamo con la community per ridurre al minimo i falsi positivi. Stiamo lavorando per espandere questo sistema multimodale in modo da acquisire e monitorare il 100% del tempo di gioco. Tuttavia, ci saranno sempre individui che cercheranno di aggirare qualsiasi sistema, quindi stiamo sviluppando attivamente una tecnologia che vada oltre la chiusura dei server. Stiamo lavorando a metodi per identificare specifici malintenzionati in modo da poterli rimuovere senza compromettere l’esperienza dei giocatori ben intenzionati.

Fornire ai creatori visibilità sulla chiusura dei server

Stiamo fornendo ai creatori una maggiore trasparenza sui risultati di questo sistema di moderazione multimodale con un'aggiunta alla dashboard di panoramica sulla sicurezza. Come indicato sopra, chiudiamo i server di gioco quando sono sopraffatti da comportamenti scorretti da parte degli utenti. Per dare ai creatori una maggiore visibilità sulla frequenza con cui ciò accade nei loro giochi, abbiamo aggiunto un nuovo grafico alla loro dashboard dei creatori esistente. 

I creatori possono ora vedere quanti dei loro server di gioco sono stati chiusi a causa di comportamenti scorretti da parte degli utenti (ad esempio, violazioni delle nostre politiche in materia di molestie e discriminazione o di contenuti romantici e sessuali). Questo li aiuta a identificare un aumento improvviso, in modo da poter agire prima che le chiusure abbiano ripercussioni sulla loro comunità in generale. Possono quindi esaminare più da vicino il loro gioco e decidere se sono necessarie modifiche alle emoticon personalizzate, agli strumenti di modifica degli avatar o alle funzionalità di creazione degli utenti all'interno del gioco per aiutare a prevenire creazioni problematiche. 

Formazione dei moderatori digitali 

Roblox, Keyword Studios e Riot Games stanno collaborando con la psicologa ricercatrice e direttrice della ricerca di Games for Change, Rachel Kowert, a un nuovo programma di certificazione per i leader delle comunità digitali. Roblox contribuirà con la propria esperienza nella moderazione delle comunità e nella progettazione prosociale per sperimentare e aiutare a definire il programma del nuovo DLC Leadership Program. L'obiettivo dell'iniziativa è colmare la mancanza di una formazione standardizzata per i moderatori online, i community manager e i creatori nel settore dei giochi. In un recente articolo, Kowert ha affermato che il programma mira a "tradurre la ricerca sulle comunità di gioco e sul comportamento online in strumenti pratici che i leader digitali possano utilizzare per costruire comunità online più resilienti e sostenibili".

Partecipando a questo progetto, contribuiremo a guidare il settore, sviluppando un programma di certificazione standardizzato, primo nel suo genere, progettato a beneficio della comunità dei creatori di Roblox e del settore dei videogiochi in generale. Una volta completato, il programma aiuterà i creatori ad acquisire le competenze fondamentali necessarie per moderare e gestire in modo efficace le loro comunità in crescita. Crediamo che formare un maggior numero di moderatori e creatori sulle migliori pratiche per comunità online sane e rispettose contribuirà a rendere il gioco online più positivo per tutti.