Panoramica sulla sicurezza: gennaio

La panoramica sulla sicurezza di questo mese mette in evidenza le iniziative di sicurezza e civiltà che abbiamo lanciato nelle ultime settimane, tra cui una nuova tecnologia per monitorare in modo proattivo gli avatar e informare gli utenti sulle nostre politiche. Abbiamo anche creato e lanciato nuovi rapporti sulla civiltà in collaborazione con organizzazioni terze. 

Annuncio della moderazione proattiva degli avatar 

Nel 2025, gli utenti di Roblox hanno aggiornato i propri avatar in media 274 milioni di volte al giorno, cambiando i vestiti e le acconciature dei propri avatar e aggiungendo animali domestici, cappelli e altri accessori. Molti utenti dedicano tempo a curare con attenzione l'aspetto del proprio avatar perché è un'espressione di sé stessi sulla piattaforma. Per garantire la sicurezza degli utenti, esaminiamo in modo proattivo tutto ciò che viene caricato sull'Avatar Marketplace e blocchiamo qualsiasi contenuto che riteniamo violi i nostri Standard della community. Tuttavia, a volte gli utenti combinano oggetti innocui in modo da creare un outfit che viola le nostre politiche. Ad esempio, un abito nero, una fascia al braccio e dei baffi sono tutti conformi se considerati singolarmente, ma combinati potrebbero essere utilizzati per creare un avatar che assomiglia ad Adolf Hitler, il che va contro le nostre politiche.

Per far progredire ulteriormente la ricerca nel settore dei videogiochi, Roblox ha collaborato con il Prosocial Design Network, un'organizzazione dedicata alla promozione di elementi di design innovativi che favoriscano e incoraggino comportamenti positivi sulle piattaforme online. L'obiettivo di questa collaborazione era identificare progetti di ricerca che potessero contribuire a promuovere relazioni sociali positive sulle piattaforme di gioco. Le proposte sono state esaminate e siamo lieti di annunciare che sei team di ricerca hanno ottenuto sovvenzioni per portare avanti progetti relativi alla promozione delle relazioni attraverso il gioco. Man mano che questi progetti di ricerca procedono, speriamo di vedere cosa si imparerà e se alcuni di essi potranno influenzare la progettazione futura dei prodotti di Roblox e di altre aziende. Maggiori dettagli sui progetti vincitori sono disponibili qui. 

Rapporto: Progettare per relazioni sociali positive  

In collaborazione con lo Young and Resilient Research Centre della Western Sydney University e PROJECT ROCKIT, abbiamo recentemente pubblicato un rapporto su "Building Connection". Il rapporto fornisce un quadro di riferimento per i responsabili politici e i leader del settore tecnologico per progettare in modo intenzionale e proattivo il benessere, l'autonomia e le relazioni sociali sane dei bambini. Queste raccomandazioni basate su dati concreti includono innovazioni tecniche e standard normativi per aiutare il settore a unirsi per creare ambienti digitali che consentano ai giovani di prosperare in contesti sicuri e connessi.  

Le raccomandazioni contenute in questo rapporto rafforzano gli investimenti che Roblox ha fatto nel corso degli anni e molte di esse sono in linea con il nostro approccio alla progettazione della sicurezza, tra cui:  

• Sistema di sicurezza a più livelli: nel corso degli anni, abbiamo progettato un sistema di sicurezza a più livelli che integra ridondanze e un miglioramento continuo per aiutare a bilanciare l'innovazione con la sicurezza degli utenti. 
• Collaborazione con esperti: sfruttiamo una combinazione di sofisticate tecnologie di sicurezza e collaborazione nel mondo reale, lavorando con tutti — genitori, esperti di sicurezza e agenzie governative — per mantenere la nostra comunità sicura e civile. 
• Consigli di adolescenti e genitori: questi consigli coinvolgono sia i giovani che i loro genitori per consultarli su alcune delle nostre politiche e funzionalità e fornire spunti sul linguaggio da utilizzare, al fine di garantire che i contenuti che condividiamo con gli utenti più giovani siano pertinenti e rispettosi.
• Moderazione vocale in tempo reale: questo sistema invia notifiche per informare gli utenti quando hanno violato una politica, istruendoli sulle nostre politiche e applicando sospensioni dalla chat in caso di violazioni successive. 
• Moderazione proattiva degli avatar: come indicato sopra, questo nuovo sistema includerà anche informazioni per aiutare a spiegare agli utenti perché il loro avatar non può essere pubblicato e quale politica il loro avatar o aggiornamento viola.

"La nostra collaborazione con Roblox sottolinea l'importanza di una progettazione basata su dati concreti per creare ambienti digitali che diano priorità al benessere dei giovani", ha affermato la professoressa Amanda Third, del Young and Resilient Research Centre della Western Sydney University. "Questo importante lavoro evidenzia il valore di riunire ricercatori, giovani e industria per approfondire la nostra comprensione e progettare spazi che favoriscano la connessione, l'empatia, l'inclusione e l'impegno sociale positivo. La collaborazione intersettoriale è essenziale se vogliamo costruire ambienti online che tutelino i diritti dei bambini e sostengano in modo significativo i comportamenti prosociali, con le voci dei giovani al centro di tale processo."

Tutto questo lavoro fa parte della nostra continua attività di sensibilizzazione e collaborazione con le organizzazioni giovanili, tra cui PROJECT ROCKIT, per sostenere il loro impegno nella prevenzione del bullismo online e nella promozione di relazioni sociali sane e positive in rete.