Veiligheidsoverzicht: januari

In de Safety Snapshot van deze maand belichten we de initiatieven op het gebied van veiligheid en beleefdheid die we de afgelopen weken hebben gelanceerd, waaronder nieuwe technologie om avatars proactief te monitoren en gebruikers voor te lichten over ons beleid. Daarnaast hebben we in samenwerking met externe organisaties nieuwe rapporten over beleefdheid opgesteld en gepubliceerd. 

Aankondiging van proactieve avatar-moderatie 

In 2025 hebben Roblox-gebruikers hun avatars gemiddeld 274 miljoen keer per dag bijgewerkt, waarbij ze de kleding en kapsels van hun avatar hebben veranderd en huisdieren, hoeden en andere accessoires hebben toegevoegd. Veel gebruikers besteden tijd aan het zorgvuldig samenstellen van het uiterlijk van hun avatar, omdat dit een uitdrukking is van zichzelf op het platform. Om de veiligheid van gebruikers te waarborgen, scannen we proactief alles wat wordt geüpload naar de Avatar Marketplace en blokkeren we alles wat in strijd is met onze communityrichtlijnen. Soms combineren gebruikers echter onschuldige items op een manier die een outfit oplevert die in strijd is met ons beleid. Een zwart pak, een armband en een snor zijn bijvoorbeeld afzonderlijk allemaal toegestaan, maar in combinatie kunnen ze worden gebruikt om een avatar te creëren die lijkt op Adolf Hitler, wat in strijd is met ons beleid.

Om het onderzoek voor de gamingindustrie verder te bevorderen, werkte Roblox samen met het Prosocial Design Network, een organisatie die zich inzet voor het promoten van innovatieve ontwerpelementen die positief gedrag op online platforms stimuleren en aanmoedigen. Het doel van deze samenwerking was om onderzoeksprojecten te identificeren die kunnen helpen bij het bevorderen van positieve sociale verbindingen op gamingplatforms. De voorstellen zijn beoordeeld en we zijn blij te kunnen melden dat zes onderzoeksteams een subsidie hebben ontvangen om projecten uit te voeren die gericht zijn op het bevorderen van verbinding via gaming. Naarmate deze onderzoeksprojecten vorderen, hopen we te zien wat er wordt geleerd en of dit van invloed kan zijn op toekomstig productontwerp voor Roblox en andere bedrijven. Meer details over de winnende projecten zijn hier te vinden. 

Rapport: Ontwerpen voor positieve sociale verbindingen  

In samenwerking met het Young and Resilient Research Centre van de Western Sydney University en PROJECT ROCKIT hebben we onlangs een rapport uitgebracht over het opbouwen van verbindingen. Het rapport biedt een kader voor beleidsmakers en leiders in de tech-industrie om bewust en proactief te ontwerpen met het oog op het welzijn, de autonomie en gezonde sociale verbindingen van kinderen. Deze op bewijs gebaseerde aanbevelingen omvatten technische innovaties en regelgevende normen om de industrie te helpen samen te werken aan het creëren van digitale omgevingen die jongeren in staat stellen te gedijen in veilige, verbonden omgevingen.  

De aanbevelingen in dit rapport versterken de investeringen die Roblox in de loop der jaren heeft gedaan en veel ervan sluiten aan bij onze visie op ontwerpen met het oog op veiligheid, waaronder:  

• Een gelaagd veiligheidssysteem: In de loop der jaren hebben we een gelaagd veiligheidssysteem ontworpen met ingebouwde redundantie en continue verbetering om innovatie en gebruikersveiligheid met elkaar in evenwicht te brengen. 
• Samenwerking met experts: We maken gebruik van een combinatie van geavanceerde veiligheidstechnologie en samenwerking in de praktijk, waarbij we met iedereen – ouders, veiligheidsexperts en overheidsinstanties – samenwerken om onze community veilig en beschaafd te houden. 
• Raad van tieners en ouders: Deze raden brengen zowel jongeren als hun ouders bijeen om te overleggen over een aantal van onze beleidsregels en functies en om inzicht te geven in taalgebruik, zodat de inhoud die we met jongere gebruikers delen relevant en respectvol overkomt.
• Realtime spraakmoderatie: Dit systeem stuurt meldingen om gebruikers te laten weten wanneer ze een beleid hebben overtreden, hen voor te lichten over ons beleid en chattime-outs in te stellen bij herhaalde overtredingen. 
• Proactieve avatar-moderatie: Zoals hierboven vermeld, bevat dit nieuwe systeem ook informatie om gebruikers voor te lichten over waarom hun avatar niet kan worden gepubliceerd en welk beleid hun avatar of update schendt.

"Onze samenwerking met Roblox onderstreept het belang van op bewijs gebaseerd ontwerp om digitale omgevingen te creëren die het welzijn van jongeren vooropstellen", aldus professor Amanda Third van het Young and Resilient Research Centre aan de Western Sydney University. “Dit belangrijke werk benadrukt de waarde van het samenbrengen van onderzoekers, jongeren en de industrie om ons inzicht te verdiepen en ruimtes te ontwerpen die verbinding, empathie, inclusie en positieve sociale betrokkenheid bevorderen. Sectoroverschrijdende samenwerking is essentieel als we online omgevingen willen bouwen die de rechten van kinderen hooghouden en prosociaal gedrag op een zinvolle manier ondersteunen, waarbij de stemmen van jongeren centraal staan in dat proces.”

Al dit werk maakt deel uit van onze voortdurende outreach en samenwerking met jongerenorganisaties, waaronder PROJECT ROCKIT, om hun werk te ondersteunen bij het voorkomen van online pesten en het bevorderen van gezonde, positieve sociale verbindingen online.