Veiligheidsoverzicht: november

Ons veiligheidsrapport van november toont onze vooruitgang van de afgelopen maand om te blijven innoveren op het gebied van veiligheid.

PII-detectietechnologie om een branchebreed probleem aan te pakken: we hebben een versie van onze Roblox PII Classifier open source gemaakt, wat ons vermogen om pogingen tot schending van ons strikte beleid rond het delen van persoonlijk identificeerbare informatie (PII) te detecteren en te blokkeren aanzienlijk heeft verbeterd. Sinds de implementatie is de PII-herkenning in het Engels gestegen tot 98%, waarmee het beter presteert dan andere toonaangevende open-source modellen.  

Meer transparantie voor gebruikers door wijzigingen aan te brengen in onze producten: Hoewel we het platform 24/7 modereren, bieden we onze gebruikers ook tools om misbruik te melden en moedigen we gebruikers aan om alles wat problematisch is te melden. We verbeteren voortdurend de manier waarop we op deze meldingen reageren. We weten dat gebruikers meer informatie verwachten over wat er gebeurt als ze iets melden op Roblox, dus hebben we de lijst met categorieën waarop we reageren uitgebreid. Voor alle soorten meldingen laten we gebruikers nu weten wanneer we actie hebben ondernomen naar aanleiding van hun melding. Dit heeft geresulteerd in 250% meer feedback aan gebruikers over de meldingen die ze hebben ingediend.

Inzichten voor ontwikkelaars door wijzigingen aan te brengen in onze producten: We hebben een nieuw dashboard voor ontwikkelaars gelanceerd om inzicht te bieden in meldingen van misbruik (bijv. scheldwoorden) die in hun games zijn ingediend. Hierdoor kunnen ze maatregelen nemen om hun ervaring beschaafd te houden, zoals het terugdraaien van functies, het verbeteren van de moderatie of het aanbieden van meer voorlichting aan gebruikers.

Veiligheid door samenwerking met beleidsmakers, ouders en ontwerppartners: We blijven zoeken naar manieren om samen te werken met belangrijke belanghebbenden, en we hebben vier belangrijke updates: 

1. We breiden onze eerste Ouderraad uit, een belangrijk initiatief om de online veiligheid en gebruikerservaring te verbeteren, met ouders en verzorgers uit Latijns-Amerika en Azië-Pacific, die zich hier kunnen aanmelden. Een diverse groep van bijna 200 ouders en verzorgers uit de VS, Canada, Mexico en Europa heeft zich al aangemeld om advies te geven over platformfuncties, beleid en hulpmiddelen. 

2. We hebben middelen bijgedragen aan de Anti-Pestweek van deze maand in Engeland, Wales en Noord-Ierland. Het thema van de campagne van dit jaar, Power for Good, moedigt kinderen en jongeren aan om zich uit te spreken, hun leeftijdsgenoten te steunen en een vriendelijkere wereld te bevorderen. Naar verwachting zullen meer dan 7,5 miljoen schoolkinderen bij dit initiatief betrokken zijn.

3. Roblox heeft onze samenwerking met de Attorney General Alliance aangekondigd om het Partnership for Youth Online Safety op te richten. Dit multisectorale initiatief brengt procureurs-generaal, wetshandhavers en technologische leiders samen om nieuwe beschermingsmiddelen te ontwikkelen, waardoor we beter in staat zijn om kwaadwillende actoren op verschillende platforms op te sporen en te stoppen.

4. Als onderdeel van ons voortdurende streven naar veiligheid voor tieners sponsorde Roblox de allereerste Inspired Internet Pledge Amplify Youth Summit: Unmuted 2025. De sponsoring dekte de kosten van het evenement en bood reisondersteuning aan deelnemers. De top was gericht op het versterken van de positie van middelbare scholieren en studenten, waarbij hun perspectieven op geestelijke gezondheid en beleefdheid in digitale ruimtes centraal stonden. Medewerkers van Roblox organiseerden workshops en werkten mee aan belangrijke conclusies, wat ons geloof versterkte dat echte platformveiligheid vereist dat er wordt geluisterd naar de mensen die het dagelijks gebruiken.