Podsumowanie bezpieczeństwa: styczeń
Proaktywna moderacja awatarów i badania nad kulturą komunikacji
W tym miesiącu w sekcji „Safety Snapshot” przedstawiamy inicjatywy dotyczące bezpieczeństwa i kultury osobistej, które wprowadziliśmy w ciągu ostatnich kilku tygodni, w tym nową technologię do proaktywnego monitorowania awatarów i edukowania użytkowników na temat naszych zasad. We współpracy z organizacjami zewnętrznymi stworzyliśmy i uruchomiliśmy również nowe raporty dotyczące kultury osobistej.
Ogłoszenie proaktywnej moderacji awatarów
W 2025 roku użytkownicy Roblox aktualizowali swoje awatary średnio 274 miliony razy dziennie, zmieniając ubrania i fryzury awatarów oraz dodając zwierzęta domowe, czapki i inne akcesoria. Wielu użytkowników poświęca czas na staranne dopracowywanie wyglądu swojego awatara, ponieważ jest to wyraz ich osobowości na platformie. Aby zapewnić użytkownikom bezpieczeństwo, proaktywnie skanujemy wszystko, co jest przesyłane do Avatar Marketplace, i blokujemy wszystko, co wykryjemy jako naruszające nasze Standardy społeczności. Jednak użytkownicy czasami łączą nieszkodliwe elementy w sposób, który tworzy strój naruszający nasze zasady. Na przykład czarny garnitur, opaska na ramię i wąsy są zgodne z zasadami, gdy występują osobno, ale w połączeniu mogą posłużyć do stworzenia awatara przypominającego Adolfa Hitlera, co jest sprzeczne z naszymi zasadami.
Wspieranie badań nad kulturą osobistą
Aby jeszcze bardziej przyspieszyć badania w branży gier, Roblox nawiązał współpracę z Prosocial Design Network, organizacją zajmującą się promowaniem innowacyjnych elementów projektowych, które wspierają i zachęcają do pozytywnych zachowań na platformach internetowych. Celem tej współpracy było zidentyfikowanie projektów badawczych, które mogą pomóc w promowaniu pozytywnych relacji społecznych na platformach gier. Wnioski zostały rozpatrzone i z radością informujemy, że sześć zespołów badawczych otrzymało granty na realizację projektów związanych z budowaniem więzi poprzez gry. W miarę postępów tych projektów badawczych mamy nadzieję zobaczyć, jakie wnioski zostaną wyciągnięte i czy któreś z nich mogą wpłynąć na przyszłe projekty produktów firmy Roblox, a także innych firm. Więcej szczegółów na temat zwycięskich projektów można znaleźć tutaj.
Raport: Projektowanie na rzecz pozytywnych relacji społecznych
We współpracy z Centrum Badań nad Młodzieżą i Odpornością Psychiczną przy Uniwersytecie Zachodniego Sydney oraz PROJECT ROCKIT opublikowaliśmy niedawno raport pt. „Budowanie więzi”. Raport ten stanowi ramy dla decydentów i liderów branży technologicznej, umożliwiające celowe i proaktywne projektowanie rozwiązań sprzyjających dobru dzieci, ich autonomii oraz zdrowym relacjom społecznym. Te oparte na dowodach zalecenia obejmują innowacje techniczne i standardy regulacyjne, które mają pomóc branży w wspólnym tworzeniu środowisk cyfrowych umożliwiających młodym ludziom rozwój w bezpiecznych i sprzyjających nawiązywaniu kontaktów środowiskach.
Zalecenia zawarte w tym raporcie wzmacniają inwestycje, które Roblox poczynił na przestrzeni lat, a wiele z nich jest zgodnych z naszym podejściem do projektowania z myślą o bezpieczeństwie, w tym:
- Wielowarstwowy system bezpieczeństwa: Przez lata zaprojektowaliśmy wielowarstwowy system bezpieczeństwa z wbudowanymi zabezpieczeniami i ciągłym ulepszaniem, żeby pomóc w utrzymaniu równowagi między innowacjami a bezpieczeństwem użytkowników.
- Współpraca z ekspertami: Wykorzystujemy połączenie zaawansowanych technologii bezpieczeństwa i współpracy w świecie rzeczywistym, współpracując ze wszystkimi — rodzicami, ekspertami ds. bezpieczeństwa i agencjami rządowymi — aby zapewnić bezpieczeństwo i kulturę naszej społeczności.
- Rady nastolatków i rodziców: Rady te angażują zarówno młodych ludzi, jak i ich rodziców w konsultacje dotyczące niektórych naszych zasad i funkcji oraz dostarczają spostrzeżeń na temat języka, aby zapewnić, że treści, które udostępniamy młodszym użytkownikom, są dla nich istotne i pełne szacunku.
- Moderacja głosowa w czasie rzeczywistym: system ten wysyła powiadomienia, aby poinformować użytkowników o naruszeniu zasad, edukując ich w zakresie naszych zasad i wprowadzając przerwy w czacie w przypadku kolejnych naruszeń.
- Proaktywna moderacja awatarów: Jak wspomniano powyżej, ten nowy system będzie również zawierał informacje pomagające wyjaśnić użytkownikom, dlaczego ich awatar nie może zostać opublikowany oraz które zasady narusza ich awatar lub aktualizacja.
„Nasza współpraca z Roblox podkreśla znaczenie projektowania opartego na dowodach naukowych w tworzeniu środowisk cyfrowych, które stawiają na pierwszym miejscu dobrostan młodych ludzi” – powiedziała profesor Amanda Third z Centrum Badań nad Młodzieżą i Odpornością Psychiczną na Uniwersytecie Zachodniego Sydney. „Ta ważna praca podkreśla wartość łączenia naukowców, młodych ludzi i branży w celu pogłębienia naszego zrozumienia i projektowania przestrzeni, które sprzyjają tworzeniu więzi, empatii, integracji i pozytywnego zaangażowania społecznego. Współpraca międzysektorowa jest niezbędna, jeśli chcemy budować środowiska internetowe, które chronią prawa dzieci i w znaczący sposób wspierają zachowania prospołeczne, a głosy młodych ludzi są w centrum tego procesu”.
Wszystkie te działania są częścią naszej bieżącej współpracy z organizacjami młodzieżowymi, w tym PROJECT ROCKIT, mającej na celu wspieranie ich działań w zakresie zapobiegania cyberprzemocy oraz promowania zdrowych, pozytywnych relacji społecznych w sieci.
