Sicherheitsüberblick: Januar
Proaktive Avatar-Moderation und Forschung zur Höflichkeit
Der „Safety Snapshot“ dieses Monats beleuchtet die Initiativen für Sicherheit und Höflichkeit, die wir in den letzten Wochen gestartet haben, darunter neue Technologien zur proaktiven Überwachung von Avataren und zur Aufklärung der Nutzer über unsere Richtlinien. Außerdem haben wir in Zusammenarbeit mit externen Organisationen neue Berichte zum Thema Höflichkeit erstellt und veröffentlicht.
Ankündigung der proaktiven Avatar-Moderation
Im Jahr 2025 aktualisierten Roblox-Nutzer ihre Avatare durchschnittlich 274 Millionen Mal pro Tag, indem sie die Kleidung und Frisuren ihrer Avatare änderten sowie Haustiere, Hüte und andere Accessoires hinzufügten. Viele Nutzer verbringen Zeit damit, das Aussehen ihres Avatars sorgfältig zu gestalten, da dieser ein Ausdruck ihrer Persönlichkeit auf der Plattform ist. Um die Sicherheit der Nutzer zu gewährleisten, scannen wir proaktiv alle auf den Avatar-Marktplatz hochgeladenen Inhalte und blockieren alles, was unserer Community-Richtlinien widerspricht. Manchmal kombinieren Nutzer jedoch harmlose Gegenstände auf eine Weise, die zu einem Outfit führt, das gegen unsere Richtlinien verstößt. Beispielsweise sind ein schwarzer Anzug, ein Armband und ein Schnurrbart für sich genommen alle zulässig, aber in Kombination könnten sie dazu verwendet werden, einen Avatar zu erstellen, der Adolf Hitler ähnelt, was gegen unsere Richtlinien verstößt.
Unterstützung der Forschung zur Höflichkeit
Um die Forschung für die Gaming-Branche weiter voranzutreiben, hat Roblox mit dem Prosocial Design Network zusammengearbeitet, einer Organisation, die sich der Förderung innovativer Designelemente widmet, welche positives Verhalten auf Online-Plattformen fördern und unterstützen. Das Ziel dieser Zusammenarbeit war es, Forschungsprojekte zu identifizieren, die dazu beitragen können, positive soziale Verbindungen auf Gaming-Plattformen zu fördern. Die Vorschläge wurden geprüft, und wir freuen uns, Ihnen mitteilen zu können, dass sechs Forschungsteams Fördermittel erhalten haben, um Projekte zur Förderung von Verbindungen durch Gaming durchzuführen. Im Laufe dieser Forschungsprojekte hoffen wir, neue Erkenntnisse zu gewinnen und zu sehen, ob diese möglicherweise in das zukünftige Produktdesign von Roblox sowie anderen Unternehmen einfließen können. Weitere Details zu den Gewinnerprojekten finden Sie hier.
Bericht: Design für positive soziale Verbindungen
In Zusammenarbeit mit dem Young and Resilient Research Centre der Western Sydney University und PROJECT ROCKIT haben wir kürzlich einen Bericht zum Thema „Building Connection“ veröffentlicht. Der Bericht bietet einen Rahmen für politische Entscheidungsträger und Führungskräfte in der Tech-Branche, um bewusst und proaktiv für das Wohlbefinden, die Selbstständigkeit und gesunde soziale Beziehungen von Kindern zu gestalten. Diese evidenzbasierten Empfehlungen umfassen technische Innovationen und regulatorische Standards, die der Branche helfen sollen, gemeinsam digitale Umgebungen zu schaffen, in denen junge Menschen in sicheren, vernetzten Umgebungen gedeihen können.
Die Empfehlungen in diesem Bericht untermauern die Investitionen, die Roblox im Laufe der Jahre getätigt hat, und viele davon decken sich mit unserer Philosophie der sicherheitsorientierten Gestaltung, darunter:
- Mehrschichtiges Sicherheitssystem: Im Laufe der Jahre haben wir ein mehrschichtiges Sicherheitssystem entwickelt, das über integrierte Redundanzen und kontinuierliche Verbesserungen verfügt, um Innovation und Nutzersicherheit in Einklang zu bringen.
- Zusammenarbeit mit Experten: Wir nutzen eine Kombination aus hochentwickelter Sicherheitstechnologie und praktischer Zusammenarbeit und arbeiten mit allen – Eltern, Sicherheitsexperten und Regierungsbehörden – zusammen, um unsere Community sicher und respektvoll zu halten.
- Jugend- und Elternräte: Diese Räte bringen sowohl junge Menschen als auch ihre Eltern zusammen, um sie zu einigen unserer Richtlinien und Funktionen zu konsultieren und Einblicke in die Sprachwahl zu geben, damit die Inhalte, die wir jüngeren Nutzern anbieten, relevant und respektvoll wirken.
- Echtzeit-Sprachmoderation: Dieses System löst Benachrichtigungen aus, um Nutzer darüber zu informieren, wenn sie gegen eine Richtlinie verstoßen haben, klärt sie über unsere Richtlinien auf und verhängt bei wiederholten Verstößen Chat-Sperren.
- Proaktive Avatar-Moderation: Wie oben erwähnt, wird dieses neue System auch Informationen enthalten, die den Nutzern erklären, warum ihr Avatar nicht veröffentlicht werden kann und gegen welche Richtlinie ihr Avatar oder ihre Aktualisierung verstößt.
„Unsere Zusammenarbeit mit Roblox unterstreicht die Bedeutung evidenzbasierten Designs für die Schaffung digitaler Umgebungen, die das Wohlbefinden junger Menschen in den Vordergrund stellen“, sagte Professorin Amanda Third vom Young and Resilient Research Centre an der Western Sydney University. „Diese wichtige Arbeit unterstreicht den Wert der Zusammenarbeit zwischen Forschern, jungen Menschen und der Industrie, um unser Verständnis zu vertiefen und Räume zu gestalten, die Verbindung, Empathie, Inklusion und positives soziales Engagement fördern. Sektorübergreifende Zusammenarbeit ist unerlässlich, wenn wir Online-Umgebungen schaffen wollen, die die Rechte von Kindern wahren und prosoziales Verhalten sinnvoll unterstützen, wobei die Stimmen junger Menschen im Mittelpunkt dieses Prozesses stehen.“
All diese Arbeit ist Teil unserer laufenden Öffentlichkeitsarbeit und Zusammenarbeit mit Jugendorganisationen, darunter PROJECT ROCKIT, um deren Arbeit zur Prävention von Online-Mobbing und zur Förderung gesunder, positiver sozialer Beziehungen im Internet zu unterstützen.
