Sicherheits-Snapshot: Januar

Der Sicherheits-Snapshot dieses Monats hebt die Initiative für mehr Sicherheit und respektvolles Miteinander hervor, die in den letzten Wochen ins Leben gerufen wurde. Dazu gehört auch eine neue Technologie, mit der Avatare proaktiv überwacht und Benutzer über unsere Richtlinien aufgeklärt werden. Wir haben auch neue Berichte zum respektvollen Miteinander in Zusammenarbeit mit Drittorganisationen erstellt und veröffentlicht.

Ankündigung der proaktiven Avatar-Moderation

Im Jahr 2025 haben Benutzer auf Roblox ihre Avatare durchschnittlich 274 Millionen Mal pro Tag aktualisiert, indem sie die Kleidung und Frisuren ihrer Avatare geändert und Haustiere, Hüte und andere Accessoires hinzugefügt haben. Viele Benutzer legen großen Wert auf das Aussehen ihres Avatars, da er ein Ausdruck ihrer Persönlichkeit auf der Plattform ist. Um die Sicherheit aller zu gewährleisten, prüfen wir proaktiv alle Inhalte, die auf den Avatar-Marktplatz hochgeladen werden, und blockieren alles, was gegen unsere Community-Regeln verstößt. Manchmal kombinieren Benutzer jedoch harmlose Artikel auf eine Weise, die ein Outfit schafft, das gegen unsere Richtlinien verstößt. Zum Beispiel sind ein schwarzer Anzug, eine Armbinde und ein Schnurrbart für sich genommen konform. In Kombination könnten sie jedoch für die Erstellung eines Avatars verwendet werden, der Adolf Hitler ähnelt, was gegen unsere Richtlinien verstößt.

In der Vergangenheit haben wir problematische Avatare erst durch Meldungen anderer Benutzer identifiziert. Seit diesem Monat werden wir Avatare jedes Mal automatisch auf Verstöße überprüfen, wenn sie geändert werden – oft, bevor andere Benutzer sie sehen. Diese Überprüfungen werten den gesamten Avatar mit allen ausgestatteten Artikeln aus, um festzustellen, ob er gegen unsere Regeln verstößt. Wenn das System etwas Unangemessenes erkennt, wird der Avatar des Benutzers auf einen Standard-Avatar zurückgesetzt (wobei alle Avatarartikel entfernt werden). Eine Benachrichtigung informiert den Benutzer darüber, dass sein Avatar zurückgesetzt wurde und gegen welche Richtlinie er verstoßen hat, damit er die Richtlinien unserer Plattform in Zukunft kennenlernt und einhält. Kein System ist perfekt. Aber durch diese Benachrichtigungen können sich Benutzer melden, wenn sie einen Fehler des Systems vermuten. So helfen sie uns, die Genauigkeit der Moderation zu verbessern.

Um die Forschung für die Spielebranche weiter voranzutreiben, hat Roblox mit dem Prosocial Design Network zusammengearbeitet, einer Organisation, die sich der Förderung innovativer Designelemente verschrieben hat, die positives Verhalten auf Online-Plattformen fördern und unterstützen. Ziel dieser Zusammenarbeit war es, Forschungsprojekte zu identifizieren, die dazu beitragen können, positive soziale Connections auf Spieleplattformen zu fördern. Die Vorschläge wurden geprüft und wir freuen uns, mitteilen zu können, dass sechs Forschungsteams Fördermittel für Projekte im Zusammenhang mit der Förderung sozialer Kontakte durch Gaming erhalten haben. Im Laufe dieser Forschungsprojekte erwarten wir spannende Erkenntnisse und hoffen, dass einige davon in die zukünftige Produktentwicklung für Roblox und andere Unternehmen einfließen können. Weitere Informationen zu den ausgezeichneten Projekten findest du hier. 

Bericht: Design für positive soziale Connection

In Zusammenarbeit mit dem Young and Resilient Research Centre der Western Sydney University und PROJECT ROCKIT haben wir kürzlich einen Bericht über den Aufbau von Connections veröffentlicht. Der Bericht bietet einen Rahmen für politische Entscheidungsträger und Führungskräfte in der Technologiebranche, damit sie bewusst und proaktiv zu Wohlbefinden, Autonomie und dem Aufbau gesunder sozialer Kontakte von Kindern beitragen können. Diese evidenzbasierten Empfehlungen umfassen technische Neuerungen und regulatorische Standards, die dazu beitragen sollen, dass die Branche gemeinsam digitale Umgebungen schafft, in denen junge Menschen in sicheren, vernetzten Umgebungen gedeihen können.  

Die Empfehlungen in diesem Bericht unterstreichen die Investitionen, die Roblox im Laufe der Jahre gemacht hat. Viele davon stimmen mit unseren Vorstellungen von sicherem Design überein, darunter:

• Mehrschichtiges Sicherheitssystem: Im Laufe der Jahre haben wir ein mehrschichtiges Sicherheitssystem entwickelt, das über eingebaute Redundanzen verfügt und kontinuierlich verbessert wird, um Innovation und Benutzersicherheit in Einklang zu bringen. 

• Zusammenarbeit mit Experten: Wir nutzen eine Kombination aus modernster Sicherheitstechnologie und praxisorientierter mit allen relevanten Parteien – Eltern, Sicherheitsexperten und Behörden –, um die Sicherheit und den guten Umgang in unserer Community zu gewährleisten. 

• Jugend- und Elternräte: Diese Gremien bringen junge Menschen und ihre Eltern zusammen, um über einige unserer Richtlinien und Funktionen zu reden und Einblicke in die Sprache zu geben, damit die Inhalte, die wir mit jüngeren Benutzern teilen, relevant und respektvoll sind.

• Sprachmoderation in Echtzeit: Dieses System schickt Benachrichtigungen, um Benutzer über Verstöße gegen eine Richtlinie zu informieren, sie über unsere Richtlinien aufzuklären und bei weiteren Verstößen Chat-Timeouts zu verhängen. 

• Proaktive Avatar-Moderation: Wie oben erwähnt, wird dieses neue System Benutzern auch Informationen darüber zur Verfügung stellen, warum ihr Avatar nicht veröffentlicht werden kann und gegen welche Richtlinie ihr Avatar oder ihre Aktualisierung verstößt.

"Unsere Zusammenarbeit mit Roblox zeigt, wie wichtig es ist, digitale Umgebungen zu gestalten, die das Wohlbefinden junger Leute priorisieren", so Prof. Amanda Third vom Young and Resilient Research Centre der Western Sydney University. "Diese wichtige Arbeit zeigt, wie zentral es ist, Forschende, junge Leute und die Industrie zusammenzubringen, um unser Verständnis zu vertiefen und Räume zu gestalten, die Verbundenheit, Empathie, Inklusion und positives soziales Engagement fördern. Wir brauchen eine Zusammenarbeit über alle Bereiche hinweg, wenn wir Online-Umgebungen schaffen wollen, die die Rechte von Kindern schützen und prosoziales Verhalten wirklich fördern. Dabei sollten die Meinungen junger Leute im Mittelpunkt stehen."

Diese Arbeit ist Teil unserer laufenden Bemühungen, mit Jugendorganisationen wie PROJECT ROCKIT zusammenzuarbeiten, um sie bei der Vorbeugung von Online-Mobbing und der Förderung gesunder, positiver sozialer Beziehungen im Internet zu unterstützen.