安全スナップショット：1月
アバターによる積極的なモデレーションと礼節に関する研究
今月の「Safety Snapshot」では、過去数週間にわたって開始した安全性とマナー向上の取り組みをご紹介します。これには、アバターを能動的に監視し、ユーザーに当社のポリシーを周知するための新技術も含まれます。また、外部団体と提携して、新しいマナーに関するレポートを作成・公開しました。
アバターの積極的なモデレーションの導入について
2025年、Robloxユーザーは1日平均2億7400万回アバターを更新し、服や髪型を変更したり、ペットや帽子、その他のアクセサリーを追加したりしました。多くのユーザーは、アバターの見た目を丁寧に整えることに時間を費やしています。なぜなら、それはプラットフォーム上での自分自身の表現だからです。 ユーザーの安全を守るため、当社は「アバターマーケットプレイス」にアップロードされるすべてのアイテムを積極的にスキャンし、コミュニティ基準に違反すると判断されたものはブロックしています。しかし、ユーザーが無害なアイテムを組み合わせることで、結果としてポリシーに違反する装いを作り出してしまう場合があります。例えば、黒いスーツ、腕章、口ひげは、それぞれ単独ではポリシーに準拠していますが、これらを組み合わせるとアドルフ・ヒトラーに似たアバターを作り出す可能性があり、これは当社のポリシーに反します。
礼儀正しさに関する研究の支援
ゲーム業界の研究をさらに推進するため、Robloxは、オンラインプラットフォーム上で前向きな行動を育み促進する革新的なデザイン要素の推進に尽力する組織「Prosocial Design Network」と提携しました。この提携の目的は、ゲームプラットフォーム上での前向きな社会的つながりを促進するのに役立つ研究プロジェクトを特定することでした。 提案書の審査を経て、ゲームを通じたつながりの醸成に関連するプロジェクトを進めるため、6つの研究チームに助成金が授与されたことをお知らせいたします。これらの研究プロジェクトが進むにつれ、どのような知見が得られるか、またその成果がRobloxをはじめとする他社の将来の製品設計に活かされるかどうかを楽しみにしています。受賞プロジェクトの詳細はこちらをご覧ください。
レポート：ポジティブな社会的つながりのためのデザイン
ウェスタン・シドニー大学のYoung and Resilient Research CentreおよびPROJECT ROCKITとの共同研究により、私たちは最近『Building Connection』という報告書を発表しました。 本レポートは、政策立案者やテクノロジー業界のリーダーが、子どものウェルビーイング、自律性、健全な社会的つながりを意図的かつ積極的に設計するための枠組みを提供します。これらのエビデンスに基づいた提言には、技術革新や規制基準が含まれており、業界が協力して、若者が安全でつながりのある環境で健やかに成長できるデジタル環境を構築することを支援するものです。
本報告書の提言は、Robloxが長年にわたり行ってきた取り組みを裏付けるものであり、その多くは、当社が安全性を考慮した設計において重視している考え方と一致しています。具体的には以下の通りです：
- 多層的な安全システム：長年にわたり、私たちはイノベーションとユーザーの安全性のバランスを図るため、冗長性を組み込み、継続的な改善を行う多層的な安全システムを設計してきました。
- 専門家との連携：高度な安全技術と現実世界での協力を組み合わせ、保護者、安全の専門家、政府機関などあらゆる関係者と協力し、コミュニティの安全性と健全性を維持しています。
- ティーンおよび保護者協議会：これらの協議会では、若者とその保護者の双方を招き、当社のポリシーや機能について協議を行っています。また、言葉遣いに関する知見を提供してもらい、若いユーザーと共有するコンテンツが、彼らにとって関連性があり、敬意を払ったものであることを保証しています。
- リアルタイム音声モデレーション：このシステムは、ユーザーがポリシーに違反した際に通知を送信し、当社のポリシーについて周知するとともに、再違反時にはチャットの利用停止措置を講じます。
- アバターの事前モデレーション：前述の通り、この新システムには、アバターが公開できない理由や、アバターまたは更新内容がどのポリシーに違反しているかをユーザーに説明する情報も含まれます。
「Robloxとの協業は、若者のウェルビーイングを最優先するデジタル環境を構築するために、エビデンスに基づいた設計がいかに重要かを浮き彫りにしています」と、ウェスタン・シドニー大学ヤング・アンド・レジリエント・リサーチ・センターのアマンダ・サード教授は述べています。 「この重要な取り組みは、研究者、若者、産業界が一堂に会し、理解を深め、つながり、共感、包摂、そして前向きな社会的関与を育む空間を設計することの価値を浮き彫りにしています。子どもの権利を守り、社会貢献的な行動を真に支援するオンライン環境を構築するためには、若者の声をそのプロセスの中心に据えた、セクターを超えた連携が不可欠です。」
これらの取り組みはすべて、PROJECT ROCKITをはじめとする青少年団体との継続的な連携・協力の一環であり、オンラインいじめの防止や、オンライン上での健全で前向きな社会的つながりの促進に向けた彼らの活動を支援するものです。
