ゲーム内レポートツールの大幅な更新

Robloxでは、1日あたり1億3200万人のアクティブユーザーが、友人や家族、そして世界中の他のプレイヤーと集い、ゲームを楽しんでいます^¹。私たちは、すべてのRobloxプレイヤーとクリエイターのために、前向きで楽しい環境を作るよう尽力しています。大多数のプレイヤーはルールを理解し、コミュニティを尊重していますが、現実世界と同様に、すべての人がルールを守っているわけではありません。 そのため、当社のモデレーションシステムには、不適切なコンテンツや行動の大部分を、プレイヤーが目にすることがないうちに捕捉できるよう設計された、多層的な保護機能が備わっています。また、これらの保護層をすり抜けてしまう可能性のあるものを検知・削除するため、24時間体制で対応しています。 

新たなトレンドや不快な新造語、あるいはコミュニティ基準に違反しようとする新たな試みがすり抜けてしまった場合、プレイヤーからの通報は、迅速な対応に必要なメタデータや文脈を把握し、将来的に同様の問題を検知できるようモデレーションシステムを学習させる上で役立ちます。 プレイヤーが不快や不安を感じるものを即座に通報またはブロックできるよう、通報ツールに大幅なアップデートを実施しています。今回のアップデートには、よりシンプルで直感的な通報フローに加え、当社が通報内容を審査しフィードバックを提供しやすくするためのバックエンドプロセスの効率化が含まれています。

新しく直感的な通報フロー 

Robloxの成長と新機能の追加に伴い、通報プロセスは複雑化していました。プレイヤーは、テキストやボイスチャットでの規約違反から、不快なプレイヤーやゲーム全体に至るまで、さまざまな種類のやり取りを通報できます。一般的なプレイヤーは、どの「コミュニティ基準」に違反しているかを正確に把握していない場合もあり、そもそもそれを知る必要もありません。私たちは、プレイヤーが迅速かつ正確に通報の判断を下し、すぐにゲームに戻れるようにしたいと考えています。  

プレイヤーのプロセスを簡素化するため、ゲーム内での通報フローを再設計しました。通報の種類に応じて質問の順序を自動的に調整し、関係のない質問をスキップすることで、通報プロセスを大幅に迅速化しています。

報告フローの各ステップには、ティーン・カウンシルと共同で策定・検証された『コミュニティ基準の若者向けガイド』から抜粋した平易な表現も取り入れられています。よりシンプルな報告フローと分かりやすい言葉遣いを使用することで、プレイヤーはどのルールに違反しているかを確認しやすくなり、ガイドライン全体をより深く理解できるようになります。 

フィードバックとアドバイスによる通報の強化 

通報に対して黙って対応するだけでは不十分です。通報者が通報の結果に関するフィードバックを受け取ることがいかに重要かを私たちは理解しており、通報が何らかの措置につながった場合には、通報ごとに通知が届くようにしました。 

フィードバックは、プレイヤーにシステムが機能していることを実感させるとともに、私たちが対応に必要なデータを提供してくれる質の高い報告を促します。現在、報告に対してどのような対応が行われたかを、約99％の確率でプレイヤーにお知らせできるようになっています。²

舞台裏での効率化

バックエンドでは、新しい報告フローが「柔軟な決定木」と呼ばれる仕組みを採用しています。すべての報告を同じ場所に送り、そこで仕分けをして適切なチームに転送して審査してもらう従来の方法とは異なり、この新しいフローでは、プレイヤーが報告している問題の種類を動的に判断し、最も関連性の高い証拠とともに、その報告を直ちに最適なチームに確実に振り分けます。 

今後の展望

これらの変更は、ゲーム内での報告に対応し、プレイヤーにできるだけ迅速にフィードバックを提供する上で、非常に役立っています。第3四半期には報告に関するフィードバックの強化に注力し、プレイヤーが送信した報告を確認し、対応済み・未対応を問わずすべての報告のステータスを把握できる「永続的な受信箱」を追加する予定です。

報告機能の向上により、自動モデレーションシステムも徐々に改善され、プレイヤーが問題に遭遇する前に、より多くの問題を未然に防ぐことが可能になります。報告機能の改善を継続することで、システムがほとんどのケースで一般的な問題を自動的に検知できるようになるため、プレイヤーが報告を行う必要性は徐々に減っていくはずです。私たちの最終的な目標は、これらのゲーム内報告ツールを主に、Roblox上で発生する新規かつ異常な問題を検知するために活用し、システムがそれらを学習して検出できるようにすることです。