Robloxにおける安全面の革新
当社は、安全体制の強化を継続的に行い、新たな保護機能への投資を行い、悪意のあるユーザーを発見した場合は排除しています。新たな手口が出現し、ユーザーの行動が変化し、世界的な規制が導入されるにつれ、当社は状況に適応し、組み込みの保護機能を強化する方法を模索しています。
顔の年齢推定
年齢確認を行うことで、ユーザーを最初から年齢に適した環境に誘導し、保護者がお子様の利用状況を適切に把握し、管理できるよう支援します。
顔年齢推定は、当社で最も高速な年齢確認プロセスです。この技術はライブ映像を使用することで、誤った年齢判定の発生を低減します。顔年齢推定に使用された画像や動画は、安全に処理された後、削除されます。
マルチモーダル・モデレーション
従来のAIモデレーションシステムは、オブジェクトを1つずつ評価するため、有害な画像やコンテンツにつながる可能性のある組み合わせを見逃してしまいます。当社のマルチモーダルシステムは、文脈的な場面や状況を捉えます。再生時間の100%を監視できるため、コミュニティ基準に違反する事例をより多く遮断することが可能です。
チャットのフィルターとモデレーション
チャットは、ユーザーがRobloxを気に入っている理由の一つです。この機能を維持しつつ、コミュニケーションを年齢に適した安全な状態に保つため、ポリシー違反となるやり取りをユーザーが回避できるよう、アップデートを実施しました。
当社のチャット安全機能はRoblox内にのみ実装されています。会話はRoblox内にとどめてください。保護機能が十分でない可能性のある他のウェブサイトへ、誰との会話も持ち出さないでください。
フィルター
個人情報の共有など、ポリシーに違反する会話をブロックするためのチャットフィルターが導入されています。
チャットのモニタリング
ゲーム内チャットおよびダイレクトチャットを含む、すべてのチャットは重大な危害がないか監視されています。
書き換え
会話が円滑に進むよう、当チャットでは不適切な言葉を含むメッセージを自動的に修正し、より適切な表現に置き換えます。
チャットの要約
ゲーム内体験を向上させるため、当社のチャットサマリーでは、自分の年齢層とは異なるユーザーの発言も確認できるようになっています。これにより、世代を超えたコミュニケーションのリスクを伴わずに、より没入感のあるプレイタイムを実現します。
デジタル安全・ウェルビーイングのリソースを活用して、さらなるメリットを
当社の革新的な機能は、最初からより安全な環境づくりを支援します。しかし、オンライン環境は複雑で、常に変化しています。悪意のあるユーザーのほとんどを検知するよう努めていますが、検知をすり抜けるケースもあるかもしれません。また、オンラインでのウェルビーイングやデジタル上のベストプラクティスを向上させる方法もあります。
オンライン上で起こりうる状況やデジタルウェルビーイングの実践について、お子様と率直かつ継続的な対話をされることをお勧めします。