楽しさ、ゲームプレイ、ネットマナーのためのチャット再考

• チームやコミュニティが共にプレイするゲームにおいて、自然で円滑なチャットは重要です。

• 不適切な言葉をブロックする#####の文字列は、チャットを混乱させ、ほとんど意味不明にし、ゲームプレイの妨げになりかねません。

• チャットの流れと相手へのリスペクトを損なわないよう、当社ではチャットフィルターを強化し、不適切な言葉をガイドラインに沿った言葉に置き換えています。

• これは#####による伏字を減らし、チャット体験をより自然なものにするための長い取り組みの第一歩です。 ユーザー向けの追加コントロールを含め、安全でマナーのあるチャットを支援するために、当社はこれからも学び、改良を重ね、ツールを進化させていきます。

毎日、何百万人もの人々が接続してプレイするRobloxでは、ユーザーの表現とゲームプレイの調整に、リアルタイムのコミュニケーションが重要です。 AIフィルターを活用して問題のあるテキスト（ユーザーには#####として表示）をブロックすることは、常に安全性とネットマナー向上に向けた当社のアプローチの中心にありました。 これらのハッシュマークはリアルタイム生成され、ユーザーが自分が入力した内容に許可されないものがあることを理解できます。 もちろんのこと、繰り返しルールに違反したユーザーは、###で伏字にされた自分の言葉よりも悪い結果に直面することになります。

当社は2025年5月に、ユーザーが当社のポリシーを理解するのに役立つ、予防的なリアルタイム警告を導入しました。 これは現在、テキストチャットとボイスチャットの両方で有効です。 これらの通知は、ユーザーがルールに違反した際に表示され、次回は表現を見直すよう促し、より良いデジタル市民となる手助けをします。 昨年の実験では、バーチャル空間内テキストチャットへの通知とタイムアウトの実行で、フィルタリングされたチャットメッセージが5%減少し、不正行為報告の結果が6%減少しています。

そして本日、バーチャル空間内テキストチャットの健全性を保つのに役立つ新機能を追加しました。AIを活用したメッセージの自動言い換え機能で、当初は暴言を対象にスタートします。 これらのシステムは、拡大するにつれてネットマナーを相乗的に向上する効果を生み、リアルタイムのフィードバックがユーザーがコミュニティ基準を学び、採用するのを助けます。 メッセージの送信者以外のすべてのユーザーも、Robloxで許可されている言葉を確認できます（送信者は許可されない言葉を確認できます）。 このシステムは、ルールを知らないであろうユーザーにフィードバックをより多く提供し、Robloxでの安全でマナーのある楽しい会話をサポートするもので、当社のフィルタリングとリアルタイムの警告を基盤に構築されています。

リアルタイムのチャット言い換え機能：停止標識から案内標識へ

多くのユーザーにとって、コミュニティ基準にあわせて言葉を変えるガイダンスなしでは、#####の文字列は会話の終了を意味するはずです。 頻繁に混乱状態を招き、ゲーム内でのチーム協力が困難になります。 たとえば、背後にモンスターがいるのを友達に教えるために「気をつけろ！ クソみたいなモンスターがいるぞ！」と警告する場合を想像してみましょう。 友人には「###########」しか表示されず、役には立ちません。 

今日から、フィルタリングされたテキストは、Robloxユーザーにとってより丁寧で、しかも自然に感じられる言葉に置き換えられます。 このリアルタイムでの言い換えは、まずは暴言にフォーカスします。 たとえば、「さっさとやれ！」は「急いで！」となり、#####よりも元の意図に近くなります。 誤解のないように言うと、当社の暴言に関するポリシーに違反するメッセージは、言い換えられても違反の事実は変わらず、同じ規則が適用されます。 チャット上で罵りを続けようとするユーザーは、ポリシーへの繰り返しの違反と同じ措置を受けます。

このシステムは止まれの標識ではなく、車のハンドルだと考えてください。メッセージがポリシーに違反すると、マナーを保つためにテキストが言い換えられたことが、チャット内の全員に通知されます。 使用禁止の言葉を、ユーザーがチャットで日常的に使う言葉に置き換えることで、チャットが本来の雰囲気や流れを失わず、互いを尊重するものであり続けるよう支援していきます。 止まれの標識をリアルタイムの案内標識に換えることで、当社はあつれきの一部を減らしつつ、今後も罵りを規制するルールを強化していきます。

ブロックされたテキストを言い換えることで、ユーザーにわかりやすい文脈を提供する試みは、まだ始まったばかりです。 このシステムも他のAI翻訳ツールと同様に、時間が経つにつれてより正確かつ絶妙なニュアンスで、ユーザーの元のトーンや文脈を維持できるようになるでしょう。 今後も、Robloxに安全で礼儀正しいコミュニケーションのあり方を築くことを最優先課題とし、ユーザーに当社の基準を理解していただけるよう、継続的な情報提供、啓蒙・指導活動を重視してまいります。

言い換え機能によって一部のチャット中断は低減されますが、より深刻な言動に対しては、多層的な安全システムがそのまま効果的に対応します。 言い換え機能は、バーチャル空間内チャット限定で利用可能です。このチャットは、同年齢層の年齢確認済みユーザー間と、その信頼するつながりの間でのみ有効です。 言い換え機能は、自動翻訳ツールを介して現在利用可能なあらゆる言語に対応しています。 当社の目標は、###の表示の完全廃止が可能なレベルまで精度を上げ、デジタルコミュニケーションを対面での会話と同じように自然で明確なものにすることです。

この機能の開発では、当社のティーンカウンシルメンバーの助言のもとに、10代の若者による実際のチャットのやり方を反映したシステムを構築しました。 カウンシルの一員であるソフィアはこう述べています。「リアルタイムの言い換え機能に移行すれば、全員の安全を確保しながら、会話の流れを維持することができます。 この機能は会話をなだらかに元の軌道に戻し、人々が歓迎されていると感じられるようにします」 

ティーンカウンシルの一員、ジョルディンの見解も同じで、 「この方法は、プレイヤーにコミュニケーションの方法を考えることを教え、友好的なつながりを育むことで交流を強化します。 言い換え機能に切り替えることで、必要な安全基準とプレイヤーの要望との間に妥協点を作ることができます」と語っています。

改善された伏字機能：パターンから文脈への進化

当社の安全機能は、Roblox上のユーザーのチャットの仕方に合わせて、絶えず進化しています。 Robloxの伏字機能は、コミュニティ基準に違反するものを検出してブロックするように訓練されています。 これは、ユーザーの皆さんのチャット中に、世界規模でリアルタイムに機能する必要があります。

当初、このシステムには次の2つのコンポーネントがありました。1）現実世界でイベントが発生した際に、数分以内にルール違反のコンテンツを検出し、ブロックするよう設計されたルールベースのシステム。 2）シミュレーションされたサンプルと実際のサンプルに基づいた、より大規模なモデルから学習された一連の特殊モデル。これらのサンプルは、意味変化する言語タイプが含まれるように継続的に更新されます。

これらの特殊なモデルは、許可されない単語のリストを見つけるなどの特定のタスクには非常に優秀ですが、リーズニング（論理的推論）にはあまり優れないため、意味変化の用語を見つけるのに最適とは言えません。 また、非常に大規模なモデルはリアルタイムでは機能せず、ハルシネーション（または誤分類）の生成により、偽陽性（誤検出）を増加させることも度々あります。

今回のアップデートでは、伏字システムに新しく3つ目のコンポーネントを導入しました。 現在、上記の複数の特殊モデルがルール違反かどうかを確認できないものは、より高度な推論能力と文脈評価能力を持つ大規模モデルに送信されます。 これらの大規模モデルは、より複雑な判断を下すことができます。

実験の結果、この組み合わせによるアプローチで、伏字が大幅に改善されたことがわかりました。 これらの伏字機能では、文字を数字や記号に置き換えたリートスピークや伏字を回避するより巧妙な試みを、さらに高精度に検出可能になりました。 完璧なシステムはあり得ないとはいえ、この最新のイノベーションにより、当社がSNSハンドル名や電話番号などの個人情報のシェアや要求に対する偽陰性の誤検知を、20分の1に低減できたことを嬉しく思います。

これはひとつの大胆な新しいアプローチであり、常に完璧に言い換えられるわけではありません。 しかし、当社は今後も学習と実験を続け、#####の完全廃止を長期目標に、ユーザーがチャットで目にする#####の数を減らしてまいります。 最終的なゴールは、ユーザーの皆さんに、楽しく相手を尊重した共同作業とつながりを可能にすることです。