重新思考聊天措辭，讓遊戲更有趣、更好玩、更有禮貌

• 對一起玩遊戲的團隊或社群來說，自然、流暢的聊天至關重要。

• 不當語言被封鎖後，一連串的 ##### 可能會影響聊天、難以追蹤，並中斷遊戲。

• 為了讓聊天保持順暢且相互尊重，我們強化了聊天內容篩選器的功能，將髒話改為符合平台準則的用語。

• 長遠來看，這是我們減少 ##### 的第一步，以打造更自然的聊天體驗。 我們將持續學習、反覆改善並發展工具，以協助維繫安全有禮的聊天環境，包括為使用者提供額外的控制選項。

每天都有數百萬人在 Roblox 上交流和遊玩，而即時通訊交流對使用者表達和協調遊戲玩法非常重要。 使用 AI 篩選器來封鎖有問題的文字（使用者會看到 #####），一直是我們維護安全和提升禮貌的核心方法。 這些井字號會即時產生，協助使用者了解他們輸入的內容是否違規。 當然，若使用者屢次違反規則，面臨的後果就不只是顯示 ### 這麼簡單了。
2025
年 5 月，我們推出了主動即時警告功能，協助使用者了解我們的政策。 這些功能現在可用於文字和語音聊天。 這些通知會讓使用者知道自己何時違反規則，提醒他們下次重新思考自己的言論，並幫助他們成為更優秀的數位公民。 在去年實驗期間，我們發現推出體驗內文字聊天通知和暫停功能後，需要篩選掉的聊天訊息減少了 5%，濫用檢舉的數據也減少 6%。

今天，我們再新增一項功能，以協助維護友善有禮的體驗內文字聊天：我們利用 AI 自動調整訊息中的措辭，首先從修改掉髒話開始。 隨著系統進步，我們距離更有禮貌的遊戲世界又近了一步。即時回饋有助使用者學習和採納我們的社群標準。 所有使用者（而非只有訊息發送者）都會看到 Roblox 允許使用的語言（發送者則會看到不允許使用的語言）。 可能尚未瞭解規則的使用者可從中獲取更多回饋，並以篩選和即時警告為基礎，協助確保在 Roblox 上展開安全、有禮且有趣的對話。

即時聊天重新措辭功能：從禁止轉為引導

對許多使用者來說，一連串的 ##### 可能會讓對話陷入僵局，無法引導他們重新思考自己的用字遣詞，以遵守我們的社群標準。 這樣的情況更經常造成混亂，使遊戲中的團隊難以合作。 想像一下，有人想告訴朋友他們背後有怪物，並輸入類似「快看！ 你背後有一隻怪物！」這樣的內容來提醒對方。 但朋友只看到「###########」，根本無法發揮提醒效果。 

從今天起，篩選過的文字會被翻譯成更有禮貌的語言，讓 Roblox 使用者讀起來更自然。 推出時，這項即時重新措辭功能會先以改寫髒話為主。 例如，「看！快點啦！」可能會改寫成「快點啦！」，這樣的改寫方式會比 ##### 更貼近原本的意思。 不過我們仍要重申，就算改寫了違反髒話政策的訊息，傳送含有髒話的訊息內容仍是違規行為，且仍適用相同的規定。 經常在聊天室中使用髒話的使用者，仍會因為屢次違反我們的政策而面臨相同的懲處後果。

此系統的用意是引導使用者更有禮貌，而非一味禁止：若訊息違反我們的政策，聊天室中的每個人都會收到通知，告知訊息已重新措辭，以維持有禮的對話。 我們會比對受限制的詞彙與使用者在日常聊天中實際的用語，使聊天內容保持相互尊重，同時不會失去真實的交流感，也不影響遊戲流暢度。 我們將過去的禁止改為即時引導，希望減少緊張關係，同時繼續謹守有關髒話的規定。

文字被遮蔽時，我們會透過改寫詞句和提供更多脈絡，協助使用者理解。這方面的工作才剛剛起步。 就像任何 AI 翻譯工具一樣，隨時間累積將變得越來越準確，並能更細膩地保留使用者的原始語氣或語境。 我們的首要任務仍為建立安全且有禮的 Roblox 交流方式。在使用者認識我們的準則的過程中，我們會持續以告知、教育和引導為三大準則。

雖然改寫詞句可以減少聊天中的一些干擾，但針對更嚴重的行為，我們的多層安全機制仍會持續運作。 改寫詞句功能僅適用於體驗內聊天，且僅限年齡相近且已完成年齡驗證的使用者，以及其信任的聯絡對象之間使用。 改寫詞句功能目前支援自動翻譯工具提供的所有語言。 我們的目標是達到一定的準確度，讓我們能夠減少使用 ###，直到能夠完全停用為止，讓數位通訊交流就像面對面交談一樣清晰自然。

在開發此功能時，為打造符合青少年實際聊天方式的系統，我們諮詢了青少年委員會成員。 委員會成員 Sofia 告訴我們：「即時改寫詞句功能可以保持對話的流暢性，並協助維護每個人的安全。 這能輕鬆地引導互動回到正軌，並讓人們感覺受到歡迎。」 

青少年委員會成員 Jordyn 也同意這一點。 Jordyn 表示：「這種轉變教會玩家思考如何溝通，並透過促進友善的連結來加強互動。 透過啟用改寫詞句功能，我們在玩家需求與必要的安全標準間找到了平衡的解決辦法。」

改善文字篩選：從辨別模式邁向理解語境

我們會持續發展安全功能，以符合使用者在 Roblox 上的聊天方式。 我們的文字篩選器經過訓練，能夠偵測和封鎖任何違反社群標準的內容。 此工作需要在使用者聊天時，在全球即時進行。

最初，此系統有兩個組成部分：1) 以規則為導向的系統，設計用來針對現實世界事件發生時，幾分鐘內就能偵測並封鎖違反規定的內容。 2) 經由更大模型訓練的專用模型，使用持續更新的模擬與真實樣本，來適應不斷改變的語言表達。

這些專業模型非常擅長特定任務，例如尋找我們不允許的詞彙清單，但因推理能力不佳，所以不擅長尋找不斷演變的詞彙。 超大型模型無法即時運作，而且幻覺（或分類錯誤）通常會增加誤判。

在此次更新中，我們在文字過濾系統中加入了第三個新元件。 現在，專業模型無法確定某些內容是否違反規則時，系統會將這些內容傳送給更大型的模型，這些模型更善於推理和評估更多內容。 這些大型模型可以做出更複雜的決定。

我們的實驗顯示，這種組合方法明顯改善了篩選器的效能。 現在，過濾器能更有效地偵測「變形文字」（即使用數字或符號代替字母的語言），以及更複雜的規避過濾器行為。 沒有系統是完美的，但我們很高興這項創新讓我們能夠將分享或索取個人資訊（如社群媒體名稱或電話號碼）的誤報率降低 20 倍。

這是一個大膽的新方法，我們無法保證每次都能完美地重新改寫詞句。 但我們會繼續學習和實驗，並會繼續減少使用者在聊天中看到的 ##### 數量，長期目標是完全停用。 我們的最終目標是讓使用者能以有趣又相互尊重的方式，進行合作和交流。