安全快訊：三月

在我們的三月《安全快照》中，我們將分享如何透過自動化系統來審查內容，這些系統旨在偵測並移除問題內容——通常在用戶看到之前就已處理。我們同時也將介紹一個新儀表板，讓創作者能夠在自己的遊戲中發現並處理不良用戶行為，以及一個旨在培訓全行業社群管理員的新計畫。有關用戶檢舉工具的更多資訊，請參閱上個月的《安全快照》。 

持續監管用戶行為 

Roblox 的魅力之一，在於創作者所產出的內容不斷擴展與變化。每時每刻，創作者都在發布遊戲更新、新增徽章或寵物；而用戶則即時更換虛擬角色的服裝，或進行繪畫與建造。我們會在所有內容發布至平台前進行審查，並移除任何違反我們指南的內容。 

多層次的審核工具能篩除 Roblox 上絕大多數的問題內容，我們會拒絕任何違反《社群準則》的內容。但我們並非完美無缺，因此我們運用用戶舉報機制來協助發現可能遺漏的內容，並據此採取相應行動。

Roblox 遊戲的動態特性意味著，內容會根據使用者如何組合先前已獲批准的虛擬角色、服裝和動作而持續變化。例如，在允許自由繪圖的遊戲中，使用者可能會繪製具冒犯性的符號或物品。正因如此，我們最近推出了一套用於即時多模態審查的人工智慧系統，能夠同時掃描這些組合。 

傳統的 AI 內容審查系統設計為一次僅評估單一物件，且往往缺乏上下文脈絡，因而忽略了某些組合可能引發的問題——這些問題是單一項目本身所不具備的。 我們全新的即時多模態審查系統能評估整個場景——包含虛擬角色、文字及 3D 物件。系統會將這些元素在特定時刻一併擷取，並評估整個場景是否違反我們的規範。若某個遊戲實例中反覆出現此類問題行為，系統將僅關閉該實例（亦稱伺服器），而非整個遊戲。 

自推出此多模態系統以來，我們每天約關閉 5,000 個違反《社群準則》的實例。隨著系統的訓練與擴展，我們持續提升準確度，並與社群合作以盡量減少誤判。 我們正致力於擴展此多模態系統，以涵蓋並監控 100% 的遊戲時間。然而，總會有個別人士試圖規避任何系統，因此我們正積極開發超越關閉伺服器層面的技術。我們正研究識別特定惡意行為者的方法，以便在不影響善意玩家體驗的情況下將其移除。

讓創作者掌握伺服器關閉的相關資訊

我們透過安全概覽儀表板的更新，為創作者提供關於此多模態審查系統結果的更高透明度。如前所述，當遊戲伺服器被惡意使用者行為佔據時，我們會關閉該伺服器。為了讓創作者更清楚了解此情況在其遊戲中發生的頻率，我們已在現有的創作者儀表板中新增了一張圖表。 

創作者現在可以查看有多少遊戲伺服器因用戶不良行為（即違反我們的騷擾與歧視政策，或涉及浪漫及性內容的政策）而被關閉。這有助於他們察覺突發性的關閉數量增加，以便在關閉措施影響更廣泛的社群之前採取行動。接著，他們可以更仔細地檢視自己的遊戲，並決定是否需要對自訂表情、頭像編輯工具或遊戲內用戶創作功能進行調整，以協助防止出現問題內容。 

培訓數位版主 

Roblox、Keyword Studios 及 Riot Games 正與研究心理學家暨「遊戲促變」（Games for Change）研究總監 Rachel Kowert 合作，共同推出一項針對數位社群領導者的全新認證計畫。Roblox 將提供社群管理與親社會設計方面的專業知識，協助試行並形塑這項新「DLC 領導力計畫」的課程內容。此計畫旨在解決遊戲領域中線上管理員、社群經理及創作者缺乏標準化培訓的問題。 科沃特在近期的一篇文章中表示，該計畫旨在「將關於遊戲社群與線上行為的研究，轉化為數位領導者可用來建立更具韌性與永續性的線上社群之實用工具。」

透過參與這項計畫，我們將協助引領產業發展，打造首個此類標準化認證計畫，旨在造福 Roblox 創作者社群及更廣泛的遊戲產業。計畫完成後，將協助創作者學習有效管理與調解其日益壯大的社群所需的核心技能。我們相信，透過培訓更多版主與創作者掌握建立健康、相互尊重的線上社群之最佳實踐，將有助於讓線上遊戲環境對所有人而言更加正向。