安全快報：3 月

在三月份的《安全快報》中，我們分享如何透過自動化系統審核內容。這些系統旨在偵測並移除有問題的內容，通常在使用者看到前，我們就已經將其下架。 我們也將分享全新的管理後台，讓創作者能夠在自己的遊戲中辨識並處理不良的使用者行為。我們還推出了新計畫，提供專業培訓給此產業的社群經理。 請參閱上個月的安全快報，深入瞭解使用者檢舉工具。 

持續審核使用者行為

Roblox 的魔力之一，就在於創作者們產出的內容正不斷擴張且日新月異。 創作者隨時都在發佈遊戲更新、新增徽章或寵物，而使用者也會隨時變更虛擬人偶的服裝、繪畫或建造物品。 這些內容發布到平台之前，我們會全面審核，並移除任何違反準則的內容。

透過多層次的審核工具，我們能攔截 Roblox 上絕大多數的有問題內容，並拒絕任何違反《社群標準》的內容。 雖然無法做到完美，不過我們善加利用使用者的報告，協助找出任何可能遺漏的地方，並採取相關行動。

Roblox 遊戲具備高度的動態性，隨著使用者將先前通過審核的虛擬人偶、服飾與動作進行各種組合，內容也會不斷變動。 舉例來說，在支援自由繪圖的遊戲中，使用者可能會畫出具冒犯性的符號或物品。 因此，我們近期推出了一套全新的 AI 系統，專門進行「即時多模態審核」，將這些組合內容整合在一起掃描。

傳統的 AI 審核系統一次只能評估單一物件，往往因為缺乏背景資訊而漏掉某些物件單看沒問題、組合起來卻可能違規的情況。 我們全新的即時多模態審核系統可評估整個場景，包括虛擬人偶、文字和 3D 物件。 該系統會在特定時刻同時擷取所有元素，並評估整體場景是否違反規則。 若這類違規行為在單一遊戲實例中重複發生，系統將僅關閉該實例（即伺服器），而非整個遊戲。

自從推出這套多模態系統以來，我們每天大約會關閉 5,000 個違反《社群標準》的實例。 隨著我們持續訓練並擴大規模，我們也不斷提高準確率，並與社群合作盡量減少誤判。 我們正努力擴展這套多模態系統，目標是達成 100% 遊玩時數的捕捉與監控。 然而，總是會有人試圖規避系統，因此我們正在積極開發能夠超越關閉伺服器功能的技術。 我們正在研究如何識別特定的不肖人士，以便在不影響良善玩家體驗的情況下將違規者移除。

讓創作者掌握伺服器關閉的情況

我們透過在安全概覽後台新增項功能，讓創作者能更清楚了解多模態審核系統的運作結果。 如上所述，當遊戲伺服器受到不良使用者行為嚴重影響時，我們會將其關閉。 為了讓創作者能更清楚地掌握這種情況在自己遊戲中發生的頻率，我們在現有的創作者後台中新增了一個圖表。 

創作者現在可以查看有多少個遊戲伺服器因不良使用者行為（例如違反我們關於騷擾與歧視，或浪漫與性內容的政策）而遭關閉。 這能幫助創作者識別異常增加的違規狀況，以便在伺服器關閉影響到更廣泛的社群前，積極採取行動。 接著，他們就能仔細檢視自己的遊戲，並決定是否需要針對自訂動作、虛擬人偶編輯工具或遊戲內的玩家創作功能進行調整，以防範內容違規。 

培訓數位社群領袖

Roblox、Keyword Studios 和 Riot Games 正與研究心理學家兼 Games for Change 研究總監 Rachel Kowert 合作，共同推出數位社群領袖的全新認證計畫。 Roblox 將貢獻其在社群審核和利社會 (Prosocial) 設計方面的專業知識，協助試行並協助制定全新 DLC 領導力計畫的課程內容。 此計畫的目標是解決線上審核人員、社群管理員和遊戲領域創作者缺乏標準化培訓的問題。 Kowert 在近期的一篇文章中表示，此計畫的目標是「將有關遊戲社群和線上行為的研究落實為實用工具，讓數位社群領袖能建立更具彈性且更永續的線上社群」。

透過參與這項計畫，我們將協助引領產業，開發出首個此類標準化認證計畫，讓 Roblox 創作者社群和更廣泛的遊戲產業受益。 計畫完成後，將協助創作者學習有效審核並管理日益壯大社群所需的關鍵技能。 我們相信，針對如何建立健康且互相尊重的線上社群，為更多審核人員與創作者提供最佳實務培訓，將有助為所有人創造更正向的遊戲環境。