安全快訊：一月
主動式虛擬形象管理與文明行為研究
本月《安全快訊》重點介紹我們在過去幾週推出的安全與文明倡議，包括運用新技術主動監控虛擬形象，並向使用者宣導我們的政策。我們也與第三方組織合作，建立並推出了新的文明行為報告機制。
宣布推出主動式虛擬角色管理機制
2025 年，Roblox 用戶平均每天更新虛擬角色 2.74 億次，不僅更換服裝與髮型，更會添加寵物、帽子及其他配件。許多用戶會花費時間精心打造虛擬角色的外觀，因為這代表了他們在平台上的自我表達。 為保障使用者安全，我們會主動掃描上傳至「虛擬角色市集」的所有內容，並封鎖任何違反《社群準則》的項目。然而，使用者有時會將無害的單品組合成違反政策的外觀。例如，黑色西裝、臂章和鬍鬚單獨使用時均符合規範，但若組合在一起，便可能形成酷似阿道夫·希特勒的虛擬角色，這違反了我們的政策。
支持文明研究
為進一步推動遊戲產業的研究，Roblox 與「親社會設計網絡」（Prosocial Design Network）展開合作，該組織致力於推廣能促進並鼓勵線上平台正向行為的創新設計元素。此次合作旨在發掘有助於促進遊戲平台正向社交連結的研究計畫。 提案經審查後，我們很高興宣布有六支研究團隊獲得資助，將進行與透過遊戲促進連結相關的專案。隨著這些研究專案的推進，我們期待看到所獲得的洞見，並觀察其中是否能為 Roblox 及其他公司的未來產品設計提供參考。獲獎專案的更多詳情請見此處。
報告：《打造正向社交連結的設計》
我們近期與西雪梨大學「青年與韌性研究中心」及 PROJECT ROCKIT 合作，共同發布了《建立連結》報告。 該報告為政策制定者及科技產業領袖提供了一套框架，協助他們有意識且主動地設計能促進兒童福祉、自主性及健康社交連結的方案。這些基於實證的建議涵蓋技術創新與監管標準，旨在協助產業攜手打造數位環境，讓年輕世代能在安全且互聯的環境中茁壯成長。
本報告中的建議強化了 Roblox 多年來的投入，其中許多與我們對安全設計的理念不謀而合，包括：
- 多層次安全系統：多年來，我們設計了一套具備內建冗餘機制與持續改進功能的分層安全系統，以協助在創新與用戶安全之間取得平衡。
- 與專家合作：我們結合先進的安全技術與現實世界的協作，與各方——包括家長、安全專家及政府機構——攜手合作，以維護社群的安全與文明。
- 青少年與家長諮詢委員會：這些委員會匯集年輕使用者及其家長，就部分政策與功能提供諮詢，並針對用語提出建議，確保我們與年輕使用者分享的內容既切合需求又充滿尊重。
- 即時語音審查：此系統會在用戶違反政策時觸發通知，向其說明相關政策，並針對後續違規行為實施聊天暫停處分。
- 主動式虛擬角色審查：如前所述，這套新系統將包含相關資訊，協助向用戶說明其虛擬角色為何無法發布，以及該角色或更新內容違反了哪項政策。
「我們與 Roblox 的合作，凸顯了以實證為基礎的設計對於打造優先考量青少年福祉的數位環境至關重要。」西雪梨大學「青年與韌性研究中心」的阿曼達·瑟德（Amanda Third）教授表示。 「這項重要成果彰顯了匯聚研究人員、年輕人與業界的力量，有助於深化我們的理解，並設計出能培育連結、同理心、包容性及正向社交互動的空間。若我們希望建立能維護兒童權利、並實質支持親社會行為的線上環境，且讓年輕人的聲音成為此過程的核心，跨領域合作至關重要。」
這一切工作都是我們與青年組織（包括 PROJECT ROCKIT）持續外展與合作的一部分，旨在支持他們在預防網路霸凌及促進健康、正向的線上社交連結方面的工作。
