安全速览：1 月

本月的安全速览重点介绍了我们在过去几周推出的安全与文明举措，包括用于主动监控虚拟形象并向用户普及政策的新技术。 我们还与第三方组织合作，创建并发布了新的文明行为研究报告。

宣布主动式虚拟形象审核

2025 年，Roblox 用户平均每天更新虚拟形象 2.74 亿次，更换虚拟形象的衣服和发型，并添加宠物、帽子和其他配饰。 许多用户会花时间精心打造自己的虚拟形象，因为这是他们在平台上的自我表达。 为了保障用户安全，我们会主动扫描上传到虚拟人物商城的所有内容，并屏蔽任何违反社区准则的内容。 然而，用户有时会将本身无害的道具组合成违反我们政策的装扮。 例如，黑色西装、臂章和胡子本身都符合规定，但组合在一起，它们可能会被用来创建一个类似阿道夫·希特勒的虚拟形象，这违反了我们的政策。

过去我们主要通过用户举报来识别存在问题的虚拟形象。 从本月开始，我们将在每次虚拟形象发生更改时自动进行违规扫描，这一过程通常在其他用户看到更新后的虚拟形象之前完成。 这些扫描会对包含所有已装备道具的完整虚拟形象进行评估，以检测是否存在违反准则的内容。 如果系统检测到任何不当内容，用户的虚拟形象将重置为默认形象（所有虚拟形象道具均被卸下）。 系统会向用户发送通知，告知其虚拟形象已被重置以及违反了哪项政策，以帮助他们今后理解并遵守平台准则。 尽管没有任何系统是完美的，这些通知仍为用户提供了反馈渠道，使他们能够在认为系统存在误判时进行标记，并帮助我们持续提升审核准确性。

为了进一步推进游戏行业的研究，Roblox 与 Prosocial Design Network 合作。该组织致力于推广能够促进并鼓励在线平台积极行为的创新设计元素。 此次合作旨在甄选有助于促进游戏平台上积极社交连接的研究项目。 提案已完成评审，我们很高兴地宣布，六个研究团队获得资助，以开展通过游戏促进人际联结的相关项目。 随着项目推进，我们期待看到研究成果，并评估其是否能为 Roblox 及其他公司的未来产品设计提供参考。 有关获奖项目的更多信息，请参见此处。 

报告：为积极的社交联结而设计

我们近期与西悉尼大学青年与复原力研究中心及 PROJECT ROCKIT 合作，发布了《建立人际联结》报告。 该报告为科技行业的政策制定者和领导者提供了一个框架，用以有意识、前瞻性地为儿童的福祉、自主性和健康社交联结进行设计。 这些循证建议涵盖技术创新与监管标准，旨在推动行业协作，打造安全、互联、助力青少年成长的数字环境。  

本报告中的建议强化了 Roblox 多年来在安全方面的投入，其中许多与我们的安全设计理念一致，包括：

• 多层安全系统：多年来，我们构建了具备内置冗余与持续改进能力的分层安全体系，以在创新与用户安全之间取得平衡。 

• 与专家合作：我们结合先进的安全技术与现实世界协作，与家长、安全专家和政府机构等各方合作，维护社区安全与文明。 

• 青少年和家长委员会：这些委员会让青少年及其家长参与政策与功能咨询，并提供语言表达建议，确保我们与年轻用户分享的内容既贴近实际也体现尊重。

• 实时语音审核：当用户违反政策时，系统会触发通知，向其说明政策并在重复违规时实施聊天限时。 

• 主动式虚拟形象审核：如前所述，新系统还将向用户说明虚拟形象无法发布的原因及所违反的具体政策。

西悉尼大学青年和复原力研究中心的 Amanda Third 教授表示：“我们与 Roblox 的合作凸显了循证设计在打造以青少年福祉为优先的数字环境中的重要性。 这项重要工作体现了将研究人员、年轻人和行业汇聚在一起的价值，以加深理解并设计出促进连接、同理心、包容与积极社会参与的空间。 跨领域协作至关重要，唯有如此，我们才能构建维护儿童权利、切实支持亲社会行为的网络环境，并让年轻人的声音成为这一进程的核心。”

所有这些工作都是我们与青年组织（包括 PROJECT ROCKIT）持续开展的外联和合作项目的一部分，旨在支持他们在预防网络欺凌以及促进健康积极的在线社交联结方面的工作。