安全快讯：1月
主动式虚拟形象管理与文明行为研究
本月《安全快讯》重点介绍了我们过去几周推出的安全与文明举措，包括用于主动监控虚拟形象并向用户普及政策的新技术。此外，我们还与第三方组织合作，创建并推出了新的文明行为报告。
宣布推出主动式虚拟形象审核机制
2025年，Roblox用户平均每天更新虚拟形象2.74亿次，通过更换服装、发型，以及添加宠物、帽子和其他配饰来打造形象。许多用户会花时间精心打理虚拟形象的外观，因为这是他们在平台上的自我表达。 为保障用户安全，我们会对上传至虚拟形象市场的所有内容进行主动扫描，并屏蔽任何被检测为违反《社区准则》的内容。然而，用户有时会将无害的物品组合使用，从而形成违反政策的外观。例如，黑色西装、臂章和胡须单独使用均符合规定，但组合在一起可能会被用来创建一个酷似阿道夫·希特勒的虚拟形象，这违反了我们的政策。
支持文明研究
为了进一步推动游戏行业的研究，Roblox 与“亲社会设计网络”（Prosocial Design Network）展开了合作。该组织致力于推广创新的设计元素，以在在线平台上培育和鼓励积极行为。此次合作旨在发掘有助于促进游戏平台上积极社交联系的研究项目。 经过提案评审，我们很高兴地宣布，已有六支研究团队获得资助，将开展与通过游戏促进社交联系相关的项目。随着这些研究项目的推进，我们期待了解其研究成果，并观察其中是否会有成果能为 Roblox 及其他公司的未来产品设计提供参考。有关获奖项目的更多详情，请点击此处查看。
报告：《设计积极的社会联结》
我们近期与西悉尼大学“青年与韧性研究中心”及 PROJECT ROCKIT 合作，发布了一份关于“构建联结”的报告。 该报告为政策制定者和科技行业领袖提供了一个框架，旨在有意识且积极地设计促进儿童福祉、自主权及健康社交联系的方案。这些基于证据的建议涵盖技术创新与监管标准，旨在帮助行业携手打造数字环境，赋能年轻人，使其能在安全、互联的环境中茁壮成长。
本报告中的建议强化了Roblox多年来所做的投入，其中许多与我们对安全设计理念不谋而合，包括：
- 多层安全体系：多年来，我们设计了一套具备内置冗余机制和持续改进功能的分层安全体系，以在创新与用户安全之间取得平衡。
- 与专家合作：我们结合先进的安全技术与现实世界的协作，与各方——包括家长、安全专家及政府机构——携手合作，共同维护社区的安全与文明。
- 青少年与家长委员会：这些委员会汇聚青少年及其家长，就部分政策和功能提供咨询意见，并就措辞提出建议，以确保我们向年轻用户分享的内容既贴近生活又充满尊重。
- 实时语音审核：该系统会在用户违反政策时触发通知，向其说明相关政策，并对后续违规行为实施聊天暂停。
- 主动式虚拟形象审核：如上所述，该新系统还将提供相关信息，帮助用户了解其虚拟形象为何无法发布，以及该形象或更新内容违反了哪项政策。
“我们与 Roblox 的合作凸显了基于证据的设计对于创建优先考虑青少年福祉的数字环境的重要性。”西悉尼大学“青年与韧性研究中心”的阿曼达·瑟德教授表示。 “这项重要工作凸显了汇聚研究人员、青少年和行业力量的价值，这有助于深化我们的理解，并设计出能够培育联结、同理心、包容性及积极社交互动的空间。若想构建既能维护儿童权利、又能切实支持亲社会行为的在线环境，并让青少年的声音成为这一过程的核心，跨领域协作至关重要。”
所有这些工作都是我们与青年组织（包括PROJECT ROCKIT）持续开展的外展与合作的一部分，旨在支持他们在预防网络欺凌以及促进健康、积极的在线社交联系方面的工作。
