安全快讯：3月

在 3 月的《安全快报》中，我们将分享如何通过自动化系统对内容进行审核，这些系统旨在检测并下架问题内容——通常在用户看到之前就已完成。我们还将介绍一个新仪表盘，帮助创作者在自己的游戏中发现并处理不良用户行为，以及一项旨在培训全行业社区管理员的新计划。有关用户举报工具的更多信息，请参阅上个月的《安全快报》。 

持续监管用户行为 

Roblox 的魅力之一，在于创作者们不断扩展和更新的内容。创作者随时都在发布游戏更新、添加新徽章或宠物，而用户则实时更换虚拟角色的服装，进行绘画或建造。我们在所有内容发布到平台前都会进行审核，并移除任何违反我们准则的内容。 

多层审核机制能拦截 Roblox 上绝大多数问题内容，我们也会拒绝任何违反《社区准则》的内容。但我们并非完美无缺，因此我们借助用户举报来发现可能遗漏的内容，并采取相应措施。

Roblox 游戏的动态特性意味着，内容会根据用户如何组合先前已获批准的虚拟形象、服装和动作而不断变化。例如，在允许自由绘画的游戏中，用户可能会画出冒犯性的符号或物品。正因如此，我们最近推出了一套用于实时多模态审核的新 AI 系统，能够对这些组合进行综合扫描。 

传统的人工智能审核系统旨在逐个评估对象，往往缺乏上下文，因此会忽略某些组合可能引发的问题——而这些问题仅凭单个项目是无法察觉的。 我们全新的实时多模态审核系统能够评估整个场景——包括虚拟角色、文本和3D物体。它会捕捉特定时刻的所有这些元素，并评估整个场景是否违反我们的规则。如果某类违规行为在单个游戏实例中反复出现，系统将仅关闭该实例（也称为服务器），而非整个游戏。 

自该多模态系统上线以来，我们每天关闭约5,000个违反《社区准则》的实例。随着模型训练和系统扩展，我们正不断提升识别准确率，并携手社区共同努力，以最大限度地减少误判。 我们正致力于扩展该多模态系统，以覆盖并监控100%的游戏时间。但总会有试图规避系统的个人，因此我们正在积极开发超越单纯关闭服务器的技术。我们正在研究识别特定恶意行为者的方法，以便在不影响善意玩家体验的前提下将其移除。

让创作者了解服务器关闭情况

我们通过安全概览仪表盘的更新，为创作者提供了关于该多模态审核系统结果的更高透明度。如上所述，当游戏服务器被恶意用户行为占据时，我们会关闭服务器。为了让创作者更清楚地了解此类情况在其游戏中发生的频率，我们已在现有的创作者仪表盘中添加了一张新图表。 

创作者现在可以查看因用户不当行为（即违反我们的骚扰、歧视或浪漫及性内容政策）而被关闭的游戏服务器数量。这有助于他们识别突发性增长，从而在关闭措施影响更广泛的社区之前采取行动。随后，他们可以深入分析游戏情况，决定是否需要对自定义表情、头像编辑工具或游戏内用户创作功能进行调整，以帮助防止出现问题内容。 

培训数字社区管理员 

Roblox、Keyword Studios 和 Riot Games 正与研究心理学家兼“游戏改变世界”（Games for Change）研究总监 Rachel Kowert 合作，共同推出一项针对数字社区领导者的全新认证计划。Roblox 将贡献其在社区管理及亲社会设计方面的专业知识，协助试点并完善新推出的 DLC 领导力计划的课程体系。该计划旨在解决游戏领域在线审核员、社区管理员及创作者缺乏标准化培训的问题。 科沃特在近期的一篇文章中表示，该计划旨在“将关于游戏社区和在线行为的研究转化为实用工具，供数字领导者用于构建更具韧性和可持续性的在线社区。”

通过参与此项工作，我们将助力引领行业，开发首个旨在惠及 Roblox 创作者社区及更广泛游戏行业的标准化认证项目。项目完成后，将帮助创作者掌握有效管理日益壮大的社区所需的关键技能。我们相信，通过培训更多版主和创作者掌握构建健康、尊重的在线社区的最佳实践，将有助于让在线游戏环境对每个人都更加积极。