安全速览：3 月

在 3 月份的安全速览中，我们将介绍如何通过自动化系统来审核内容。这些系统旨在检测和屏蔽问题内容，通常会在用户看到这些内容之前予以拦截。 我们还将介绍一个新的数据中心，帮助创作者发现并处理自己游戏中的不良用户行为，以及一项针对整个行业的社区经理培训新计划。 请参阅上个月的安全速览，了解有关用户举报工具的更多信息。 

持续审核用户行为

Roblox 的魅力之一在于，我们的创作者不断创作出越来越丰富、不断变化的内容。 在任何时候，创作者都可能会发布游戏更新并添加新的徽章或宠物，而用户也可能会实时更换虚拟形象的服装，并绘制或构建各种内容。 在所有这些内容发布到平台之前，我们都会对其进行审核，并移除违反我们准则的内容。

多层审核工具能够发现 Roblox 上绝大多数有问题的内容。我们会拒绝任何违反社区准则的内容。 但我们并非完美无缺，因此我们利用用户举报来帮助我们发现可能遗漏的内容，并采取相应措施。

Roblox 游戏具有动态特性，这意味着内容会根据用户如何组合先前已获批准的虚拟形象、服装和动作而不断变化。 例如，在允许自由绘画的游戏中，用户可能会绘制冒犯性的符号或物品。 因此，我们最近推出了一套用于实时多模态内容审核的新型 AI 系统，该系统能够同时扫描这些组合。

传统的 AI 审核系统设计为一次评估一个对象，往往缺乏上下文信息，因此无法发现那些在单独看时可能无法察觉、但在结合后可能存在问题的内容组合。 我们全新的实时多模态内容审核系统可以对整个场景进行评估，包括虚拟形象、文本和 3D 对象。 它会在特定时刻同时捕捉所有这些元素，并评估整个场景是否违反了我们的规则。 如果此类有问题的行为在单个游戏实例中反复出现，系统将仅关闭该实例（也称为服务器），而不是关闭整个游戏。

自推出这一多模态系统以来，我们每天大约关闭 5,000 个违反社区准则的实例。 随着模型的训练和扩展，我们不断提高系统的准确性，并与社区合作，努力将误报率降至最低。 我们正在努力扩展这一多模态系统，以便捕捉和监控 100% 的游戏时间。 但是，总会有一些人试图规避任何系统，因此我们正在积极开发更进一步的技术手段，而不仅仅依赖关闭服务器。 我们正在开发识别特定不良行为者的方法，以便在不影响正常玩家体验的情况下将其移除。

让创作者了解服务器关闭情况

我们在安全概览控制面板中添加了新功能，让创作者能够更清楚地了解这一多模态内容审核系统的处理结果。 如上所述，当游戏服务器出现大量不良用户行为时，我们会关闭这些服务器。 为了让创作者更清楚地了解这种情况在其游戏中发生的频率，我们在现有的创作者中心中添加了一个新图表。 

现在，创作者可以查看自己有多少游戏服务器因不良用户行为（即违反我们的骚扰和歧视政策或恋爱和色情内容政策）而被关闭。 这有助于他们及时发现关闭操作的异常激增，从而在停服影响更大范围社区之前采取行动。 随后，他们可以仔细检查自己的游戏，并决定是否需要对自定义动作、虚拟形象编辑工具或游戏内用户创建功能进行更改，以帮助防止出现有问题的作品。 

培训数字审核员

Roblox、Keyword Studios 和 Riot Games 正在与研究心理学家兼 Games for Change 研究总监 Rachel Kowert 合作，共同开发面向数字社区领导者的全新认证计划。 Roblox 将在社区审核和亲社会设计方面提供专业经验，参与试点并协助制定全新的 DLC 领导力计划课程体系。 该计划旨在解决游戏领域中在线审核员、社区管理员和创作者缺乏标准化培训的问题。 Kowert 在最近的一篇文章中表示，该计划旨在“将有关游戏社区和在线行为的研究转化为实用工具，供数字社区领导者用来打造更具韧性、更可持续的在线社区”。

通过参与这一计划，我们将助力引领行业发展，打造一套开创性的标准化认证体系，为 Roblox 创作者社区及更广泛的游戏行业带来积极价值。 计划完成后，将帮助创作者掌握关键技能，从而能够更有效地进行社区管理与内容审核，应对不断壮大的社区发展需求。 我们相信，通过培训更多审核员和创作者，让他们掌握构建健康、相互尊重的在线社区的最佳实践，将有助于为所有人营造更加积极的游戏环境。