안전 스냅샷: 1월

이번 달의 안전 스냅샷에서는 지난 몇 주 동안 론칭한 안전 및 디지털 시민의식에 대한 이니셔티브를 소개합니다. 여기에는 아바타를 사전에 모니터링하고 사용자에게 정책에 대해 교육하는 새로운 기술이 포함됩니다. 또한 제삼자 기관과 협력하여 새로운 디지털 시민의식 보고서를 작성하고 출시했습니다.

선제적 아바타 검열 발표

2025년에 Roblox 사용자는 하루 평균 2억 7,400만 번 아바타를 업데이트하여 반려동물, 모자 및 기타 장신구를 추가하고 아바타의 옷과 헤어스타일을 변경했습니다. 많은 사용자가 아바타의 외모를 신중하게 꾸미는 데 시간을 할애하며, 이는 아바타가 플랫폼에서 자신을 표현하는 수단이기 때문입니다. 회원들의 안전을 위해, 당사에서는 아바타 마켓플레이스에 업로드된 모든 항목을 사전에 검사하고 커뮤니티 규정을 위반하는 것으로 감지되는 모든 항목을 차단합니다. 그러나 사용자가 무해한 아이템을 결합하여 정책에 위배되는 의상을 만드는 경우도 있습니다. 예를 들어, 검은색 양복, 완장, 콧수염은 모두 자체적으로는 규정을 준수하지만, 이 세 가지를 결합하여 아돌프 히틀러를 닮은 아바타를 만드는 데 사용할 수 있으며, 이는 당사의 정책에 위배됩니다.

지금까지는 사용자 신고를 통해 문제가 되는 아바타를 식별해 왔습니다. 이번 달부터는 아바타가 변경될 때마다 자동으로 규정 위반 여부를 검사하여, 대개 다른 사용자가 보기 전에 확인됩니다. 이 검사로 모든 아이템이 장착된 전체 아바타를 평가하여 당사 기준에 위배되는 사항이 있는지 확인합니다. 시스템에서 부적절한 항목을 감지하면 사용자의 아바타가 기본 아바타로 재설정됩니다(모든 아바타 아이템이 장착되지 않은 상태). 알림을 통해 사용자에게 아바타가 재설정되었으며 어떤 정책이 위반되었는지 알려줌으로써 향후 플랫폼의 가이드라인을 학습하고 준수할 수 있도록 도와줍니다. 완벽한 시스템은 없지만, 이러한 알림을 통해 사용자가 시스템에 오류가 있다고 판단할 경우에 신고할 수 있는 방법을 제공하여, 당사의 검토 정확도를 개선할 수 있습니다.

게임 산업에 대한 연구를 더욱 발전시키기 위해 Roblox는 Prosocial Design Network와 협력했습니다. Prosocial Design Network는 온라인 플랫폼에서 긍정적인 행동을 육성하고 장려하는 혁신적인 디자인 요소를 홍보하는 데 전념하고 있습니다. 협업의 목표는 게임 플랫폼에서 긍정적인 사회적 교류를 촉진하는 데 도움이 될 수 있는 연구 프로젝트를 식별하는 것이었습니다. 제안서를 검토한 결과, 게임을 통한 교류 증진과 관련된 프로젝트를 추진할 수 있도록 6개 연구팀에 보조금을 지원하게 되었습니다. 연구 프로젝트가 진행됨에 따라 도출되는 내용을 확인하고, 해당 내용이 Roblox와 다른 회사의 향후 제품 설계에 도움이 될 수 있을지 살펴보고자 합니다. 수상 프로젝트에 대한 자세한 내용은 여기에서 확인할 수 있습니다. 

보고서: 긍정적인 사회적 교류를 위한 설계

당사는 웨스턴 시드니 대학교의 Young and Resilient Research Centre 및 PROJECT ROCKIT과 협력하여 최근 관계 형성하기에 대한 보고서를 발표했습니다. 이 보고서는 기술 산업의 정책 입안자와 리더들이 어린이의 웰빙, 자율성, 건강한 사회적 교류를 위해 의도적이고 적극적으로 설계할 수 있는 프레임워크를 제공합니다. 이러한 증거 기반 권장 사항에는 기술 혁신과 규제 표준이 포함되어 있어 업계가 협력하여 청소년들이 안전하고 연결된 환경에서 성장할 수 있는 디지털 환경을 조성하는 데 도움을 줍니다.  

이 보고서의 권장 사항은 Roblox가 수년에 걸쳐 해온 투자를 강화하며, 이 중 상당수는 안전 설계에 대한 당사의 생각과 일치합니다. 여기에는 다음 내용이 포함됩니다.

• 다층 안전 시스템: 수년에 걸쳐 Roblox는 혁신과 사용자 안전의 균형을 맞추기 위해 중복성과 지속적인 개선이 내장된 다층 안전 시스템을 설계했습니다. 

• 전문가와의 협력: 정교한 안전 기술과 실제 협업을 결합하여 부모, 안전 전문가, 정부 기관 등 모든 사람과 협력하여 커뮤니티를 높은 시민의식을 갖춘, 안전한 공간으로 유지합니다. 

• 청소년 및 보호자 협의회: 이 협의회는 청소년과 보호자 모두를 참여시켜 당사의 정책 및 기능에 대해 상의하고, 어린 사용자와 공유하는 콘텐츠가 관련성 있고 존중받는다고 느낄 수 있도록 언어에 대한 통찰력을 제공합니다.

• 실시간 음성 검열: 이 시스템은 사용자가 정책을 위반했을 때 알림을 보내고, 정책에 대해 교육하며, 후속 위반에 대한 채팅 제한을 구현합니다. 

• 사전 아바타 검열: 위에서 언급한 바와 같이, 이 새로운 시스템에는 아바타를 게시할 수 없는 이유와 아바타 또는 업데이트가 위반하는 정책에 대해 사용자에게 교육하는 데 도움이 되는 정보도 포함됩니다.

웨스턴 시드니 대학교의 Young and Resilient Research Centre의 아만다 서드(Amanda Third) 교수는 "Roblox와의 협력은 젊은이들의 웰빙을 우선시하는 디지털 환경을 만들기 위해 증거에 기반한 디자인의 중요성을 강조합니다."라고 말합니다. "이 중요한 연구는 연구원, 젊은이, 업계를 한데 모아 우리의 이해를 심화시키고 교류와 공감, 포용, 긍정적인 사회적 참여를 육성하는 공간을 설계하는 것의 가치를 강조합니다. 어린이의 권리를 옹호하고 청소년의 목소리를 그 과정의 중심에 두고 사회 친화적인 행동을 의미 있게 지원하는 온라인 환경을 구축하려면 부문 간 협력이 필수적입니다."

이 모든 작업은 온라인 상에서의 괴롭힘을 방지하고 건강하고 긍정적인 사회적 교류를 촉진하기 위한 PROJECT ROCKIT을 비롯한 청소년 단체와의 지속적인 교류 및 협력의 일환입니다.