안전 현황: 1월

이번 달 '안전 스냅샷'에서는 지난 몇 주간 시행한 안전 및 예의 준수 관련 이니셔티브를 소개합니다. 여기에는 아바타를 선제적으로 모니터링하고 사용자에게 정책을 교육하는 새로운 기술이 포함됩니다. 또한 제3자 기관과 협력하여 새로운 예의 준수 보고서를 제작 및 출시했습니다. 

사전 아바타 관리 기능 발표 

2025년, 로블록스 사용자들은 하루 평균 2억 7,400만 번 아바타를 업데이트하며, 의상과 헤어스타일을 변경하고 반려동물, 모자 및 기타 액세서리를 추가했습니다. 많은 사용자가 아바타의 외모를 세심하게 꾸미는 데 시간을 할애하는데, 이는 플랫폼에서 자신을 표현하는 수단이기 때문입니다. 사용자의 안전을 지키기 위해, 저희는 아바타 마켓플레이스에 업로드되는 모든 콘텐츠를 선제적으로 스캔하여 커뮤니티 가이드라인을 위반하는 것으로 판단되는 항목을 차단하고 있습니다. 하지만 때로는 무해한 아이템들을 조합하여 정책을 위반하는 의상을 만드는 경우가 있습니다. 예를 들어, 검은색 정장, 팔찌, 콧수염은 각각 단독으로 사용할 때는 문제가 없지만, 이를 조합하면 아돌프 히틀러를 닮은 아바타를 만들 수 있으며, 이는 저희 정책을 위반하는 것입니다.

게임 산업 연구를 더욱 발전시키기 위해, 로블록스는 온라인 플랫폼에서 긍정적인 행동을 조성하고 장려하는 혁신적인 디자인 요소를 촉진하는 데 전념하는 단체인 프로소셜 디자인 네트워크(Prosocial Design Network)와 협력했습니다. 이번 협력의 목표는 게임 플랫폼에서 긍정적인 사회적 유대감을 증진하는 데 도움이 될 수 있는 연구 프로젝트를 발굴하는 것이었습니다. 제출된 제안서를 검토한 결과, 게임을 통한 유대감 형성과 관련된 프로젝트를 수행할 6개 연구팀에 연구 지원금이 수여되었음을 알려드립니다. 향후 이 연구 프로젝트들이 진행됨에 따라, 어떤 통찰이 도출될지, 그리고 이러한 결과들이 로블록스뿐만 아니라 다른 기업들의 향후 제품 설계에도 도움이 될 수 있을지 기대하고 있습니다. 선정된 프로젝트에 대한 자세한 내용은 여기에서 확인하실 수 있습니다. 

보고서: 긍정적인 사회적 유대감을 위한 디자인  

웨스턴 시드니 대학교(Western Sydney University)의 Young and Resilient Research Centre 및 PROJECT ROCKIT과 협력하여, 최근 'Building Connection' 보고서를 발간했습니다. 이 보고서는 정책 입안자와 기술 업계 리더들이 아동의 웰빙, 자율성, 건강한 사회적 유대감을 위해 의도적이고 선제적으로 설계할 수 있는 프레임워크를 제공합니다. 이러한 증거 기반 권고 사항에는 기술 혁신과 규제 기준이 포함되어 있어, 업계가 협력하여 청소년들이 안전하고 연결된 환경에서 성장할 수 있도록 지원하는 디지털 환경을 조성하는 데 도움이 될 것입니다.  

이 보고서의 권고 사항은 로블록스가 수년간 해온 투자를 뒷받침하며, 그 중 다수는 안전을 위한 설계에 대한 우리의 사고방식과 일치합니다. 여기에는 다음이 포함됩니다:  

• 다층적 안전 시스템: 지난 수년간 우리는 혁신과 사용자 안전의 균형을 맞추기 위해 중복 안전 장치와 지속적인 개선이 내장된 다층적 안전 시스템을 설계해 왔습니다. 
• 전문가와의 협력: 우리는 정교한 안전 기술과 현실 세계의 협력을 결합하여, 부모, 안전 전문가, 정부 기관 등 모든 이해관계자와 협력함으로써 커뮤니티가 안전하고 건전하게 유지되도록 노력하고 있습니다. 
• 청소년 및 학부모 위원회: 이 위원회는 청소년과 학부모를 모두 참여시켜 일부 정책 및 기능에 대해 자문을 구하고, 언어 사용에 대한 통찰력을 제공함으로써 어린 사용자와 공유하는 콘텐츠가 관련성이 높고 존중받는 느낌을 줄 수 있도록 합니다.
• 실시간 음성 모니터링: 이 시스템은 사용자가 정책을 위반했을 때 알림을 보내 정책을 안내하고, 반복 위반 시 채팅 이용 제한 조치를 적용합니다. 
• 사전 예방적 아바타 관리: 앞서 언급한 바와 같이, 이 새로운 시스템은 사용자의 아바타가 게시될 수 없는 이유와 해당 아바타 또는 업데이트가 어떤 정책을 위반했는지에 대한 정보를 제공하여 사용자를 교육하는 기능도 포함합니다.

웨스턴 시드니 대학교(Western Sydney University)의 '젊음과 회복탄력성 연구 센터(Young and Resilient Research Centre)' 소속 아만다 서드(Amanda Third) 교수는 “로블록스(Roblox)와의 협력은 청소년의 웰빙을 최우선으로 하는 디지털 환경을 조성하기 위해 증거 기반 설계가 얼마나 중요한지를 강조합니다”라고 말했습니다. “이 중요한 연구는 연구자, 청소년, 산업계가 함께 모여 이해를 심화하고, 유대감, 공감, 포용, 긍정적인 사회적 참여를 키우는 공간을 설계하는 것의 가치를 강조합니다. 아동의 권리를 수호하고 친사회적 행동을 실질적으로 지원하는 온라인 환경을 구축하려면, 그 과정의 중심에 청소년의 목소리를 두고 부문 간 협력이 필수적입니다.”

이 모든 활동은 PROJECT ROCKIT을 비롯한 청소년 단체들과의 지속적인 협력 및 교류 활동의 일환으로, 온라인 괴롭힘을 예방하고 온라인상에서 건강하고 긍정적인 사회적 유대감을 증진하기 위한 그들의 노력을 지원하기 위한 것입니다.