아동 안전에 대한 우리의 접근 방식
Roblox에서의 어린이 안전
Roblox는 모든 사용자, 특히 어린이들에게 안전하고 긍정적인 환경을 제공하는 것을 목표로 합니다. 저희는 가장 어린 사용자들의 안전을 최우선으로 생각하며, 인터넷 안전이 부모님과 정책 입안자들에게 얼마나 중요한 문제인지 잘 알고 있습니다. 저희 플랫폼은 안전을 최우선으로 설계되었으며, 새롭게 대두되는 문제들에 대응하기 위해 지속적으로 개선해 나가고 있습니다.
아동 안전에 대한 우리의 접근 방식
- 사전 예방적 커뮤니케이션 모니터링: 안전한 환경을 조성하기 위해, 현재 Roblox에서는 텍스트 기반 대화를 모니터링하고 있습니다. 이러한 메시지는 암호화되지 않아, 저희가 커뮤니케이션을 효과적으로 모니터링할 수 있습니다. 저희는 자동화 도구를 사용하여 텍스트 채팅 내의 부적절한 콘텐츠를 다른 사용자가 보기 전에 검토하고 차단합니다. 음성 대화는 필터링되지 않습니다. 음성 통신은 필터링되지 않지만 모니터링되며, 필요한 경우 경고를 제공합니다. 또한, 저희는 착취적 콘텐츠를 선제적으로 식별 및 제거하고, 해당 콘텐츠의 유포 시도를 차단하며, 적법한 법 집행 기관의 요청에 협력하고, 전 세계적으로 아동 성 착취에 맞서 싸우는 단체들과 협력하는 데 주력하는 전담 팀을 운영하고 있습니다.
- 콘텐츠 제한: 로블록스(Roblox)의 모든 콘텐츠(이미지, 오디오, 동영상 등)는 인력 검토와 AI 기반 도구를 결합하여 적극적으로 관리합니다. 이를 통해 커뮤니티 가이드라인을 위반하는 콘텐츠를 탐지하고 방지함으로써 사용자에게 다층적인 보호 장치를 제공합니다. 또한 로블록스는 사용자가 채팅을 통해 이미지나 동영상을 전송하는 것을 허용하지 않습니다. 로블록스에서 모든 문제성 콘텐츠의 출현을 완전히 차단할 수는 없으므로, 부모님들께서는 자녀와 인터넷 안전에 대해 대화하고 자녀가 온라인에서 무엇을 하는지 이해해 주시기를 권장합니다. 저희는 커뮤니티 가이드라인을 위반하는 콘텐츠를 탐지하고 관리하기 위해 최선을 다하고 있습니다.
- 플랫폼 외부 위험으로부터의 보호: 저희는 누구든, 특히 어린이를 로블록스에서 다른 플랫폼으로 유인하려는 대화를 식별하기 위해 탐지 시스템을 지속적으로 개선하고 있습니다. 여기에는 위험한 행동 패턴을 파악하고, 개인 연락처 정보를 공유하려는 시도를 차단하거나 신고하는 것이 포함됩니다. 인터넷상의 안전 관행은 다양하며, 많은 플랫폼이 어린이를 고려하여 설계되지 않았다는 점을 인지하고 있습니다.
- 연령에 적합한 접근: 저희는 체험 내의 콘텐츠와 이를 통해 유발될 수 있는 행동을 신중하게 검토합니다. 10대에게 더 적합할 수 있는 체험의 경우, 9세 미만 사용자의 접근을 차단하기 위해 연령 제한 기능을 적용합니다. 또한 부모님이 자녀가 접할 수 있는 콘텐츠 유형을 이해하는 데 도움이 되는 콘텐츠 성숙도 가이드라인을 제공하며, 자녀에게 지나치게 성숙한 콘텐츠를 체계적으로 제한할 수 있는 도구도 함께 제공합니다.
- 정책: 로블록스의 정책은 사용자, 특히 어린이를 위험으로부터 보호하기 위해 마련되었습니다. 저희는 괴롭힘, 성희롱, 사기, 그리고 모든 형태의 포식적 또는 착취적 행위를 명시적으로 금지합니다. 여기에는 성적 대화, 그루밍, 아동 성 착취 자료의 공유 또는 요청이 포함됩니다. 이러한 위반 행위는 절대 용납되지 않으며, 위반 사실을 인지할 경우 커뮤니티 가이드라인에 따라 조치를 취합니다.
- 협력: 온라인 아동 안전 문제는 업계 전반의 과제입니다. Roblox는 다른 플랫폼, 학계 및 산업 컨소시엄, 법 집행 기관, 그리고 미국 실종 및 착취 아동 센터(NCMEC), 세이브 더 칠드런(Save the Children), 디지털 웰니스 랩(Digital Wellness Lab), 커넥트세이프리(ConnectSafely), 유엔 아동 폭력 문제 사무총장 특별대표실, 테크 코얼리션(Tech Coalition), 인터넷 워치 재단(Internet Watch Foundation), 가족 온라인 안전 연구소(FOSI)를 포함한 주요 기관들과 적극적으로 협력하고 있습니다. 이러한 파트너십을 통해 당사는 안전 조치와 신고 절차를 강화하고, 온라인 안전 기준을 개선하며, 연구 기반의 통찰력을 공유하고, 전 세계 청소년의 복지를 최우선으로 하는 정책을 지지하고 있습니다.