안전 현황: 11월

11월 안전 보고서를 통해 지난 한 달간 안전 분야 혁신을 지속하기 위해 이룬 성과를 소개합니다.

업계 전반의 문제를 해결하기 위한 PII 탐지 기술: 당사는 Roblox PII 분류기(PII Classifier)의 일부 버전을 오픈소스로 공개했습니다. 이를 통해 개인 식별 정보(PII) 공유와 관련된 당사의 엄격한 정책 위반 시도를 탐지하고 차단하는 능력이 크게 향상되었습니다. 도입 이후 영어 대화에서 PII 탐지율은 98%로 상승하여 다른 주요 오픈소스 모델들을 능가하는 성과를 거두었습니다.  

제품 개선을 통한 사용자 투명성 강화: 당사는 플랫폼을 연중무휴 24시간 모니터링하는 한편, 사용자가 악용 사례를 신고할 수 있는 도구를 제공하고 문제 있는 내용을 신고하도록 장려하고 있습니다. 저희는 이러한 신고에 대한 대응 방식을 지속적으로 개선하고 있습니다. 사용자들이 Roblox에 무언가를 신고했을 때 어떤 조치가 취해지는지에 대해 더 많은 정보를 원한다는 점을 인지하여, 대응 대상 범주를 확대했습니다. 이제 모든 신고 유형에 대해, 신고에 대한 조치가 완료되면 사용자에게 그 사실을 알리고 있습니다. 그 결과, 사용자가 제출한 신고에 대한 피드백 제공 건수가 250% 증가했습니다.

제품 개선을 통한 개발자 지원: 개발자가 자신의 게임에서 접수된 악용 신고(예: 욕설)에 대한 통찰력을 얻을 수 있도록 새로운 대시보드를 출시했습니다. 이를 통해 개발자는 기능 롤백, 관리 강화, 사용자 교육 확대 등 게임 환경을 건전하게 유지하기 위한 조치를 취할 수 있습니다.

정책 입안자, 학부모, 디자인 파트너와의 협력을 통한 안전 강화: 당사는 주요 이해관계자와의 협력 방안을 지속적으로 모색하고 있으며, 다음과 같은 네 가지 중요한 소식을 전해드립니다: 

1. 온라인 안전과 사용자 경험을 향상시키기 위한 핵심 이니셔티브인 첫 번째 학부모 위원회를 확대하여, 라틴 아메리카 및 아시아 태평양 지역의 학부모와 보호자들도 참여할 수 있도록 했습니다. 지원은 여기에서 가능합니다. 미국, 캐나다, 멕시코, 유럽 출신의 약 200명에 달하는 다양한 학부모 및 보호자 그룹이 이미 지원하여 플랫폼 기능, 정책, 리소스에 대한 자문을 제공하고 있습니다. 

2. 우리는 이번 달 영국, 웨일스, 북아일랜드에서 열리는 '반(反) 괴롭힘 주간(Anti-Bullying Week)'을 위해 자원을 지원했습니다. 올해 캠페인의 주제인 'Power for Good'은 어린이와 청소년들이 목소리를 내고, 또래를 지지하며, 더 친절한 세상을 만들어가도록 장려합니다. 이 캠페인은 750만 명 이상의 학생이 참여할 것으로 예상됩니다.

3. 로블록스는 청소년 온라인 안전 파트너십(Partnership for Youth Online Safety)을 설립하기 위해 법무장관 연합(Attorney General Alliance)과 협력한다고 발표했습니다. 이 다분야 이니셔티브는 법무장관, 법 집행 기관 및 기술 리더들을 한데 모아 새로운 보호 도구를 개발함으로써, 다양한 플랫폼 전반에 걸쳐 악의적인 행위자들을 추적하고 차단하는 우리의 역량을 강화합니다.

4. 청소년 안전에 대한 지속적인 노력의 일환으로, 로블록스는 사상 최초의 'Inspired Internet Pledge Amplify Youth Summit: Unmuted 2025' 행사를 후원했습니다. 이번 후원을 통해 행사 비용을 지원하고 참가자들의 여행 경비를 지원했습니다. 이번 서밋은 고등학생과 대학생들의 역량을 강화하는 데 중점을 두었으며, 디지털 공간에서의 정신 건강과 예의에 대한 그들의 관점을 공유하는 자리를 마련했습니다. 로블록스 직원들은 워크숍을 진행하고 주요 결론을 도출하는 데 협력함으로써, 진정한 플랫폼 안전은 매일 플랫폼을 사용하는 사람들의 목소리에 귀를 기울여야 한다는 우리의 신념을 다시 한번 확고히 했습니다.