재미, 게임 플레이, 디지털 시민의식을 위한 채팅 재구상

• 팀이나 커뮤니티가 함께 플레이하는 게임에서는 자연스럽고 원활한 채팅이 매우 중요합니다.

• 부적절한 언어가 차단되면서 #####로 표시되는 문자열은 채팅의 흐름을 방해하고 내용을 이해하기 어렵게 만들며 게임 플레이의 흐름을 끊을 수 있습니다.

• 채팅이 자연스럽게 이어지고 서로 존중하는 환경을 유지할 수 있도록, Roblox는 채팅 필터를 강화하고 비속어를 가이드라인에 맞는 표현으로 순화하는 기능을 도입합니다.

• 이는 ##### 표시를 줄여 보다 자연스러운 방식으로 채팅을 즐기기 위한 장기적인 여정의 첫걸음입니다. Roblox는 사용자의 안전하고 건전한 채팅을 지원하기 위해 추가 제어 기능을 포함한 도구를 계속 학습하고 개선하며 발전시켜 나갈 것입니다.

매일 수백만 명의 사람들이 Roblox에서 서로 연결되어 플레이하는 만큼, 실시간 소통은 사용자 표현과 게임 플레이 조율에 중요한 역할을 합니다. 문제가 되는 텍스트(사용자에게 #####로 표시됨)를 차단하기 위해 AI 필터를 사용하는 것은 안전과 디지털 시민의식 증진을 위한 Roblox의 접근 방식에서 언제나 핵심 역할을 담당했습니다. 이 해시 기호는 실시간으로 생성되며, 사용자가 입력한 내용 중 허용되지 않는 부분이 있을 때 이를 알 수 있도록 도와줍니다. 물론 사용자가 규칙을 반복적으로 위반하면, 단어가 ###로 표시되는 것 이상의 조치가 취해집니다.

2025년 5월에는 사용자가 Roblox 정책을 이해하는 데 도움을 주기 위해 선제적 실시간 경고 기능을 도입했습니다. 이제 텍스트 및 음성 채팅 모두에 이 기능이 적용됩니다. 이 알림은 사용자가 규칙을 위반했을 때 이를 알려주고, 다음에는 사용하는 언어를 다시 생각해 보도록 유도하며, 더 책임감 있는 디지털 시민이 되도록 도와줍니다. 지난해 진행한 실험에서 체험 내 텍스트 채팅 알림과 타임아웃을 적용한 결과, 필터링된 채팅 메시지는 5% 감소했고 신고에 따른 조치도 6% 감소한 것으로 나타났습니다.

오늘 Roblox는 체험 내 텍스트 채팅을 건전하게 유지하기 위한 추가 기능을 도입합니다. 비속어를 시작으로, AI를 활용하여 메시지를 자동으로 다시 작성하게 됩니다. 이러한 시스템이 확장되면서 디지털 시민의식을 향한 선순환 구조가 형성되어, 실시간 피드백을 통해 사용자가 Roblox 커뮤니티 규정을 배우고 따르도록 도와줍니다. 메시지를 보낸 사용자뿐 아니라 모든 사용자가 Roblox에서 허용되는 표현을 확인할 수 있습니다(발신자는 허용되지 않는 표현도 확인 가능). 이 기능은 규칙을 잘 모를 수 있는 사용자에게 더 많은 피드백을 제공합니다. 또한 기존의 필터링 및 실시간 경고 기능을 기반으로 하여, Roblox 내에서 더욱 안전하고 건전하며 즐거운 대화가 이루어질 수 있도록 도와줍니다.

실시간 채팅 표현 방식 변경: 금지에서 권장으로

많은 사용자에게 #####로 표시된 문자열은 대화가 막히는 지점이 되며, 커뮤니티 규정을 따르기 위해 표현을 어떻게 바꿔야 하는지에 대한 안내도 제공하지 못합니다. 이는 종종 혼란을 초래하고 게임 내에서 팀이 협력하기 어렵게 만들 수 있습니다. 누군가 친구에게 뒤에 괴물이 있다고 알리려고 하면서 다음과 같은 문장을 입력하는 상황을 상상해 보세요. "조심해! 거기 빌어먹을 괴물이 있어! 으아악!" 이 상황에서 채팅에 "#########"만 표시된다면 별로 도움이 되지 않죠. 

오늘부터 필터링된 텍스트는 Roblox 사용자에게 더 정중하고 자연스럽게 느껴지는 표현으로 변환됩니다. 출시 시점에는 이 실시간 대체 표현 기능이 비속어에 중점적으로 적용됩니다. 예를 들어, "존나 서둘러!" 같은 표현은 "서둘러!"로 바뀔 수 있으며, 이는 #####보다 원래 의도에 훨씬 더 가깝습니다. 분명히 하자면, 비속어 정책을 위반한 메시지를 Roblox에서 대체 표현으로 바꾸어 표시하더라도 이는 여전히 위반에 해당하며 동일한 규칙이 적용됩니다. 즉, 채팅에서 계속 비속어 사용을 시도하는 사용자는 정책을 반복적으로 위반한 것에 대해 동일한 조치를 받게 됩니다. 

이 시스템을 정지 표지판이 아니라 운전대라고 생각해 보세요. 메시지가 정책을 위반하면, 건전한 대화를 위해 해당 텍스트에 대체 표현이 사용되었다는 알림이 채팅에 있는 모든 사용자에게 표시됩니다. 제한된 표현을 사용자가 일상적인 채팅에서 실제로 사용하는 표현에 맞게 바꿔, 자연스러운 분위기나 흐름을 잃지 않으면서도 채팅이 서로 존중하는 방식으로 이루어지도록 돕습니다. 이러한 정지 표지판을 실시간 안내로 대체함으로써, 일부 마찰을 줄이되 비속어 금지 규칙은 계속 강화할 수 있습니다.

텍스트가 차단되었을 때 대체 문구를 표시하고 사용자에게 더 많은 상황 설명을 제공하는 기능은 아직 초기 단계에 있습니다. 다른 AI 번역 도구와 마찬가지로, 시간이 지나면서 사용자가 의도한 어조와 맥락을 점차 더 정확하게 보존하고 미묘한 뉘앙스 차이까지 반영하게 될 것입니다. Roblox는 안전하고 매너 있는 커뮤니케이션 방식 구축을 최우선으로 생각하여, 사용자가 당사의 규정을 익히는 과정에서 사용자에게 정보를 제공하고, 교육하고, 안내하는 것에 계속해서 중점을 두고 있습니다.

채팅에 미치는 지장을 일부 줄이기 위해 대체 문구를 표시하지만, 더 심각한 행동에는 여전히 다층적 안전 시스템이 적용됩니다. 대체 문구 표시 기능은 체험 내 채팅에서만 사용할 수 있으며, 연령 인증이 완료된 비슷한 연령 그룹의 사용자 및 신뢰할 수 있는 인맥 사이에서만 사용이 가능합니다. 현재 자동 번역 도구를 사용할 수 있는 모든 언어에 대체 문구 표시 기능이 지원됩니다. Roblox의 목표는 정확도를 높여 ### 기호의 사용 빈도를 점차 줄이고, 결국에는 완전히 사용하지 않는 수준에 도달해 디지털 커뮤니케이션을 실제 대화처럼 자연스럽고 명확하게 만드는 것입니다.

본 기능을 개발하면서 청소년 위원회 위원들의 자문을 구해 청소년들의 실제 채팅 방식을 반영하는 시스템을 구축했습니다. 청소년 위원인 소피아는 "실시간으로 대체 표현을 표시할 수 있게 된다면 대화의 흐름을 유지하면서도 모두가 안전할 수 있을 것입니다. 대화를 부드럽게 다시 정상 궤도로 데려오고, 사람들이 환영받는다고 느끼도록 도와줄 겁니다."라는 의견을 제시했습니다. 

청소년 위원인 조딘도 이에 동의했습니다. "이러한 변화로 인해 플레이어들은 의사소통 방식을 고려하게 되고, 친근한 관계가 형성되어 상호 작용이 강화됩니다."라고 조딘이 말했습니다. "대체 표현으로 바꿔 표시하면, 플레이어 요청과 필수적인 안전 규정 사이의 중간 지점을 찾을 수 있습니다."

개선된 텍스트 필터: 패턴에서 문맥으로의 진화

당사의 안전 기능은 사용자가 Roblox에서 채팅하는 방식을 충실히 반영하도록 지속적으로 발전하고 있습니다. 당사의 텍스트 필터는 커뮤니티 규정에 위배되는 모든 것을 탐지하고 차단하도록 훈련되었습니다. 이 과정은 사용자가 채팅하는 동안 실시간으로 전 세계에서 이루어져야 합니다.

당초 이 시스템은 두 가지 구성 요소를 가지고 있었습니다. 1) 실제 사건이 발생했을 때 몇 분 이내에 규칙을 위반하는 콘텐츠를 탐지하고 차단하도록 설계된 규칙 기반 시스템. 2) 진화하는 언어 유형을 포함하도록 지속적으로 업데이트되는 시뮬레이션된 샘플 및 실제 샘플 세트를 기반으로 더 큰 모델에서 훈련된 전문 모델 세트.

이러한 특수 모델은 허용되지 않는 단어 목록을 찾는 것과 같은 특정한 작업에는 매우 유용하지만, 추론 능력이 좋지 않아 진화하는 용어를 알아내는 데는 적합하지 않습니다. 초대형 모델은 실시간으로 작동하지 않으며, 환각(또는 잘못된 분류)으로 인해 종종 오탐지 빈도가 증가합니다.

이번 업데이트에서는 텍스트 필터 시스템에 세 번째 구성 요소를 새로 도입했습니다. 이제 특수 모델이 규칙 위반 여부를 확신할 수 없는 경우, 추론과 맥락 평가에 더 뛰어난 대규모 모델로 전달합니다. 대규모 모델은 더 복잡한 결정을 내릴 수 있습니다.

실험 결과, 이와 같은 결합된 접근 방식이 당사의 필터를 크게 개선한 것으로 나타났습니다. 이제 필터는 리트스피크(leet-speak)를 비롯한 숫자나 기호로 대체된 문자와 필터를 우회하려는 보다 정교한 시도를 더 잘 감지할 수 있습니다. 완벽한 시스템은 없지만, 이번 최신 기술을 통해 SNS 아이디나 전화번호와 같은 개인정보의 공유 또는 요청을 탐지하지 못하는 오류를 20배나 줄일 수 있게 되어 기쁘게 생각합니다.

대담하고 새로운 방식이기에, 항상 완벽하게 대체 문구를 표시할 수는 없을 것입니다. 하지만 앞으로도 지속적인 학습과 실험을 거듭하여 채팅창에 표시되는 ##### 기호의 사용 빈도를 줄여 나갈 것이며, 장기적으로는 완전히 없앨 계획입니다. Roblox의 궁극적인 목표는 사용자가 재미있으면서도 서로를 존중하는 방식으로 공동 작업하고 교류할 수 있도록 하는 것입니다.