Tổng quan về an toàn: Tháng 3

Trong Bản tin An toàn tháng 3, chúng tôi chia sẻ cách chúng tôi kiểm duyệt nội dung thông qua các hệ thống tự động được thiết kế để phát hiện và gỡ bỏ nội dung có vấn đề — thường là trước khi người dùng nhìn thấy. Chúng tôi cũng chia sẻ một bảng điều khiển mới giúp các nhà sáng tạo phát hiện và xử lý hành vi xấu của người dùng trong trò chơi của họ, cùng với một chương trình mới để đào tạo các quản lý cộng đồng trong toàn ngành. Xem Bản tin An toàn tháng trước để biết thêm về các công cụ báo cáo của người dùng. 

Kiểm duyệt hành vi người dùng liên tục 

Một phần sức hút của Roblox chính là nội dung không ngừng mở rộng và thay đổi do các nhà sáng tạo của chúng tôi tạo ra. Tại bất kỳ thời điểm nào, các nhà sáng tạo cũng đang cập nhật trò chơi, thêm huy hiệu hoặc thú cưng mới, và người dùng đang thay đổi trang phục cho avatar của mình hoặc vẽ và xây dựng các vật phẩm trong thời gian thực. Chúng tôi kiểm tra tất cả những nội dung này trước khi chúng được đăng tải lên nền tảng và gỡ bỏ bất kỳ nội dung nào vi phạm các nguyên tắc của chúng tôi. 

Các lớp công cụ kiểm duyệt đa tầng giúp phát hiện phần lớn nội dung có vấn đề trên Roblox, và chúng tôi từ chối bất kỳ nội dung nào vi phạm Tiêu chuẩn Cộng đồng. Tuy nhiên, chúng tôi không hoàn hảo, vì vậy chúng tôi tận dụng báo cáo của người dùng để giúp phát hiện những nội dung có thể đã bị bỏ sót và xử lý phù hợp.

Bản chất năng động của các trò chơi Roblox có nghĩa là nội dung liên tục thay đổi dựa trên cách người dùng kết hợp các avatar, trang phục và động tác đã được phê duyệt trước đó. Ví dụ: trong các trò chơi cho phép vẽ tự do, người dùng có thể vẽ một biểu tượng hoặc vật phẩm gây khó chịu. Đó là lý do tại sao gần đây chúng tôi đã ra mắt một hệ thống AI mới để kiểm duyệt đa phương thức theo thời gian thực, có thể quét các kết hợp này cùng nhau. 

Các hệ thống kiểm duyệt AI truyền thống được thiết kế để đánh giá từng đối tượng một và thường thiếu bối cảnh, bỏ sót các kết hợp có thể gây ra vấn đề mà các mục riêng lẻ thì không. Hệ thống kiểm duyệt đa phương thức thời gian thực mới của chúng tôi đánh giá toàn bộ cảnh, bao gồm hình đại diện, văn bản và các đối tượng 3D. Hệ thống này ghi lại tất cả các yếu tố này cùng nhau tại một thời điểm cụ thể và đánh giá xem toàn bộ cảnh có vi phạm quy tắc của chúng tôi hay không. Nếu loại hành vi gây vấn đề này lặp đi lặp lại trong một phiên trò chơi duy nhất, hệ thống sẽ chỉ tắt phiên đó (còn gọi là máy chủ) thay vì toàn bộ trò chơi. 

Kể từ khi triển khai hệ thống đa phương thức này, chúng tôi đã ngắt kết nối khoảng 5.000 phiên mỗi ngày vi phạm Tiêu chuẩn Cộng đồng của chúng tôi. Khi đào tạo và mở rộng quy mô, chúng tôi liên tục cải thiện độ chính xác và hợp tác với cộng đồng để giảm thiểu các trường hợp báo động sai. Chúng tôi đang nỗ lực mở rộng hệ thống đa phương thức này để nắm bắt và giám sát 100% thời gian chơi. Tuy nhiên, sẽ luôn có những cá nhân tìm cách lách luật bất kỳ hệ thống nào, vì vậy chúng tôi đang tích cực phát triển công nghệ vượt xa việc chỉ đóng máy chủ. Chúng tôi đang nghiên cứu các phương pháp để xác định những đối tượng xấu cụ thể, từ đó loại bỏ họ mà không làm gián đoạn trải nghiệm của những người chơi có thiện chí.

Cung cấp cho các nhà sáng tạo thông tin về việc tắt máy chủ

Chúng tôi đang cung cấp cho các nhà sáng tạo sự minh bạch cao hơn về kết quả của hệ thống kiểm duyệt đa phương thức này bằng cách bổ sung vào bảng điều khiển tổng quan về an toàn. Như đã đề cập ở trên, chúng tôi tắt máy chủ trò chơi khi chúng bị chi phối bởi hành vi xấu của người dùng. Để giúp các nhà sáng tạo có cái nhìn rõ hơn về tần suất xảy ra tình trạng này trong trò chơi của họ, chúng tôi đã thêm một biểu đồ mới vào Bảng điều khiển nhà sáng tạo hiện có của họ. 

Người sáng tạo giờ đây có thể xem có bao nhiêu máy chủ trò chơi của họ đã bị đóng cửa do hành vi xấu của người dùng (ví dụ: vi phạm các chính sách về quấy rối và phân biệt đối xử hoặc nội dung lãng mạn và tình dục). Điều này giúp họ xác định được sự gia tăng đột ngột để có thể hành động trước khi việc đóng cửa ảnh hưởng đến cộng đồng rộng lớn hơn. Sau đó, họ có thể xem xét kỹ hơn trò chơi của mình và quyết định liệu có cần thay đổi các biểu tượng cảm xúc tùy chỉnh, công cụ chỉnh sửa hình đại diện hoặc các tính năng tạo nội dung trong trò chơi để giúp ngăn chặn những sáng tạo gây vấn đề hay không. 

Đào tạo điều phối viên kỹ thuật số 

Roblox, Keyword Studios và Riot Games đang hợp tác với nhà tâm lý học nghiên cứu và Giám đốc Nghiên cứu của Games for Change, Rachel Kowert, trong một chương trình chứng nhận mới dành cho các nhà lãnh đạo cộng đồng kỹ thuật số. Roblox sẽ đóng góp chuyên môn về điều phối cộng đồng và thiết kế hướng tới hành vi tích cực để thử nghiệm và giúp định hình chương trình giảng dạy cho Chương trình Lãnh đạo DLC mới. Mục tiêu của sáng kiến này là giải quyết tình trạng thiếu đào tạo tiêu chuẩn cho các điều phối viên trực tuyến, quản lý cộng đồng và nhà sáng tạo trong lĩnh vực game. Trong một bài viết gần đây, Kowert cho biết chương trình nhằm “chuyển đổi nghiên cứu về cộng đồng game và hành vi trực tuyến thành các công cụ thực tiễn mà các nhà lãnh đạo kỹ thuật số có thể sử dụng để xây dựng các cộng đồng trực tuyến bền vững và có khả năng phục hồi hơn.”

Bằng việc tham gia nỗ lực này, chúng tôi sẽ góp phần dẫn dắt ngành công nghiệp, phát triển chương trình chứng nhận tiêu chuẩn đầu tiên của loại hình này, được thiết kế để mang lại lợi ích cho cộng đồng người sáng tạo Roblox và ngành game nói chung. Khi hoàn thành, chương trình sẽ giúp người sáng tạo học được những kỹ năng quan trọng cần thiết để điều phối và quản lý hiệu quả các cộng đồng đang phát triển của họ. Chúng tôi tin rằng việc đào tạo thêm các điều phối viên và người sáng tạo về các phương pháp tốt nhất để xây dựng các cộng đồng trực tuyến lành mạnh và tôn trọng lẫn nhau sẽ giúp duy trì môi trường game trực tuyến tích cực hơn cho tất cả mọi người.