Ringkasan Keselamatan: Maret
Moderasi Seluruh Halaman, Dasbor Pembuat Konten Baru, dan Pelatihan untuk Manajer Komunitas
Dalam Safety Snapshot bulan Maret ini, kami berbagi cara kami memoderasi konten melalui sistem otomatis yang dirancang untuk mendeteksi dan menghapus konten bermasalah—seringkali sebelum pengguna melihatnya. Kami juga memperkenalkan dasbor baru yang memberdayakan kreator untuk mengidentifikasi dan menangani perilaku pengguna yang tidak pantas di game mereka sendiri, serta program baru untuk melatih manajer komunitas di seluruh industri. Lihat Safety Snapshot bulan lalu untuk informasi lebih lanjut tentang alat pelaporan pengguna.
Memoderasi Perilaku Pengguna Secara Berkelanjutan
Salah satu keunikan Roblox adalah konten yang terus berkembang dan berubah yang dihasilkan oleh para kreator kami. Setiap saat, kreator mempublikasikan pembaruan game dan menambahkan lencana atau hewan peliharaan baru, sementara pengguna mengubah pakaian avatar mereka atau melukis dan membangun sesuatu secara real-time. Kami meninjau semua ini sebelum dipublikasikan ke platform dan menghapus apa pun yang melanggar pedoman kami.
Berbagai lapisan alat moderasi menangkap sebagian besar konten bermasalah di Roblox, dan kami menolak apa pun yang melanggar Standar Komunitas kami. Namun, kami tidak sempurna, jadi kami memanfaatkan laporan pengguna untuk membantu menemukan hal-hal yang mungkin terlewatkan dan mengambil tindakan yang sesuai.
Sifat dinamis dari game Roblox berarti konten terus berubah berdasarkan cara pengguna menggabungkan avatar, pakaian, dan gerakan yang telah disetujui sebelumnya. Misalnya, dalam game yang memungkinkan menggambar bebas, seorang pengguna dapat menggambar simbol atau item yang menyinggung. Itulah sebabnya kami baru-baru ini meluncurkan sistem AI baru untuk moderasi multimodal secara real-time yang dapat memindai kombinasi-kombinasi ini secara bersamaan.
Sistem moderasi AI tradisional dirancang untuk mengevaluasi satu objek pada satu waktu dan sering kali kurang konteks, sehingga melewatkan kombinasi yang berpotensi menimbulkan masalah yang tidak terlihat pada objek-objek tersebut secara individual. Sistem moderasi multimodal real-time baru kami mengevaluasi seluruh adegan—termasuk avatar, teks, dan objek 3D. Sistem ini menangkap semua elemen tersebut secara bersamaan pada momen tertentu dan menilai apakah seluruh adegan tersebut melanggar aturan kami. Jika perilaku bermasalah semacam ini berulang kali terjadi dalam satu instance game, sistem akan mematikan instance tersebut (juga disebut server), bukan seluruh game.
Sejak meluncurkan sistem multimodal ini, kami telah mematikan sekitar 5.000 sesi per hari yang melanggar Standar Komunitas kami. Seiring dengan pelatihan dan skalabilitas, kami terus meningkatkan akurasi dan bekerja sama dengan komunitas untuk meminimalkan false positives. Kami sedang berupaya memperluas sistem multimodal ini untuk menangkap dan memantau 100% waktu bermain. Namun, akan selalu ada individu yang berusaha mengelabui sistem apa pun, sehingga kami secara aktif mengembangkan teknologi yang melampaui penutupan server. Kami sedang mengerjakan cara untuk mengidentifikasi pelaku jahat tertentu sehingga kami dapat menyingkirkan mereka tanpa mengganggu pengalaman pemain yang bermaksud baik.
Memberikan Wawasan kepada Kreator tentang Penutupan Server
Kami memberikan transparansi yang lebih besar kepada kreator mengenai hasil sistem moderasi multimodal ini melalui penambahan pada dasbor ikhtisar keamanan. Sebagaimana disebutkan di atas, kami mematikan server game ketika server tersebut dipenuhi oleh perilaku pengguna yang buruk. Untuk memberikan visibilitas yang lebih baik kepada kreator mengenai seberapa sering hal ini terjadi dalam game mereka, kami telah menambahkan bagan baru ke Dasbor Kreator yang sudah ada.
Pembuat konten kini dapat melihat berapa banyak server game mereka yang telah ditutup akibat perilaku pengguna yang tidak pantas (misalnya, melanggar kebijakan kami terkait pelecehan, diskriminasi, atau konten romantis dan seksual). Hal ini membantu mereka mengidentifikasi peningkatan mendadak sehingga mereka dapat bertindak sebelum penutupan tersebut berdampak pada komunitas mereka secara luas. Mereka kemudian dapat memeriksa game mereka lebih mendalam dan memutuskan apakah diperlukan perubahan pada emotikon kustom, alat pengeditan avatar, atau fitur pembuatan konten dalam game untuk membantu mencegah konten yang bermasalah.
Pelatihan Moderator Digital
Roblox, Keyword Studios, dan Riot Games bermitra dengan psikolog riset dan Direktur Riset Games for Change, Rachel Kowert, dalam program sertifikasi baru untuk pemimpin komunitas digital. Roblox akan berkontribusi dengan keahlian dalam moderasi komunitas dan desain prosocial untuk menguji coba dan membantu membentuk kurikulum Program Kepemimpinan DLC baru. Tujuan inisiatif ini adalah mengatasi kurangnya pelatihan standar bagi moderator online, manajer komunitas, dan pembuat konten di ruang game. Dalam artikel terbaru, Kowert mengatakan program ini bertujuan untuk “mengubah penelitian tentang komunitas game dan perilaku online menjadi alat praktis yang dapat digunakan pemimpin digital untuk membangun komunitas online yang lebih tangguh dan berkelanjutan.”
Dengan berpartisipasi dalam upaya ini, kami akan membantu memimpin industri ini, mengembangkan program sertifikasi terstandarisasi pertama di kelasnya yang dirancang untuk memberikan manfaat bagi komunitas kreator Roblox dan industri game secara luas. Setelah selesai, program ini akan membantu kreator mempelajari keterampilan kritis yang diperlukan untuk memoderasi dan mengelola komunitas mereka yang terus berkembang secara efektif. Kami percaya bahwa melatih lebih banyak moderator dan kreator mengenai praktik terbaik untuk komunitas online yang sehat dan saling menghormati akan membantu menjaga pengalaman bermain game online tetap positif bagi semua orang.
