Ringkasan Keselamatan: Januari
Penelitian Moderasi Avatar Proaktif dan Kesopanan
Ringkasan Keamanan bulan ini menyoroti inisiatif keamanan dan kesopanan yang telah kami luncurkan dalam beberapa minggu terakhir, termasuk teknologi baru untuk memantau avatar secara proaktif dan mendidik pengguna mengenai kebijakan kami. Kami juga telah membuat dan meluncurkan laporan kesopanan baru bekerja sama dengan organisasi pihak ketiga.
Mengumumkan Moderasi Avatar Proaktif
Pada tahun 2025, pengguna Roblox memperbarui avatar mereka rata-rata 274 juta kali sehari, mengubah pakaian dan gaya rambut avatar mereka serta menambahkan hewan peliharaan, topi, dan aksesori lainnya. Banyak pengguna menghabiskan waktu untuk menyusun penampilan avatar mereka dengan cermat karena hal itu merupakan ekspresi diri mereka di platform. Untuk membantu menjaga keamanan pengguna, kami secara proaktif memindai semua yang diunggah ke Avatar Marketplace dan memblokir apa pun yang kami deteksi melanggar Standar Komunitas kami. Namun, pengguna terkadang menggabungkan item yang tidak berbahaya dengan cara yang menghasilkan penampilan yang melanggar kebijakan kami. Misalnya, setelan hitam, ban lengan, dan kumis semuanya sesuai dengan kebijakan kami jika digunakan sendiri, tetapi jika digabungkan, dapat digunakan untuk membuat avatar yang menyerupai Adolf Hitler, yang bertentangan dengan kebijakan kami.
Mendukung Penelitian tentang Kesopanan
Untuk lebih memajukan penelitian bagi industri game, Roblox berkolaborasi dengan Prosocial Design Network, sebuah organisasi yang didedikasikan untuk mempromosikan elemen desain inovatif yang menumbuhkan dan mendorong perilaku positif di platform online. Tujuan dari kolaborasi ini adalah untuk mengidentifikasi proyek penelitian yang dapat membantu mempromosikan hubungan sosial yang positif di platform game. Proposal telah ditinjau dan dengan senang hati kami mengumumkan bahwa enam tim penelitian telah mendapatkan hibah untuk menjalankan proyek yang berkaitan dengan pembinaan hubungan melalui game. Seiring berjalannya proyek penelitian ini, kami berharap dapat melihat apa yang dipelajari dan apakah hal ini dapat menjadi masukan bagi desain produk Roblox di masa depan serta perusahaan lain. Detail lebih lanjut mengenai proyek-proyek pemenang dapat dilihat di sini.
Laporan: Merancang untuk Hubungan Sosial yang Positif
Bekerja sama dengan Young and Resilient Research Centre di Western Sydney University dan PROJECT ROCKIT, kami baru-baru ini merilis laporan tentang Membangun Koneksi. Laporan ini menyediakan kerangka kerja bagi pembuat kebijakan dan pemimpin di industri teknologi untuk secara sengaja dan proaktif merancang demi kesejahteraan anak-anak, otonomi, dan koneksi sosial yang sehat. Rekomendasi berbasis bukti ini mencakup inovasi teknis dan standar regulasi untuk membantu industri bersatu menciptakan lingkungan digital yang memberdayakan generasi muda agar dapat berkembang di lingkungan yang aman dan terhubung.
Rekomendasi dalam laporan ini memperkuat investasi yang telah dilakukan Roblox selama bertahun-tahun dan banyak yang sejalan dengan cara kami memikirkan desain untuk keamanan, termasuk:
- Sistem keamanan berlapis: Selama bertahun-tahun, kami telah merancang sistem keamanan berlapis yang dilengkapi dengan redundansi bawaan dan perbaikan berkelanjutan untuk membantu menyeimbangkan inovasi dengan keamanan pengguna.
- Bekerja sama dengan para ahli: Kami memanfaatkan kombinasi teknologi keamanan canggih dan kolaborasi di dunia nyata, bekerja sama dengan semua pihak—orang tua, pakar keamanan, dan lembaga pemerintah—untuk menjaga komunitas kami tetap aman dan beradab.
- Dewan remaja dan orang tua: Dewan ini melibatkan remaja dan orang tua mereka untuk memberikan masukan mengenai beberapa kebijakan dan fitur kami serta memberikan wawasan mengenai bahasa yang digunakan untuk memastikan bahwa konten yang kami bagikan kepada pengguna yang lebih muda terasa relevan dan penuh rasa hormat.
- Moderasi suara secara real-time: Sistem ini memicu pemberitahuan untuk memberi tahu pengguna ketika mereka melanggar kebijakan, mengedukasi mereka tentang kebijakan kami, dan menerapkan waktu istirahat obrolan untuk pelanggaran berikutnya.
- Moderasi avatar proaktif: Sebagaimana disebutkan di atas, sistem baru ini juga akan menyertakan informasi untuk membantu mengedukasi pengguna mengenai alasan mengapa avatar mereka tidak dapat dipublikasikan dan kebijakan mana yang dilanggar oleh avatar atau pembaruan mereka.
“Kolaborasi kami dengan Roblox menekankan pentingnya desain yang didasarkan pada bukti untuk menciptakan lingkungan digital yang memprioritaskan kesejahteraan anak muda,” kata Profesor Amanda Third, dari Young and Resilient Research Centre di Western Sydney University. “Pekerjaan penting ini menyoroti nilai dari menggabungkan peneliti, anak muda, dan industri untuk memperdalam pemahaman kami dan merancang ruang yang menumbuhkan koneksi, empati, inklusi, dan keterlibatan sosial yang positif. Kolaborasi lintas sektor sangat penting jika kita ingin membangun lingkungan online yang menjunjung tinggi hak anak-anak dan secara berarti mendukung perilaku pro-sosial, dengan suara anak muda di pusat proses tersebut.”
Semua upaya ini merupakan bagian dari kegiatan penjangkauan dan kolaborasi berkelanjutan kami dengan organisasi pemuda, termasuk PROJECT ROCKIT, untuk mendukung upaya mereka dalam mencegah perundungan daring dan mempromosikan hubungan sosial yang sehat dan positif di dunia maya.
