Cuplikan Keamanan: Januari

Cuplikan Keamanan bulan ini menyoroti inisiatif keamanan dan kesopanan yang telah kami luncurkan selama beberapa minggu terakhir, termasuk teknologi baru untuk memantau avatar secara proaktif dan mengedukasi pengguna tentang kebijakan kami. Kami juga telah membuat dan meluncurkan laporan kesopanan baru dalam kemitraan dengan organisasi pihak ketiga. 

Mengumumkan Moderasi Avatar Proaktif 

Pada tahun 2025, pengguna Roblox memperbarui avatar mereka rata-rata 274 juta kali sehari, mengubah pakaian dan model rambut avatar mereka serta menambahkan hewan peliharaan, topi, dan aksesori lainnya. Banyak pengguna menghabiskan waktu untuk mengkurasi tampilan avatar mereka dengan cermat karena itu merupakan ekspresi diri mereka di platform ini. Untuk membantu menjaga keamanan semua pengguna, kami secara proaktif men-scan semua yang di-upload ke Marketplace Avatar dan memblokir apa pun yang terdeteksi melanggar Standar Komunitas kami. Namun, pengguna terkadang menggabungkan item yang tidak berbahaya dengan cara yang membuat pakaian yang melanggar kebijakan kami. Misalnya, jas hitam, ban lengan, dan kumis semuanya sesuai ketentuan jika berdiri sendiri, tetapi jika digabungkan, item-item tersebut bisa digunakan untuk membuat avatar yang menyerupai Adolf Hitler, yang bertentangan dengan kebijakan kami.

Kami sebelumnya telah mengidentifikasi avatar bermasalah melalui laporan pengguna. Mulai bulan ini, kami akan secara otomatis men-scan avatar untuk mendeteksi pelanggaran setiap kali avatar diubah, sering kali sebelum pengguna lain melihatnya. Scan ini mengevaluasi avatar secara keseluruhan, dengan semua item yang dikenakan, untuk mendeteksi apakah ada yang melanggar standar kami. Jika sistem mendeteksi sesuatu yang tidak pantas, avatar pengguna akan direset ke avatar default (dengan semua item avatar dilepas). Pengguna akan mendapatkan sebuah notifikasi bahwa avatarnya telah direset dan kebijakan mana yang dilanggar, untuk membantunya mempelajari dan mematuhi pedoman platform kami di masa mendatang. Meskipun tidak ada sistem yang sempurna, notifikasi ini memberi pengguna cara untuk menandai jika mereka merasa bahwa sistem telah melakukan kesalahan serta membantu kami meningkatkan akurasi moderasi. 

Untuk lebih memajukan penelitian bagi industri game, Roblox berkolaborasi dengan Prosocial Design Network, sebuah organisasi yang didedikasikan untuk mempromosikan elemen desain inovatif yang menumbuhkan dan mendorong perilaku positif di platform online. Tujuan dari kolaborasi ini adalah untuk mengidentifikasi proyek penelitian yang dapat membantu mendorong terciptanya koneksi sosial yang positif di platform game. Proposal telah di-review, dan dengan senang hati kami mengumumkan bahwa 6 tim riset telah diberikan hibah untuk mengerjakan proyek-proyek yang mendorong pengembangan koneksi melalui game. Seiring berjalannya proyek-proyek riset ini, kami berharap dapat melihat pembelajaran yang dihasilkan dan apakah temuan-temuan tersebut dapat menjadi masukan bagi desain produk di masa mendatang, baik untuk Roblox maupun perusahaan lain. Detail selengkapnya tentang proyek pemenang bisa dilihat di sini. 

Laporan: Merancang Koneksi Sosial yang Positif  

Bekerja sama dengan Pusat Penelitian Kaum Muda dan Tangguh (Young and Resilient Research Centre) di Western Sydney University dan PROJECT ROCKIT, kami baru-baru ini merilis laporan tentang Membangun Koneksi. Laporan ini menyediakan kerangka kerja bagi para pembuat kebijakan dan pemimpin di industri teknologi untuk secara sadar dan proaktif merancang demi kesejahteraan, otonomi, dan koneksi sosial yang sehat bagi anak-anak. Rekomendasi berbasis bukti ini mencakup inovasi teknis dan standar regulasi untuk membantu industri bersatu demi menciptakan lingkungan digital yang memberdayakan kaum muda untuk berkembang dalam lingkungan yang aman dan terhubung.  

Rekomendasi dalam laporan ini memperkuat investasi yang telah dilakukan Roblox selama bertahun-tahun dan banyak diantaranya sejalan dengan pemikiran kami tentang merancang dengan mengedepankan keamanan, termasuk:  

• Sistem keamanan berlapis: Selama bertahun-tahun, kami telah mendesain sistem keamanan berlapis yang memiliki redundansi bawaan dan peningkatan berkelanjutan untuk membantu menyeimbangkan inovasi dengan keamanan pengguna. 

• Bermitra dengan para ahli: Kami memanfaatkan kombinasi teknologi keamanan yang canggih dan kolaborasi dunia nyata, bekerja sama dengan semua orang—orang tua, pakar keamanan, dan lembaga pemerintah—untuk menjaga komunitas kami tetap aman dan sopan. 

• Dewan remaja dan orang tua: Dewan ini menghadirkan remaja dan orang tua mereka untuk berkonsultasi mengenai beberapa kebijakan dan fitur kami, serta memberikan wawasan mengenai bahasa agar konten yang kami bagikan kepada pengguna muda terasa relevan dan penuh hormat.

• Moderasi suara real-time: Sistem ini memicu notifikasi untuk memberi tahu pengguna ketika mereka melanggar kebijakan, mengedukasi mereka tentang kebijakan kami, dan menerapkan penangguhan chat sementara untuk pelanggaran berikutnya. 

• Moderasi avatar proaktif: Seperti yang disebutkan di atas, sistem baru ini juga akan menyertakan informasi untuk membantu mendidik pengguna tentang alasan avatar mereka tidak dapat dipublikasikan dan kebijakan mana yang dilanggar oleh avatar atau pembaruan mereka.

“Kolaborasi kami dengan Roblox menekankan pentingnya desain berbasis bukti untuk menciptakan lingkungan digital yang memprioritaskan kesejahteraan kaum muda,” kata Profesor Amanda Third, dari Pusat Penelitian Kaum Muda dan Tangguh (Young and Resilient Research Centre) di Western Sydney University. “Karya penting ini menyoroti nilai dari menyatukan para peneliti, kaum muda, dan industri untuk memperdalam pemahaman kita dan mendesain ruang yang memupuk koneksi, empati, inklusi, dan keterlibatan sosial yang positif. Kolaborasi lintas sektor sangat penting jika kita ingin membangun lingkungan online yang menjunjung tinggi hak-hak anak dan secara bermakna mendukung perilaku prososial, dengan suara kaum muda sebagai pusat dari proses tersebut.”

Semua upaya ini adalah bagian dari upaya penjangkauan dan kolaborasi berkelanjutan kami dengan organisasi anak muda, termasuk PROJECT ROCKIT, untuk mendukung upaya mereka dalam mencegah perundungan online dan mendorong koneksi sosial yang sehat dan positif secara online.