Mengonsep Ulang Chat untuk Gameplay yang Seru dan Kesopanan

• Chat yang alami dan lancar sangatlah penting untuk game di mana berbagai tim atau komunitas bermain bersama. 

• String ##### yang memblokir bahasa yang tidak pantas dapat mengganggu chat, sulit dipahami, dan mengganggu gameplay.

• Agar chat tetap lancar dan sopan, kami meningkatkan filter obrolan dan memarafrasakan kata-kata yang tidak sopan menjadi kata-kata yang sesuai dengan pedoman kami.

• Ini adalah langkah awal dalam upaya jangka panjang kami untuk mengurangi ##### agar pengalaman chat terasa lebih alami. Kami akan terus belajar, melakukan iterasi, dan mengembangkan alat kami untuk mendukung chat yang aman dan sopan, termasuk memberi kendali tambahan bagi pengguna.

Setiap hari, jutaan pengguna terhubung dan bermain di Roblox, di mana komunikasi real-time penting untuk mengekspresikan diri dan mengoordinasikan gameplay. Penggunaan filter AI untuk memblokir teks bermasalah (yang terlihat oleh pengguna sebagai #####) selalu menjadi hal yang sangat penting dalam pendekatan kami demi keamanan dan meningkatkan kesopanan. Tanda pagar ini dibuat secara real-time untuk membantu pengguna menyadari saat mereka mengetik sesuatu yang tidak diizinkan. Tentu saja, jika pengguna berulang kali melanggar aturan, konsekuensi yang akan diterima akan lebih besar dari sekadar kata ###.

Pada Mei 2025, kami memperkenalkan peringatan real-time yang proaktif untuk membantu pengguna memahami kebijakan kami. Sekarang peringatan ini aktif untuk chat teks dan suara. Notifikasi ini memberi tahu pengguna saat mereka melanggar aturan, mendorong mereka untuk lebih berhati-hati dalam bertutur kata di lain waktu, dan membantu mereka menjadi warga digital yang lebih baik. Dalam eksperimen tahun lalu, kami melihat bahwa notifikasi chat teks dalam pengalaman virtual dan skorsing sementara berhasil mengurangi 5% pesan chat yang difilter dan mengurangi 6% pemberian konsekuensi dari laporan penyalahgunaan.

Saat ini, kami menambahkan fitur tambahan agar chat teks dalam pengalaman virtual tetap sopan: Kami memanfaatkan AI untuk secara otomatis memarafrasa pesan yang dimulai dengan kata-kata yang tidak sopan. Seiring dengan perkembangannya, sistem ini menciptakan siklus berkelanjutan untuk kesopanan, di mana umpan balik real-time membantu pengguna mempelajari dan mengadopsi Standar Komunitas kami. Semua pengguna, bukan hanya pengirim pesan, melihat bahasa seperti apa yang diizinkan di Roblox (dan pengirim melihat bahasa seperti apa yang tidak diizinkan). Hal ini memberikan lebih banyak umpan balik kepada pengguna yang mungkin tidak mengetahui aturannya, serta membangun fondasi pemfilteran dan peringatan real-time kami untuk mendukung percakapan yang aman, sopan, dan menyenangkan di Roblox. 

Parafrasa Chat Real-Time: Beralih dari Tanda Larangan ke Panduan

Bagi banyak pengguna, string ##### bisa menjadi titik buntu dalam percakapan, tanpa ada panduan tentang bagaimana mengonsep ulang bahasa mereka agar mematuhi Standar Komunitas kami. Hal ini kerap membingungkan dan menyulitkan tim dalam game untuk berkolaborasi. Coba bayangkan, seseorang mencoba memberi tahu temannya bahwa ada monster di belakangnya, dan mengetik: Awas! Ada monster sialan di belakangmu, ahhh!untuk memperingatkannya. Namun, temannya hanya melihat: ###########. Itu sangat tidak membantu. 

Mulai hari ini, teks yang difilter akan diterjemahkan ke dalam bahasa yang lebih sopan tetapi tetap terasa alami bagi pengguna Roblox. Saat diluncurkan, parafrasa real-time ini difokuskan pada kata-kata yang tidak sopan. Misalnya: Cepat goblok!mungkin menjadi: Cepat!Ini jauh lebih dekat dengan maksud aslinya daripada #####. Agar jelas, ketika kami memarafrasakan pesan yang melanggar kebijakan kata-kata yang tidak sopan, pesan aslinya tetap merupakan pelanggaran, dan aturan yang sama tetap berlaku. Pengguna yang terus mencoba mengumpat dalam chat akan tetap menghadapi konsekuensi yang sama karena berulang kali melanggar kebijakan kami. 

Anggap sistem ini sebagai sebuah kemudi, bukan tanda larangan: Jika pesan melanggar kebijakan kami, semua pengguna di chat akan diberi tahu bahwa teks tersebut telah diparafrasa agar tetap sopan. Dengan menyesuaikan kata-kata yang dilarang dengan frasa yang biasa dipakai pengguna dalam chat sehari-hari, kami menjaga chat tetap sopan tanpa kehilangan nuansa atau alur yang autentik. Dengan mengganti tanda larangan ini dengan panduan real-time, kami dapat mengurangi sebagian gesekan, dan tetap menegakkan aturan kami terhadap penggunaan kata-kata umpatan.

Kami masih di tahap awal memarafrasa dan memberikan konteks tambahan kepada pengguna ketika teks diblokir. Seiring berjalannya waktu, seperti alat penerjemah AI lainnya, alat ini akan menjadi makin akurat dan makin mampu memahami detail dalam mempertahankan nada atau konteks asli pengguna. Prioritas kami tetap membangun cara berkomunikasi yang aman dan sopan di Roblox, sekaligus terus mengutamakan untuk memberikan informasi, mengedukasi, dan memandu pengguna saat mempelajari standar kami. 

Meskipun parafrasa dapat mengurangi sebagian gangguan dalam chat, sistem keamanan berlapis kami tetap berlaku untuk mengatasi perilaku yang lebih serius. Parafrasa tersedia secara eksklusif untuk chat dalam pengalaman virtual, yang hanya tersedia antara pengguna yang usianya telah diperiksa dalam kelompok usia yang sama dan Koneksi Tepercaya. Parafrasa didukung dalam semua bahasa yang saat ini tersedia melalui alat terjemahan otomatis kami. Tujuan kami adalah mencapai level akurasi yang memungkinkan kami mengurangi ### hingga dapat menghentikannya sepenuhnya, sehingga komunikasi digital sama alami dan jelasnya dengan percakapan tatap muka.

Saat mengembangkan fitur ini, kami berkonsultasi dengan anggota Dewan Remaja kami untuk membangun sistem yang mencerminkan cara chat remaja yang sesungguhnya. Anggota dewan Sofia menyatakan, "Beralih ke parafrasa secara real-time mempertahankan alur percakapan sekaligus membantu menjaga keamanan semua pengguna. Ini perlahan-lahan mengembalikan interaksi ke jalur yang tepat dan membantu agar pengguna merasa diterima." 

Anggota Dewan Remaja Jordyn memiliki pandangan yang sama. "Pergeseran ini mengajarkan pemain untuk memperhatikan bagaimana mereka berkomunikasi dan memperkuat interaksi dengan membina koneksi yang ramah," kata Jordyn. "Dengan beralih ke parafrasa, ini memberikan jalan tengah antara permintaan pemain dan standar keamanan yang diperlukan."  

Penyempurnaan Filter Teks: Berkembang dari Pola ke Konteks

Fitur keamanan kami terus berkembang untuk tetap sesuai dengan cara pengguna chat di Roblox. Filter teks kami dilatih untuk mendeteksi dan memblokir setiap hal yang melanggar Standar Komunitas kami. Itu harus dilakukan dalam skala global dan secara real-time, saat pengguna sedang chat.

Awalnya, sistem ini memiliki dua komponen: 1) Sistem berbasis aturan yang dirancang untuk mendeteksi dan memblokir konten yang melanggar aturan kami dalam hitungan menit saat peristiwa terjadi di dunia nyata. 2) Serangkaian model khusus yang dilatih dari model yang lebih besar, berdasarkan serangkaian sampel simulasi dan nyata yang terus diperbarui untuk mencakup berbagai tipe bahasa yang terus berkembang. 

Model-model khusus ini sangat baik dalam tugas-tugas tertentu, seperti menemukan daftar kata yang tidak kami izinkan, tetapi mereka tidak dapat berpikir dengan baik, sehingga mereka tidak pandai menemukan istilah yang terus berkembang. Model yang sangat besar tidak berfungsi dengan baik secara real-time, dan halusinasi (atau kesalahan kategorisasi) sering kali meningkatkan positif palsu. 

Dalam pembaruan ini, kami menghadirkan komponen ketiga yang baru ke sistem filter teks kami. Kini, saat model-model khusus tidak yakin apakah sesuatu melanggar aturan atau tidak, hal tersebut dikirim ke model yang sangat besar dan lebih baik dalam berpikir serta menilai lebih banyak konteks. Model besar ini dapat membuat keputusan yang lebih kompleks. 

Eksperimen kami menunjukkan bahwa pendekatan gabungan ini telah meningkatkan filter kami secara signifikan. Kini, filter menjadi lebih baik dalam mendeteksi leet-speak, atau huruf yang diganti dengan angka atau simbol, dan upaya yang lebih rumit lainnya untuk mem-bypass filter kami. Tidak ada sistem yang sempurna, tetapi kami sangat senang bahwa inovasi terbaru ini telah memungkinkan kami untuk mengurangi prevalensi negatif palsu untuk berbagi atau meminta informasi pribadi, seperti nama pengguna media sosial atau nomor ponsel hingga 20x.

Ini merupakan pendekatan baru yang berani dan kami tidak bisa selalu memarafrasa dengan sempurna. Namun, kami akan terus belajar dan bereksperimen serta terus mengurangi jumlah ##### yang dilihat pengguna di chat, dengan tujuan jangka panjang untuk menghentikannya sepenuhnya. Tujuan utama kami adalah memberdayakan pengguna untuk berkolaborasi dan terhubung dengan cara yang menyenangkan dan saling menghormati.