Güvenlik Özeti: Mart

Mart ayı Güvenlik Özeti'nde, sorunlu içeriği tespit etmek ve kaldırmak için tasarlanmış otomatik sistemler aracılığıyla içeriği nasıl denetlediğimizi paylaşıyoruz. Ayrıca, içerik oluşturucuların kendi oyunlarında kötü kullanıcı davranışlarını tespit edip bunlara müdahale etmelerini sağlayan yeni bir kontrol paneli ile sektördeki topluluk yöneticilerini eğitmek için yeni bir programı da paylaşıyoruz. Kullanıcı bildirim araçları hakkında daha fazla bilgi için geçen ayın Güvenlik Özeti'ne göz atın. 

Kullanıcı Davranışını Sürekli Denetleme 

Roblox'un büyüsünün bir parçası, içerik oluşturucularımız tarafından üretilen ve sürekli genişleyen ve değişen içeriktir. İçerik oluşturucular her an oyun güncellemeleri yayınlıyor, yeni rozetler veya evcil hayvanlar ekliyor; kullanıcılar ise avatarlarının kıyafetlerini değiştiriyor, resim yapıyor veya gerçek zamanlı olarak bir şeyler inşa ediyor. Tüm bunları platformda yayınlanmadan önce inceliyor ve kurallarımıza aykırı olan her şeyi kaldırıyoruz. 

Çok katmanlı denetim araçları, Roblox'taki sorunlu içeriğin büyük çoğunluğunu yakalar ve Topluluk Standartlarımıza aykırı olan her şeyi reddederiz. Ancak biz de mükemmel değiliz, bu nedenle kullanıcı bildirimlerinden yararlanarak gözden kaçırmış olabileceğimiz her şeyi bulmaya ve buna göre önlem almaya çalışırız.

Roblox oyunlarının dinamik yapısı, içeriğin kullanıcıların önceden onaylanmış avatarları, kıyafetleri ve hareketleri nasıl birleştirdiklerine bağlı olarak sürekli değiştiği anlamına gelir. Örneğin, serbest çizim yapılabilen oyunlarda bir kullanıcı rahatsız edici bir sembol veya öğe çizebilir. Bu nedenle, bu kombinasyonları bir arada tarayabilen, gerçek zamanlı çok modlu moderasyon için yeni bir yapay zeka sistemi başlattık. 

Geleneksel AI moderasyon sistemleri, her seferinde tek bir nesneyi değerlendirmek üzere tasarlanmıştır ve genellikle bağlamdan yoksundur; bu da, tek tek öğelerin sorun teşkil etmediği durumlarda sorun yaratabilecek kombinasyonları gözden kaçırmalarına neden olur. Yeni gerçek zamanlı çok modlu moderasyon sistemimiz, avatarlar, metinler ve 3D nesneler dahil olmak üzere tüm sahneyi değerlendirir. Bu sistem, belirli bir anda tüm bu öğeleri bir arada yakalar ve sahnenin tamamının kurallarımızı ihlal edip etmediğini değerlendirir. Bu tür sorunlu davranışlar tek bir oyun örneğinde tekrar tekrar meydana gelirse, sistem tüm oyunu değil, sadece o örneği (sunucu olarak da adlandırılır) kapatır. 

Bu çok modlu sistemi kullanıma sunduğumuzdan bu yana, Topluluk Standartlarımızı ihlal eden yaklaşık 5.000 örneği her gün kapatıyoruz. Eğitim ve ölçeklendirme çalışmalarımızla doğruluğumuzu sürekli iyileştiriyor ve yanlış pozitif sonuçları en aza indirmek için toplulukla birlikte çalışıyoruz. Oyun süresinin %100'ünü yakalamak ve izlemek için bu çok modlu sistemi genişletmeye çalışıyoruz. Ancak her zaman herhangi bir sistemi atlatmaya çalışan kişiler olacaktır, bu nedenle sunucuları kapatmanın ötesine geçen teknolojiler geliştirmeye aktif olarak devam ediyoruz. İyi niyetli oyuncuların deneyimini bozmadan kötü niyetli kişileri ortadan kaldırabilmek için, bu kişileri tespit etmenin yollarını arıyoruz.

Yaratıcılara Sunucu Kapatmaları Hakkında Görünürlük Sağlama

Güvenlik genel bakış panosuna bir ekleme yaparak, içerik oluşturuculara bu çok modlu denetim sisteminin sonuçları hakkında daha fazla şeffaflık sağlıyoruz. Yukarıda belirtildiği gibi, kötü kullanıcı davranışlarının hakim olduğu durumlarda oyun sunucularını kapatıyoruz. İçerik oluşturuculara oyunlarında bunun ne sıklıkla gerçekleştiği konusunda daha fazla görünürlük sağlamak için, mevcut İçerik Oluşturucu Panosuna yeni bir grafik ekledik. 

Yaratıcılar artık, kötü kullanıcı davranışları nedeniyle (yani taciz ve ayrımcılık veya romantik ve cinsel içerik politikalarımızı ihlal eden davranışlar) kaç oyun sunucusunun kapatıldığını görebilirler. Bu, ani artışları tespit etmelerine yardımcı olur, böylece kapatmalar daha geniş topluluğu etkilemeden önlem alabilirler. Ardından oyunlarını daha yakından inceleyebilir ve sorunlu içeriklerin oluşturulmasını önlemek için özel ifadeler, avatar düzenleme araçları veya oyun içi kullanıcı oluşturma özelliklerinde değişiklik yapılıp yapılmayacağına karar verebilirler. 

Dijital Moderatörlerin Eğitimi 

Roblox, Keyword Studios ve Riot Games, araştırma psikoloğu ve Games for Change Araştırma Direktörü Rachel Kowert ile dijital topluluk liderleri için yeni bir sertifika programı üzerinde işbirliği yapıyor. Roblox, yeni DLC Liderlik Programı'nın müfredatını şekillendirmek ve pilot uygulamaya katkıda bulunmak için topluluk moderasyonu ve prososyal tasarım konusunda uzmanlığını sunacak. Girişimin amacı, oyun sektöründeki çevrimiçi moderatörler, topluluk yöneticileri ve içerik oluşturucular için standartlaştırılmış bir eğitimin eksikliğini gidermektir. Kwert, yakın zamanda yayınlanan bir makalede, programın amacının "oyun toplulukları ve çevrimiçi davranışlarla ilgili araştırmaları, dijital liderlerin daha dayanıklı ve sürdürülebilir çevrimiçi topluluklar oluşturmak için kullanabilecekleri pratik araçlara dönüştürmek" olduğunu belirtti.

Bu çabaya katılarak, Roblox içerik oluşturucu topluluğuna ve daha geniş oyun sektörüne fayda sağlamak üzere tasarlanmış, türünün ilk örneği olan standart bir sertifika programı geliştirerek sektörün öncülüğünü yapacağız. Program tamamlandığında, içerik oluşturucuların büyüyen topluluklarını etkili bir şekilde yönetmek ve denetlemek için gerekli olan kritik becerileri öğrenmelerine yardımcı olacak. Sağlıklı ve saygılı çevrimiçi topluluklar için en iyi uygulamalar konusunda daha fazla moderatör ve içerik oluşturucuyu eğitmenin, çevrimiçi oyun deneyimini herkes için daha olumlu hale getirmeye yardımcı olacağına inanıyoruz.