Eğlence, Oyun Oynama ve Uygar Davranış için Sohbeti Yeniden Değerlendirmek

• Ekip veya topluluk olarak oynanan oyunlarda doğal ve akıcı bir sohbetin önemi büyüktür.

• Uygunsuz dilin engellendiği, ##### olarak görünen dizeler sohbeti bozabilir, bunların takip edilmesi zor olabilir ve oyun akışı kesintiye uğrayabilir.

• Sohbetin kesintisiz akması ve saygılı olmasına yardımcı olmak için sohbet filtrelerimizi geliştiriyor ve küfürlü ifadeleri kurallarımıza uygun kelimelerle yeniden ifade ediyoruz.

• Bu, daha doğal bir sohbet deneyimi için ##### olarak görünen ifadeleri azaltmaya yönelik uzun vadeli yolculuğumuzun ilk adımıdır. Kullanıcılar için ek kontroller de dâhil olmak üzere güvenli ve uygar sohbeti desteklemeye yardımcı olmak için öğrenmeye, adım adım ilerlemeye ve araçlarımızı geliştirmeye devam edeceğiz.

Her gün milyonlarca insan, gerçek zamanlı iletişimin kullanıcı ifadesi ve oyun oynanışını koordine etmek açısından önemli olduğu Roblox'ta bağlantı kuruyor ve oyun oynuyor. Kullanıcılar için sorunlu metinleri (onlara ##### olarak görünen) engellemek amacıyla yapay zekâ filtrelerini kullanmak, güvenlik ve uygar davranışı artırma yaklaşımımızın her zaman merkezinde yer almıştır. Bu kare işaretleri gerçek zamanlı olarak oluşturulur ve kullanıcılara, yazdıkları bir şeye izin verilmediğini anlamalarında yardımcı olur. Elbette kullanıcılar kuralları tekrar tekrar ihlal ettiğinde, kelimelerinin ### olarak görünmesinin ötesinde sonuçlarla karşılaşacaklardır.

Mayıs 2025'te, kullanıcıların politikalarımızı anlamalarına yardımcı olmak için proaktif, gerçek zamanlı uyarılar devreye soktuk. Bunlar artık hem yazılı hem de sesli sohbet için etkindir. Bu bildirimler, kullanıcılara bir kuralı ne zaman ihlal ettiklerini bildirir, bir dahaki sefere kullandıkları dili yeniden düşünmelerini ister ve daha iyi dijital vatandaşlar olmalarına yardımcı olur. Geçen yıl yapılan deneylerde, deneyim içi metin sohbeti bildirimleri ve zaman aşımı uygulamalarının filtrelenen sohbet mesajlarında %5'lik, kötüye kullanım raporlarının neticelerinde de %6'lık bir azalma sağladığını gördük.

Şimdi, deneyim içi yazılı sohbeti uygar tutmaya yardımcı olacak bir ek özellik daha getiriyoruz: Mesajları otomatik olarak yeniden ifade etmek için yapay zekâdan yararlanıyoruz ve ilk olarak küfürlü ifadelerden başlıyoruz. Ölçeklendirildiklerinde bu sistemler, gerçek zamanlı geri bildirimlerin kullanıcıların Topluluk Standartlarımızı öğrenmesine ve benimsemesine yardımcı olduğu bir uygar davranış çarkı oluşturur. Sadece mesajı gönderen değil, tüm kullanıcılar Roblox'ta nasıl bir dilin kullanılmasına izin verildiğini görür (gönderen de nelere izin verilmediğini görür). Bu, kuralları bilmeyen kullanıcılara daha fazla geri bildirim sağlar ve Roblox'ta güvenli, uygar ve eğlenceli sohbetleri desteklemeye yardımcı olmak için filtreleme ve gerçek zamanlı uyarılar temelimizi güçlendirir.

Gerçek Zamanlı Sohbeti Yeniden İfade Etme: Dur İşaretlerinden Rehberliğe Geçiş

Birçok kullanıcı için ##### işaretleri, kullandıkları dili Topluluk Standartlarımıza uyacak şekilde nasıl yeniden düşüneceklerine dair hiçbir rehberlik sunulmadığında sohbeti çıkmaza sokabilir. Bu genellikle kafa karışıklığına neden olabilir ve bir oyundaki takımların iş birliği yapmasını zorlaştırabilir. Birinin arkadaşına arkasında bir canavar olduğunu söylemeye çalıştığını ve onu uyarmak için "Dikkat et! Canavar g.tünün dibinde!" yazdığını düşün. Arkadaşı yalnızca "###########." görür. Bu hiç de yardımcı olmaz. 

Bugünden itibaren, filtrelenen metinler Roblox kullanıcılarına doğal gelen daha saygılı bir dile çevrilecek. İlk aşamada, bu gerçek zamanlı yeniden ifade özelliği küfürlü ifadelere odaklanmıştır. Örneğin, "Acele et aq!" ifadesi Acele et!" hâline getirilebilir. Bu, ##### ifadesine kıyasla kast edileni çok daha iyi anlatır. Bir şeyi netleştirelim; küfür politikamızı ihlal eden bir mesajı yeniden ifade ettiğimizde bu yine de bir ihlal olarak kabul edilir ve aynı kurallar geçerlidir. Sohbette küfür etmeye devam eden bir kullanıcı, politikamızı tekrar tekrar ihlal ettiği için yine aynı sonuçlarla karşılaşacaktır.

Bu sistemi bir dur işareti yerine bir direksiyon olarak düşünmek gerekir: Bir mesaj eğer politikamızı ihlal ediyorsa sohbetteki herkese, metnin uygar bir ortam sağlamak için yeniden ifade edildiği bildirilir. Kısıtlanmış kelimeleri kullanıcıların günlük sohbetlerde gerçekten kullandıkları ifadelerle eşleştirerek sohbetin özgün hissini veya akışını kaybetmeden saygılı kalmasına yardımcı oluyoruz. Bu dur işaretlerini gerçek zamanlı rehberlikle değiştirerek hem kesintiyi sınırlandırabilir hem de kaba dile karşı kurallarımızı uygulamayı pekiştirebiliriz.

Metin engellendiğinde kullanıcılara daha fazla bağlam sağlama ve yeniden ifade etme konusunda henüz başlangıç aşamasındayız. Zamanla, tıpkı herhangi bir yapay zekâ çeviri aracında olduğu gibi, bir kullanıcının orijinal tonunu veya bağlamını koruma konusunda sistemimiz giderek daha doğru ve incelikli hâle gelecektir. Önceliğimiz hâlâ Roblox'ta iletişim kurmanın güvenli, uygar ve kullanıcılarımızın standartlarımızı öğrenirken bilgilendirilmesine, eğitilmesine ve yönlendirilmesine öncelik veren bir yolunu oluşturmaya devam etmektir.

Yeniden ifade etme, sohbetteki aksaklıkların bir kısmını azaltırken çok katmanlı güvenlik sistemimiz daha ciddi davranışlar için yürürlükte kalır. Yeniden ifade etme, benzer yaş gruplarındaki yaş kontrolünü tamamlamış kullanıcılar ve Güvenilir Etkileşim Ağlarındaki kişiler arasında kullanılabilen deneyim içi sohbetlerde geçerlidir. Yeniden ifade etme, otomatik çeviri araçlarımız aracılığıyla şu anda destek verilen tüm dillerde mevcuttur. Amacımız, ### olarak görünen ifadeleri azaltarak tamamen ortadan kaldıracağımız bir doğruluk seviyesine ulaşarak dijital iletişimi yüz yüze bir konuşma kadar doğal ve net bir hâle getirmektir.

Bu özelliği geliştirirken, gençlerin gerçekte nasıl sohbet ettiğini yansıtan bir sistem oluşturmak için Gençlik Konseyi üyelerimize danıştık. Konsey üyesi Sofia bize şunları söyledi: "Gerçek zamanlı yeniden ifadeye geçiş, herkesi güvende tutmaya yardımcı olurken sohbetin akışını da koruyor. Etkileşimi nazikçe tekrar rayına oturtuyor ve insanların hoş karşılandıklarını hissetmelerine yardımcı oluyor." 

Gençlik Konseyi üyesi Jordyn de aynı fikirde. Jordyn, "Bu değişim, oyunculara nasıl iletişim kuracaklarını düşünmeyi öğretiyor ve dostane bağlantıları teşvik ederek etkileşimi güçlendiriyor" diyor. "Yeniden ifade etmeye geçiş, oyuncu istekleri ile gerekli güvenlik standartları arasında bir orta yol sağlıyor."

Geliştirilmiş Metin Filtreleri: Kalıplardan Bağlama Geçiş

Güvenlik özelliklerimiz, kullanıcıların Roblox'ta sohbet etme biçimlerinin hakkını vermek üzere sürekli gelişiyor. Metin filtrelerimiz, Topluluk Standartlarımıza aykırı olan her şeyi tespit etmek ve engellemek için eğitiliyor. Bunun, kullanıcılar sohbet ederken küresel ölçekte ve gerçek zamanlı olarak gerçekleşmesi gerekir.

Başlangıçta, bu sistemin iki bileşeni vardı: 1) Gerçek dünyada olaylar meydana geldiğinde kurallarımızı ihlal eden içeriği dakikalar içinde tespit etmek ve engellemek için tasarlanmış, kurallara dayalı bir sistem. 2) Gelişen dil türlerini içerecek şekilde sürekli güncellenen bir dizi simüle edilmiş ve gerçek örneğe dayalı, daha büyük bir modelden eğitilmiş bir dizi özel model.

Bu özel modeller, izin vermediğimiz kelimelerin listesini bulmak gibi belirli görevlerde çok iyidir ancak çok iyi akıl yürütemezler, bu nedenle değişen terimleri bulma konusunda iyi değildirler. Son derece büyük modeller gerçek zamanlı olarak çalışmaz ve halüsinasyonlar (veya yanlış kategorilendirme) genellikle yanlış pozitifleri artırır.

Bu güncellemede, metin filtreleme sistemimize yeni bir üçüncü bileşen ekledik. Artık, uzmanlaşmış modeller bir şeyin kuralları ihlal edip etmediğinden emin olmadığında daha geniş bir bağlamı değerlendirme ve akıl yürütme konusunda daha iyi olan çok büyük modellere gönderilir. Bu büyük modeller daha karmaşık kararlar verebilir.

Deneylerimiz, bu birleşik yaklaşımın filtrelerimizi önemli ölçüde iyileştirdiğini gösteriyor. Filtreler artık leet dilini veya sayılar ya da sembollerle değiştirilen harfleri ve filtrelerimizi atlatmaya yönelik daha karmaşık girişimleri daha iyi tespit edebiliyor. Hiçbir sistem mükemmel değildir; fakat bu son yenilik sayesinde sosyal medya kullanıcı adları veya telefon numaraları gibi kişisel bilgilerin paylaşılması veya talep edilmesi gibi yanlış negatiflerin yaygınlığını 20 kat azaltabildiğimiz için bu konuda büyük heyecan duyuyoruz.

Bu cesur bir yeni yaklaşım, her zaman her şeyi mükemmel bir şekilde yeniden ifade edemeyiz. Yine de öğrenmeye ve denemeye, kullanıcıların sohbetlerinde gördüğü ##### ifadelerini azaltmaya devam edeceğiz. Uzun vadeli hedefimiz bunları tamamen ortadan kaldırmak. Nihai hedefimiz, kullanıcıların hem eğlenceli hem de saygılı bir şekilde iş birliği yapmalarını ve bağlantı kurmalarını sağlamak.