सुरक्षा झलक: मार्च

आमच्या मार्चच्या सुरक्षा स्नॅपशॉटमध्ये, आम्ही समस्याग्रस्त सामग्री शोधून काढण्यासाठी डिझाइन केलेल्या स्वयंचलित प्रणालींद्वारे सामग्री कशी मॉडरेट करतो ते शेअर करत आहोत—बहुतेक वेळा वापरकर्त्यांनी ती पाहण्यापूर्वीच. आम्ही निर्मात्यांना त्यांच्या स्वतःच्या खेळांमध्ये वाईट वापरकर्ता वर्तन ओळखण्यास आणि त्यावर उपाय करण्यास सक्षम करणारा नवीन डॅशबोर्ड आणि उद्योगातील समुदाय व्यवस्थापकांना प्रशिक्षण देण्यासाठीचा नवीन कार्यक्रम देखील शेअर करत आहोत. वापरकर्ता अहवाल साधनांबद्दल अधिक जाणून घेण्यासाठी मागील महिन्याचा सुरक्षा स्नॅपशॉट पहा. 

वापरकर्त्यांच्या वर्तनाचे सातत्यपूर्ण नियमन 

Roblox च्या जादूचा एक भाग म्हणजे आमच्या निर्मात्यांद्वारे तयार केलेली सतत वाढणारी आणि बदलणारी सामग्री. प्रत्येक क्षणी, निर्माते गेम अपडेट्स प्रकाशित करत असतात आणि नवीन बॅज किंवा पाळीव प्राणी जोडत असतात, आणि वापरकर्ते त्यांच्या अवतारांचे पोशाख बदलत असतात आणि रिअल-टाइममध्ये वस्तू रंगवत किंवा तयार करत असतात. हे सर्व प्लॅटफॉर्मवर प्रकाशित होण्यापूर्वी आम्ही तपासतो आणि आमच्या मार्गदर्शक तत्त्वांच्या विरोधात असलेली कोणतीही सामग्री काढून टाकतो. 

Roblox वरील बहुतेक समस्याग्रस्त सामग्री अनेक थरांच्या मॉडरेटिंग साधनांद्वारे पकडली जाते, आणि आम्ही आमच्या समुदाय मानकांच्या विरोधात असलेली कोणतीही सामग्री नाकारतो. परंतु आम्ही परिपूर्ण नाही, त्यामुळे आम्ही वापरकर्त्यांच्या अहवालांचा वापर करतो ज्यामुळे आम्हाला चुकून गेलेली कोणतीही सामग्री शोधता येते आणि त्यानुसार कारवाई करता येते.

Roblox गेम्सच्या गतिशील स्वरूपामुळे, वापरकर्ते पूर्वी मंजूर केलेल्या अवतार, कपडे आणि हालचालींना कसे एकत्र करतात यावर आधारित सामग्री सतत बदलत असते. उदाहरणार्थ, मुक्त-स्वरूपात चित्र काढण्याची परवानगी असलेल्या गेम्समध्ये, वापरकर्ता अपमानजनक चिन्ह किंवा वस्तू काढू शकतो. म्हणूनच आम्ही अलीकडेच रिअल-टाइम मल्टीमोडल मॉडरेशनसाठी एक नवीन AI प्रणाली सुरू केली आहे जी या सर्व संयोजनांचे एकत्र स्कॅन करू शकते. 

पारंपारिक AI मॉडरेशन प्रणाली एकावेळी एका ऑब्जेक्टचे मूल्यांकन करण्यासाठी डिझाइन केल्या आहेत आणि त्यात अनेकदा संदर्भाचा अभाव असतो, ज्यामुळे स्वतंत्रपणे समस्या निर्माण न करणारे परंतु एकत्रितपणे समस्या निर्माण करू शकणारे संयोजन ते ओळखू शकत नाहीत. आमची नवीन रिअल-टाइम मल्टीमोडल मॉडरेशन प्रणाली अवतार, मजकूर आणि 3D वस्तूंसह संपूर्ण दृश्याचे मूल्यांकन करते. ती या सर्व घटकांना एका विशिष्ट क्षणी एकत्रितपणे टिपते आणि संपूर्ण दृश्य आमच्या नियमांचे उल्लंघन करते का हे तपासते. जर एकाच गेम इन्स्टन्समध्ये अशा प्रकारचे समस्याग्रस्त वर्तन वारंवार आढळले, तर प्रणाली संपूर्ण गेमऐवजी फक्त त्या इन्स्टन्सला (ज्याला सर्व्हर असेही म्हणतात) बंद करेल. 

ही बहुमोडल प्रणाली सुरू केल्यापासून, आम्ही दररोज सुमारे 5,000 अशा उदाहरणांना बंद केले आहे जे आमच्या समुदाय मानकांचे उल्लंघन करतात. आम्ही प्रशिक्षण देत आणि विस्तार करत असताना, आम्ही आमची अचूकता सातत्याने सुधारत आहोत आणि खोट्या सकारात्मक परिणामांना कमी करण्यासाठी समुदायाबरोबर काम करत आहोत. आम्ही या बहुमोडल प्रणालीचा विस्तार करून 100% प्लेटाइम कॅप्चर आणि मॉनिटर करण्यासाठी काम करत आहोत. परंतु, कोणत्याही प्रणालीला फसविण्याचा प्रयत्न करणारे लोक नेहमीच असतील, त्यामुळे आम्ही सर्व्हर बंद करण्यापलीकडे जाणारी तंत्रज्ञान सक्रियपणे विकसित करत आहोत. आम्ही विशिष्ट वाईट वापरकर्त्यांना ओळखण्याचे मार्ग शोधत आहोत, जेणेकरून चांगल्या हेतूच्या खेळाडूंच्या अनुभवात व्यत्यय न आणता त्यांना काढून टाकता येईल.

सर्वर बंदीबाबत निर्मात्यांना दृश्यमानता देणे

आम्ही सुरक्षितता ओव्हरव्ह्यू डॅशबोर्डमध्ये एक नवीन घटक जोडून या बहु-मोडल मॉडरेशन प्रणालीच्या निकालांबद्दल क्रिएटर्सना अधिक पारदर्शकता देत आहोत. वर नमूद केल्याप्रमाणे, जेव्हा गेम सर्व्हरवर वाईट वापरकर्त्यांच्या वर्तनाचा ताबा होतो, तेव्हा आम्ही ते बंद करतो. क्रिएटर्सना त्यांच्या गेम्समध्ये हे किती वेळा घडते याची अधिक स्पष्ट कल्पना देण्यासाठी, आम्ही त्यांच्या विद्यमान क्रिएटर डॅशबोर्डमध्ये एक नवीन चार्ट जोडला आहे. 

निर्माते आता पाहू शकतात की त्यांच्या किती गेम सर्व्हर्स वाईट वापरकर्ता वर्तनामुळे बंद करण्यात आले आहेत (उदा. आमच्या छळ आणि भेदभाव किंवा रोमँटिक व लैंगिक सामग्री धोरणांचे उल्लंघन). यामुळे त्यांना अचानक वाढ ओळखण्यास मदत होते, ज्यामुळे बंदी त्यांच्या व्यापक समुदायावर परिणाम होण्यापूर्वी ते कारवाई करू शकतात. नंतर ते त्यांच्या गेमवर बारकाईने पाहू शकतात आणि समस्याग्रस्त निर्मिती टाळण्यासाठी सानुकूल इमोट्स, अवतार संपादन साधने किंवा इन-गेम वापरकर्ता निर्मिती वैशिष्ट्यांमध्ये बदल करणे आवश्यक आहे का हे ठरवू शकतात. 

डिजिटल मॉडरेटरांचे प्रशिक्षण 

रॉब्लॉक्स, कीवर्ड स्टुडिओज आणि रायट गेम्स हे संशोधन मानसशास्त्रज्ञ आणि गेम्स फॉर चेंज रिसर्च डायरेक्टर राचेल कोवर्ट यांच्यासोबत डिजिटल समुदाय नेत्यांसाठी एका नवीन प्रमाणपत्र कार्यक्रमावर भागीदारी करत आहेत. रॉब्लॉक्स नवीन DLC लीडरशिप प्रोग्रामसाठी अभ्यासक्रम तयार करण्यास आणि त्याची चाचणी करण्यास समुदाय मध्यस्थीकरण आणि प्रोसोशल डिझाइनवरील तज्ज्ञता प्रदान करेल. या उपक्रमाचा उद्देश गेमिंग क्षेत्रातील ऑनलाइन मॉडरेटर, समुदाय व्यवस्थापक आणि निर्मात्यांसाठी प्रमाणित प्रशिक्षणाचा अभाव दूर करणे हा आहे. अलीकडील एका लेखात, कोवर्ट म्हणाली की या कार्यक्रमाचा उद्देश "गेमिंग समुदायांवर आणि ऑनलाइन वर्तनावर होणाऱ्या संशोधनाला व्यावहारिक साधनांमध्ये रूपांतरित करणे आहे, ज्याचा वापर डिजिटल नेते अधिक लवचिक आणि शाश्वत ऑनलाइन समुदाय तयार करण्यासाठी करू शकतील."

या प्रयत्नात सहभागी होऊन, आम्ही Roblox निर्माता समुदाय आणि विस्तृत गेमिंग उद्योगाला लाभ पोहोचवण्यासाठी डिझाइन केलेल्या या प्रकारातील पहिल्या प्रमाणित प्रमाणपत्र कार्यक्रमाचा विकास करून उद्योगाचे नेतृत्व करण्यात मदत करू. पूर्ण झाल्यानंतर, हा कार्यक्रम निर्मात्यांना त्यांच्या स्वतःच्या वाढत्या समुदायांचे प्रभावीपणे समन्वय आणि व्यवस्थापन करण्यासाठी आवश्यक असलेली महत्त्वाची कौशल्ये शिकण्यास मदत करेल. आमचा विश्वास आहे की निरोगी, आदरयुक्त ऑनलाइन समुदायांसाठी सर्वोत्तम पद्धतींवर अधिक समन्वयक आणि निर्मात्यांना प्रशिक्षण दिल्याने सर्वांसाठी ऑनलाइन गेमिंग अधिक सकारात्मक ठेवण्यास मदत होईल.