सुरक्षा झलक: मार्च

हमारे मार्च सुरक्षा स्नैपशॉट में, हम साझा कर रहे हैं कि हम स्वचालित प्रणालियों के माध्यम से समस्याग्रस्त सामग्री का पता लगाने और उसे हटाने के लिए सामग्री का प्रबंधन कैसे करते हैं—अक्सर इससे पहले कि उपयोगकर्ता उसे देखें। हम एक नया डैशबोर्ड भी साझा कर रहे हैं जो रचनाकारों को अपनी ही गेम्स में खराब उपयोगकर्ता व्यवहार को पहचानने और संबोधित करने में सक्षम बनाता है, और पूरे उद्योग में समुदाय प्रबंधकों को प्रशिक्षित करने के लिए एक नया कार्यक्रम भी। उपयोगकर्ता रिपोर्टिंग उपकरणों के बारे में अधिक जानकारी के लिए पिछले महीने का सुरक्षा स्नैपशॉट देखें। 

उपयोगकर्ता व्यवहार की निरंतर निगरानी 

रॉब्लॉक्स का एक जादू हमारे क्रिएटर्स द्वारा बनाई गई लगातार बढ़ने वाली और बदलने वाली सामग्री है। किसी भी समय, क्रिएटर्स गेम अपडेट प्रकाशित कर रहे होते हैं और नए बैज या पालतू जानवर जोड़ रहे होते हैं, और उपयोगकर्ता अपने अवतार के कपड़े बदल रहे होते हैं और वास्तविक समय में चीजों को पेंट या बना रहे होते हैं। हम प्लेटफ़ॉर्म पर प्रकाशित होने से पहले इस सब की समीक्षा करते हैं और हमारे दिशानिर्देशों के विरुद्ध कुछ भी हटा देते हैं। 

मॉडरेशन टूल्स की कई परतें Roblox पर अधिकांश समस्याग्रस्त सामग्री को पकड़ लेती हैं, और हम हमारे सामुदायिक मानकों के खिलाफ किसी भी चीज़ को अस्वीकार कर देते हैं। लेकिन हम परिपूर्ण नहीं हैं, इसलिए हम उपयोगकर्ता रिपोर्टों का लाभ उठाते हैं ताकि हमें वह कुछ भी खोजने में मदद मिले जिसे हम चूक गए हों और तदनुसार कार्रवाई करें।

रॉब्लॉक्स गेम्स की गतिशील प्रकृति का मतलब है कि सामग्री लगातार बदलती रहती है, यह इस बात पर आधारित है कि उपयोगकर्ता पहले से स्वीकृत अवतार, कपड़े और आंदोलनों को कैसे जोड़ते हैं। उदाहरण के लिए, उन गेम्स में जो मुक्त-रूप ड्रॉइंग की अनुमति देते हैं, कोई उपयोगकर्ता एक आपत्तिजनक प्रतीक या वस्तु बना सकता है। इसीलिए हमने हाल ही में रीयल-टाइम मल्टीमोडल मॉडरेशन के लिए एक नया एआई सिस्टम लॉन्च किया है जो इन संयोजनों को एक साथ स्कैन कर सकता है। 

पारंपरिक एआई मॉडरेशन सिस्टम एक समय में एक वस्तु का मूल्यांकन करने के लिए डिज़ाइन किए गए हैं और अक्सर संदर्भ की कमी होती है, जिससे ऐसे संयोजन छूट जाते हैं जो व्यक्तिगत आइटमों की तुलना में समस्याग्रस्त हो सकते हैं। हमारी नई रीयल-टाइम मल्टीमोडल मॉडरेशन प्रणाली एक पूरे सीन का मूल्यांकन करती है—जिसमें अवतार, टेक्स्ट और 3डी ऑब्जेक्ट्स शामिल हैं। यह इन सभी तत्वों को एक विशिष्ट क्षण में एक साथ कैप्चर करती है और यह आकलन करती है कि क्या पूरा सीन हमारे नियमों का उल्लंघन करता है। यदि इस प्रकार का समस्याग्रस्त व्यवहार एक ही गेम इंस्टेंस में बार-बार होता है, तो सिस्टम पूरे गेम के बजाय केवल उसी इंस्टेंस (जिसे सर्वर भी कहा जाता है) को बंद कर देगा। 

इस मल्टीमोडल सिस्टम को लॉन्च करने के बाद से, हमने प्रतिदिन लगभग 5,000 ऐसे इंस्टेंस बंद किए हैं जो हमारे सामुदायिक मानकों का उल्लंघन करते हैं। जैसे-जैसे हम प्रशिक्षण और विस्तार कर रहे हैं, हम अपनी सटीकता में लगातार सुधार कर रहे हैं और गलत सकारात्मक परिणामों को कम करने के लिए समुदाय के साथ मिलकर काम कर रहे हैं। हम इस मल्टीमोडल सिस्टम को 100% प्लेटाइम को कैप्चर और मॉनिटर करने के लिए स्केल करने पर काम कर रहे हैं। लेकिन हमेशा ऐसे व्यक्ति होंगे जो किसी भी सिस्टम को बाईपास करने की कोशिश करेंगे, इसलिए हम सक्रिय रूप से ऐसी तकनीक विकसित कर रहे हैं जो सर्वर को बंद करने से आगे जाकर काम करती है। हम विशेष रूप से खराब काम करने वालों की पहचान करने के तरीकों पर काम कर रहे हैं ताकि हम उन्हें बिना अच्छे इरादों वाले खिलाड़ियों के अनुभव को बाधित किए हटा सकें।

रचनाकारों को सर्वर शटडाउन की जानकारी देना

हम सुरक्षा ओवरव्यू डैशबोर्ड में एक नया सेक्शन जोड़कर क्रिएटर्स को इस मल्टीमोडल मॉडरेशन सिस्टम के परिणामों के बारे में अधिक पारदर्शिता प्रदान कर रहे हैं। जैसा कि ऊपर बताया गया है, हम गेम सर्वर को तब बंद कर देते हैं जब उन पर खराब उपयोगकर्ता व्यवहार हावी हो जाता है। क्रिएटर्स को यह अधिक स्पष्टता देने के लिए कि उनके गेम्स में यह कितनी बार हो रहा है, हमने उनके मौजूदा क्रिएटर डैशबोर्ड में एक नया चार्ट जोड़ा है। 

निर्माता अब देख सकते हैं कि उनके कितने गेम सर्वर खराब उपयोगकर्ता व्यवहार (यानी, हमारे उत्पीड़न और भेदभाव या रोमांटिक और यौन सामग्री नीतियों का उल्लंघन) के कारण बंद किए गए हैं। इससे उन्हें अचानक वृद्धि की पहचान करने में मदद मिलती है ताकि वे बंद होने से पहले अपने व्यापक समुदाय को प्रभावित होने से बचा सकें। फिर वे अपने गेम की बारीकी से जांच कर सकते हैं और यह तय कर सकते हैं कि समस्याग्रस्त रचनाओं को रोकने में मदद के लिए कस्टम इमोट, अवतार संपादन उपकरण या इन-गेम उपयोगकर्ता निर्माण सुविधाओं में बदलाव की आवश्यकता है या नहीं। 

डिजिटल मॉडरेटरों का प्रशिक्षण 

रॉब्लॉक्स, कीवर्ड स्टूडियोज़, और राइट गेम्स, शोध मनोवैज्ञानिक और गेम्स फॉर चेंज रिसर्च निदेशक रेचल कोवर्ट के साथ, डिजिटल सामुदायिक नेताओं के लिए एक नए प्रमाणन कार्यक्रम पर साझेदारी कर रहे हैं। रॉब्लॉक्स, नए डीएलसी लीडरशिप प्रोग्राम के लिए पाठ्यक्रम को पायलट करने और आकार देने में मदद करने के लिए सामुदायिक मध्यस्थता और प्रोसोशल डिज़ाइन पर विशेषज्ञता का योगदान देगा। इस पहल का लक्ष्य गेमिंग क्षेत्र में ऑनलाइन मॉडरेटर, सामुदायिक प्रबंधक और निर्माताओं के लिए मानकीकृत प्रशिक्षण की कमी को दूर करना है। हाल ही के एक लेख में, कोवर्ट ने कहा कि इस कार्यक्रम का उद्देश्य "गेमिंग समुदायों और ऑनलाइन व्यवहार पर शोध को व्यावहारिक उपकरणों में बदलना है, जिन्हें डिजिटल नेता अधिक लचीले और टिकाऊ ऑनलाइन समुदाय बनाने के लिए उपयोग कर सकते हैं।"

इस प्रयास में भाग लेकर, हम उद्योग का नेतृत्व करने में मदद करेंगे, और एक ऐसा मानकीकृत प्रमाणन कार्यक्रम विकसित करेंगे जो रोब्लॉक्स निर्माता समुदाय और व्यापक गेमिंग उद्योग को लाभान्वित करने के लिए बनाया गया है। पूरा होने के बाद, यह कार्यक्रम निर्माताओं को अपने बढ़ते समुदायों का प्रभावी ढंग से संचालन और प्रबंधन करने के लिए आवश्यक महत्वपूर्ण कौशल सीखने में मदद करेगा। हमारा मानना है कि स्वस्थ, सम्मानजनक ऑनलाइन समुदायों के लिए सर्वोत्तम प्रथाओं पर अधिक मॉडरेटरों और निर्माताओं को प्रशिक्षित करने से ऑनलाइन गेमिंग को सभी के लिए अधिक सकारात्मक बनाए रखने में मदद मिलेगी।