सुरक्षा झलक: जनवरी

इस महीने का सुरक्षा स्नैपशॉट पिछले कुछ हफ्तों में हमने जो सुरक्षा और सभ्यता पहलें शुरू की हैं, उन्हें उजागर करता है, जिसमें अवतारों की सक्रिय निगरानी करने और उपयोगकर्ताओं को हमारी नीतियों के बारे में शिक्षित करने के लिए नई तकनीक शामिल है। हमने तीसरे पक्ष के संगठनों के साथ साझेदारी में नई सभ्यता रिपोर्टें भी बनाई और लॉन्च की हैं। 

सक्रिय अवतार मध्यस्थता की घोषणा 

2025 में, रॉब्लॉक्स उपयोगकर्ताओं ने अपने अवतार को दिन में औसतन 274 मिलियन बार अपडेट किया, अपने अवतार के कपड़े और हेयरस्टाइल बदलने के साथ-साथ पालतू जानवर, टोपी और अन्य एक्सेसरीज़ भी जोड़ीं। कई उपयोगकर्ता अपने अवतार के लुक को सावधानीपूर्वक तैयार करने में समय बिताते हैं क्योंकि यह प्लेटफ़ॉर्म पर उनके व्यक्तित्व की अभिव्यक्ति है। लोगों को सुरक्षित रखने में मदद करने के लिए, हम अवतार मार्केटप्लेस पर अपलोड की गई हर चीज़ को सक्रिय रूप से स्कैन करते हैं और हमारे सामुदायिक मानकों का उल्लंघन करने वाली किसी भी चीज़ को ब्लॉक कर देते हैं। हालाँकि, उपयोगकर्ता कभी-कभी हानिरहित वस्तुओं को इस तरह से मिलाते हैं कि एक ऐसा आउटफिट बन जाता है जो हमारी नीतियों का उल्लंघन करता है। उदाहरण के लिए, एक काला सूट, आर्मबैंड और मूँछें, ये सभी अपने आप में अनुपालन में हैं, लेकिन जब इन्हें एक साथ मिलाया जाता है, तो उनका उपयोग एडॉल्फ हिटलर जैसा अवतार बनाने के लिए किया जा सकता है, जो हमारी नीतियों के खिलाफ है।

गेमिंग उद्योग के लिए अनुसंधान को और आगे बढ़ाने के लिए, Roblox ने Prosocial Design Network के साथ सहयोग किया, जो एक ऐसा संगठन है जो ऑनलाइन प्लेटफॉर्म पर सकारात्मक व्यवहार को बढ़ावा देने और प्रोत्साहित करने वाले नवीन डिज़ाइन तत्वों को बढ़ावा देने के लिए समर्पित है। इस सहयोग का लक्ष्य उन अनुसंधान परियोजनाओं की पहचान करना था जो गेमिंग प्लेटफॉर्म पर सकारात्मक सामाजिक जुड़ाव को बढ़ावा देने में मदद कर सकती हैं। प्रस्तावों की समीक्षा कर ली गई है और हमें यह साझा करते हुए खुशी हो रही है कि छह शोध टीमों को गेमिंग के माध्यम से जुड़ाव को बढ़ावा देने से संबंधित परियोजनाओं को आगे बढ़ाने के लिए अनुदान प्रदान किया गया है। जैसे-जैसे ये शोध परियोजनाएं आगे बढ़ेंगी, हम यह देखने की उम्मीद करते हैं कि क्या सीखा गया और क्या इनमें से कोई भी रोब्लॉक्स के साथ-साथ अन्य कंपनियों के भविष्य के उत्पाद डिजाइन को भी सूचित कर सकता है। विजेता परियोजनाओं के बारे में अधिक जानकारी यहां पाई जा सकती है। 

रिपोर्ट: सकारात्मक सामाजिक संबंधों के लिए डिज़ाइन करना  

वेस्टर्न सिडनी यूनिवर्सिटी के यंग एंड रेज़िलिएंट रिसर्च सेंटर और प्रोजेक्ट रॉकेट के सहयोग से, हमने हाल ही में 'कनेक्शन बनाने' पर एक रिपोर्ट जारी की है। यह रिपोर्ट नीति निर्माताओं और प्रौद्योगिकी उद्योग के नेताओं के लिए एक ढांचा प्रदान करती है ताकि वे जानबूझकर और सक्रिय रूप से बच्चों की भलाई, स्वायत्तता और स्वस्थ सामाजिक जुड़ाव के लिए डिजाइन कर सकें। इन साक्ष्य-आधारित सिफारिशों में तकनीकी नवाचार और नियामक मानक शामिल हैं जो उद्योग को एक साथ आने में मदद करते हैं ताकि ऐसे डिजिटल वातावरण बनाए जा सकें जो युवाओं को सुरक्षित, जुड़े वातावरण में फलने-फूलने के लिए सशक्त बनाते हैं।  

इस रिपोर्ट में दिए गए सुझाव रोब्लॉक्स द्वारा वर्षों से किए गए निवेशों को सुदृढ़ करते हैं और इनमें से कई सुरक्षा के लिए डिज़ाइन करने के हमारे दृष्टिकोण के अनुरूप हैं, जिनमें शामिल हैं:  

• बहु-स्तरीय सुरक्षा प्रणाली: वर्षों से, हमने एक परतदार सुरक्षा प्रणाली बनाई है जिसमें नवाचार और उपयोगकर्ता सुरक्षा के बीच संतुलन बनाने में मदद के लिए अंतर्निहित अतिरिक्त व्यवस्था और निरंतर सुधार शामिल हैं। 
• विशेषज्ञों के साथ साझेदारी: हम परिष्कृत सुरक्षा तकनीक और वास्तविक दुनिया के सहयोग के संयोजन का लाभ उठाते हैं, और अपने समुदाय को सुरक्षित और सभ्य रखने के लिए हर किसी—माता-पिता, सुरक्षा विशेषज्ञों और सरकारी एजेंसियों—के साथ काम करते हैं। 
• किशोर और अभिभावक परिषदें: ये परिषदें हमारी कुछ नीतियों और सुविधाओं पर परामर्श करने के लिए युवाओं और उनके अभिभावकों दोनों को शामिल करती हैं और भाषा के बारे में जानकारी प्रदान करती हैं ताकि यह सुनिश्चित हो सके कि छोटे उपयोगकर्ताओं के साथ साझा की जाने वाली सामग्री प्रासंगिक और सम्मानजनक लगे।
• रियल-टाइम वॉयस मॉडरेशन: यह सिस्टम उपयोगकर्ताओं को सूचित करने के लिए सूचनाएं भेजता है कि उन्होंने किसी नीति का उल्लंघन कब किया है, उन्हें हमारी नीतियों के बारे में शिक्षित करता है और बाद के उल्लंघनों के लिए चैट टाइम-आउट लागू करता है। 
• सक्रिय अवतार मध्यस्थता: जैसा कि ऊपर उल्लेख किया गया है, इस नई प्रणाली में उपयोगकर्ताओं को यह सिखाने में मदद करने के लिए जानकारी भी शामिल होगी कि उनका अवतार क्यों प्रकाशित नहीं किया जा सकता है और उनका अवतार या अपडेट किस नीति का उल्लंघन करता है।

वेस्टर्न सिडनी विश्वविद्यालय के यंग एंड रेज़िलिएंट रिसर्च सेंटर की प्रोफेसर अमांडा थर्ड ने कहा, "रॉब्लॉक्स के साथ हमारा सहयोग, युवाओं की भलाई को प्राथमिकता देने वाले डिजिटल वातावरण बनाने के लिए साक्ष्य-आधारित डिज़ाइन के महत्व को रेखांकित करता है।" "यह महत्वपूर्ण कार्य शोधकर्ताओं, युवाओं और उद्योग को एक साथ लाने के मूल्य पर प्रकाश डालता है, ताकि हमारी समझ को गहरा किया जा सके और ऐसे स्थानों को डिज़ाइन किया जा सके जो संबंध, सहानुभूति, समावेशन और सकारात्मक सामाजिक जुड़ाव को बढ़ावा दें। यदि हम बच्चों के अधिकारों को बनाए रखने वाले और सकारात्मक सामाजिक व्यवहारों का सार्थक रूप से समर्थन करने वाले ऑनलाइन वातावरण बनाना चाहते हैं, तो विभिन्न क्षेत्रों का सहयोग आवश्यक है, जिसमें उस प्रक्रिया के केंद्र में युवाओं की आवाज़ हो।"

यह सारा काम युवा संगठनों, जिसमें प्रोजेक्ट रॉकेट (PROJECT ROCKIT) भी शामिल है, के साथ हमारे चल रहे संपर्क और सहयोग का हिस्सा है, ताकि ऑनलाइन बदमाशी को रोकने और ऑनलाइन स्वस्थ, सकारात्मक सामाजिक संबंधों को बढ़ावा देने के उनके काम में सहायता की जा सके।