Roblox वर इन-गेम रिपोर्टिंग कसे कार्य करते

• Roblox दररोज 274 दशलक्ष अवतार अद्यतने प्रक्रिया करते, आणि ही फक्त वापरकर्त्यांनी तयार केलेल्या सामग्रीचा एक प्रकार आहे ज्याचे आम्ही सुरक्षा उल्लंघनांसाठी परीक्षण करतो.¹  
• खेळाडूंचे अहवाल उल्लंघने लवकर ओळखण्याचा महत्त्वाचा भाग आहेत, आणि आम्ही खेळाडूंना जे काही अनुचित किंवा आमच्या धोरणांच्या विरोधात असल्याचे दिसते ते सहजपणे अहवाल करण्यास सक्षम करू इच्छितो. 
• गतिशील, वापरकर्त्याद्वारे तयार केलेल्या 3D सामग्रीतील उल्लंघने पकडणे आव्हानात्मक असू शकते, म्हणून आम्ही रे-कास्टिंग, डेटा मॉडेल क्लोनिंग आणि सुधारित रिपोर्टिंग UI चा वापर करतो, ज्यामुळे खेळाडूंना विशिष्ट वस्तू ओळखून त्यांची अहवाल देणे सोपे होते आणि आम्हाला कारवाईसाठी आवश्यक डेटा व दृश्य पुरावे मिळतात.

उच्चतम काळात, Roblox प्लॅटफॉर्म दररोज 274 दशलक्ष अवतार अद्यतने प्रक्रिया करते.¹ या प्रकारच्या गतिशील, वापरकर्त्याद्वारे तयार केलेल्या 3D सामग्रीतील गैरवर्तनाची तक्रार करणे आणि पुनरावलोकन करणे आव्हानात्मक आहे कारण ते नेहमीच मजकूर लॉग किंवा सोशल मीडिया पोस्टसारख्या स्थिर सामग्रीप्रमाणे स्पष्ट पुरावा सोडत नाही. या ब्लॉग पोस्टमध्ये, आम्ही खेळाडूंच्या अहवालांवर कारवाई करण्यासाठी आवश्यक असलेला डेटा आणि दृश्य संदर्भ कसा गोळा करतो, याबद्दल वर्णन करतो. यामध्ये अपमानजनक अवतार ओळखण्यासाठी आमच्या सुरुवातीच्या रे-कास्टिंग पद्धतीपासून ते आमच्या सध्याच्या प्रणालीपर्यंतचा समावेश आहे, जी Roblox डेटा मॉडेलशी एकत्रित होते, ज्यामुळे खेळाडू कोणतीही 3D गेम वस्तू अचूकपणे रिपोर्ट करू शकतात.

खेळाडू अहवाल संभाव्य धोरण उल्लंघने लवकर ओळखण्याचा एक महत्त्वाचा भाग आहेत, आणि आम्ही अलीकडेच आमच्या अहवाल प्रक्रियेला अद्ययावत केले आहे जेणेकरून खेळाडूंना त्यांना अस्वस्थ किंवा असुरक्षित वाटणारी कोणतीही गोष्ट ताबडतोब अहवाल देणे किंवा ब्लॉक करणे सोपे होईल. आता खेळाडू अहवालांमुळे दर महिन्याला 19,000 पेक्षा जास्त धोरण-उल्लंघन करणाऱ्या अवतार आपोआप काढून टाकले जातात आणि अयोग्य गेम्स शोधण्यासाठी एक महत्त्वाचा प्रारंभिक संकेत म्हणून काम करतात.²

गतिशील सामग्री कॅप्चर करण्याची आव्हान

गतिशील, वापरकर्त्याद्वारे तयार केलेली 3D सामग्री विविध संदर्भांमध्ये एकत्र करून वापरता येऊ शकते, त्यामुळे साधी वर्णने किंवा स्क्रीनशॉट्स नेहमीच आमच्याकडे कारवाई करण्यासाठी आवश्यक डेटा पुरवत नाहीत. सोशल मीडिया पोस्ट, फोरमवरील टिप्पण्या आणि व्हिडिओसारखी स्थिर सामग्री एखाद्या समस्येचे कायमस्वरूपी दस्तऐवजीकरण म्हणून काम करते, ज्यामुळे तक्रार नोंदवणे आणि पुरावे तपासणे सोपे होते. Roblox वर मजकूर आणि व्हॉइस चॅटचे दस्तऐवजीकरण केले जाते, परंतु इतर प्रकारची वापरकर्त्याद्वारे तयार केलेली सामग्री इतकी स्पष्ट नोंद सोडत नाही. प्लॅटफॉर्मवर इतरत्रून प्रतिमा लोड केल्या जाऊ शकतात, गतिशील परस्परसंवाद नोंदवले जाऊ शकत नाहीत, आणि खेळाडू कधीकधी वैयक्तिकदृष्ट्या निरुपद्रवी कपड्यांच्या वस्तू एकत्र करून एक अयोग्य पोशाख तयार करतात. 

गतिशील परिस्थितींमध्ये धोरण उल्लंघने टिपण्यासाठी, अहवाल देणाऱ्याला प्रथम गेममधील विशिष्ट घटक ओळखण्याचा मार्ग हवा असतो. दुसरे म्हणजे, ओळख यंत्रणेने अहवालित सामग्रीसाठी वस्तू आयडी (object IDs) प्रदान करणे आवश्यक आहे, जेणेकरून योग्य वस्तूचे मूल्यांकन करता येईल. 

3D अवकाशात अपमानजनक अवतार ओळखणे 

आमचे मागील रिपोर्टिंग साधन मुख्यतः चॅट लॉगच्या पुराव्यांवर अवलंबून होते. अहवालांमध्ये कोणतीही दृश्य माहिती नसल्यामुळे समजुतीत मोठी अंतरं निर्माण होत होती. जेव्हा आम्ही इतर प्रकारच्या उल्लंघनांबाबत अधिक संदर्भ गोळा करू शकणारे रिपोर्टिंग साधन विकसित करण्यास सुरुवात केली, तेव्हा आम्ही प्रथम प्रत्येक खेळाडू ज्याशी संवाद साधतो अशा वस्तूवर लक्ष केंद्रित केले: अवतार. खेळाडू Roblox वर स्वतःचे प्रतिनिधित्व करण्यासाठी अवतार सानुकूलित करू शकतात, आणि अवताराबद्दलची माहिती गोळा केल्याने चॅटमध्ये कोणताही लेखी पुरावा नसतानाही आम्ही उल्लंघनांना विशिष्ट खेळाडूंशी जोडू शकू. अवतार डेटा प्रभावीपणे ओळखणारी प्रणाली भविष्यात इतर प्रकारच्या वस्तूंसाठीही एक महत्त्वाचा पाया ठरेल. 

संभाव्य उपायांमध्ये अहवालांना अधिक पुरावे जोडण्यासाठी स्क्रीनशॉट्स किंवा पार्श्वभूमी रेकॉर्डिंग्ज घेणे यांचा समावेश होता. आम्ही स्क्रीनशॉटसह चाचणी सुरू केली कारण ती अंतर्दृष्टी मिळवण्याचा सोपा मार्ग होता, जरी त्यात सर्व संभाव्य उल्लंघने टिपली जात नसली तरीही. आम्हाला लवकरच एका मर्यादेचा सामना करावा लागला: 2D प्रतिमेमुळे 3D अवकाशात खेळाडूच्या अवतार आणि इतर अवतार व NPCs यात फरक ओळखायला मदत होत नव्हती. जेव्हा अवतार एकमेकांवर ओव्हरलॅप होत होते, तेव्हा संभाव्य उल्लंघनकर्त्याचा वापरकर्ता आयडी नेहमी अचूकपणे ओळखता येत नव्हता.

आम्हाला अधिक माहिती कशी काढायची हे शोधून काढावे लागले, जेणेकरून एका क्षणी घेतलेली 2D प्रतिमा आम्ही कृतीयोग्य पुराव्यात रूपांतरित करू शकू. 

आम्ही 3D अवकाशातील संबंधित माहिती वेगळी करण्यासाठी आणि अहवाल तयार करताना ती 2D प्रतिमेत सादर करण्यासाठी रे-कास्टिंग ही कार्यक्षम पद्धत म्हणून निवडली. जेव्हा एखादा खेळाडू अहवाल उघडतो, तेव्हा आम्ही प्रथम सत्रातील खेळाडूंची यादी गोळा करतो आणि दृश्यक्षेत्रात नसलेल्या खेळाडूंना वगळतो. नंतर आम्ही रे-कास्टिंगचा वापर करून प्रत्येक खेळाडू अवतारसाठी बाउंडिंग बॉक्स निश्चित करतो. त्याच वेळी, आम्ही Roblox इंजिनच्या फ्रेम बफरची सामग्री आपोआप स्क्रीनशॉटमध्ये जतन करतो. अशा प्रकारे, एक साधा 2D स्क्रीनशॉट 3D जगाबद्दलच्या पुरेशा स्थानिक डेटासह जोडला जाऊ शकतो, ज्यामुळे संभाव्य उल्लंघन करणाऱ्याला इतर अवतार आणि सभोवतालच्या वातावरणापासून वेगळे ओळखता येते. रे-कास्टिंगमुळे आम्ही सरासरी 3.5 मिलीसेकंदात बाउंडिंग बॉक्सेस निश्चित करू शकतो. हळू पद्धतींना अस्वस्थ करणारा विराम घ्यावा लागला असता, ज्यामुळे अनुभव खंडित झाला असता. 

त्यानंतर संभाव्य धोरण उल्लंघनाविषयी इतर संदर्भात्मक माहिती असिंक्रोनस पद्धतीने गोळा केली जाऊ शकते. आज, जेव्हा एखादा खेळाडू अहवाल सुरू करतो, तेव्हा सिस्टम आपोआप ही यंत्रणा सुरू करते. 

हायलाइट मोड

पुढे, आम्हाला एक सहज समजणारा रिपोर्टिंग इंटरफेस हवा होता ज्यामुळे खेळाडूंना नियमभंग करणारी सामग्री पटकन ओळखता यावी. आम्ही आमच्या रिपोर्टिंग इंटरफेसमध्ये हायलाइट मोडची सुधारणा केली, ज्यामुळे खेळाडूंना नियमभंग करणाऱ्या वस्तू हायलाइट करता आल्या आणि त्यांच्या अहवालात अधिक माहितीची नोंद करता आली. जेव्हा एखाद्या खेळाडूने नियमभंग करणाऱ्या वस्तूवर क्लिक केले, तेव्हा आम्ही खेळाडूच्या कर्सरभोवती वर्तुळात किरणे पसरवायचो. जर त्यांनी एखाद्या खेळाडूचा अवतार निवडला, तर आम्ही त्यांचा अहवाल पुनरावलोकन करण्यासाठी आणि कारवाई करण्यासाठी सर्व आवश्यक मेटाडेटा गोळा करू शकलो. आंतरिक वापरकर्ता संशोधनात, हायलाइट मोडला चांगला प्रतिसाद मिळाला, विशेषतः ९ ते १३ वयोगटातील तरुण खेळाडूंकडून, ज्यांना आता समस्या अधिक सहजपणे हायलाइट करता आली आणि ते अहवाल यशस्वीरित्या पूर्ण करू शकले.

या नवीन रिपोर्टिंग साधनाच्या प्रारंभिक आवृत्तीत, आम्ही फक्त अवतारसाठी आयडीच कॅप्चर करत होतो. जर खेळाडूने काहीतरी वेगळे निवडले असते, तर वस्तूचा आयडी कॅप्चर होत नसे. आम्ही अंतर्दृष्टी आणि अधिक संदर्भासाठी अहवाल तपासू शकत होतो, विकासकांशी संपर्क साधू शकत होतो, आणि पुढे काय करायचे ते ठरवू शकत होतो. 

परंतु आम्ही अशी यंत्रणा आखली की खेळाडूंना गेममधील कोणतीही वस्तू अचूकपणे हायलाइट करून तिचा डेटा थेट त्यांच्या अहवालात कॅप्चर करता यावा.

सामान्य सामग्री प्रकारांसाठी डेटा मॉडेल कॅप्चर

जरी आमची वर्तुळाकार किरण प्रक्षेपण पद्धत खेळाडूच्या दृश्यक्षेत्रातील मर्यादित संख्येतील अवतार किंवा जाहिरातींमध्ये फरक ओळखण्यासाठी चांगली कामगिरी करत होती, तरी ती गेममधील प्रत्येक वस्तूसाठी विस्तारयोग्य नव्हती. खालील पर्यावरणाचा विचार करा:

शिला, झुडुपे आणि फुले यांसारख्या अनेक वस्तू एका घनदाट वातावरणात एकमेकांवर ओव्हरलॅप होऊन अ‍ॅनिमेट होत असताना, वर्तुळात रे-कास्टिंग करून एखादे फूल किंवा झुडुप अचूकपणे ओळखणे शक्य नव्हते. खेळाडूंना वस्तू अधिक अचूकपणे हायलाइट करण्याची परवानगी देण्यासाठी आणि खेळातील कोणत्याही वस्तूशी संबंधित डेटा कॅप्चर करण्यासाठी आम्हाला एक मार्ग हवा होता. 

Roblox चे इंजिन आधीच त्याच्या डेटा मॉडेलमध्ये 3D जगाचे प्रतिनिधित्व साठवते, परंतु एका गेमसाठीचे संपूर्ण डेटा मॉडेल गिगाबाइट्स इतक्या आकाराचे असू शकते. गतीसाठी अनुकूल करण्यासाठी, आम्ही एक क्लोनिंग यंत्रणा तयार केली (ही यंत्रणा आम्ही प्रथम Translation Feedback साठी विकसित केली होती) जी सीन रेंडर करण्यासाठी फक्त आवश्यक असलेल्या मुख्य वस्तूंचीच क्लोनिंग करते. एकदा आमच्याकडे डेटा मॉडेलची ही क्लोन केलेली आवृत्ती उपलब्ध झाल्यावर, आम्ही रिपोर्ट करणाऱ्याला क्लोन केलेल्या जगात नेण्यासाठी हायलाइट मोडचा वापर करू शकतो, जिथे खेळाडू 3D मध्ये अचूकपणे ते काय रिपोर्ट करायचे आहे ते हायलाइट करू शकतो. 

या पद्धतीमुळे खेळाडूंना ते काय रिपोर्ट करत आहेत यावर अधिक नियंत्रण मिळते आणि आम्हाला अनेक प्रकारच्या सामग्रीचे मूल्यांकन करण्यासाठी आवश्यक मेटाडेटा मिळते. आम्ही मॉडरेशन पुनरावलोकनास मदत करण्यासाठी अहवालात आपोआप स्क्रीनशॉट जोडतो. 

डेटा अखंडता

प्रकल्पाच्या सुरुवातीपासून आम्ही विचारत असलेला एक महत्त्वाचा प्रश्न म्हणजे पुरावे क्लायंटच्या डिव्हाइसवर की गेम सर्व्हरवर कॅप्चर करावेत. Roblox क्लायंट-साइड स्क्रिप्ट्सना समर्थन देते, ज्या फक्त क्लायंटची स्थिती अद्ययावत करू शकतात, सर्व्हरवर नाही. याव्यतिरिक्त, काही भौतिकशास्त्रीय प्रभाव अनिर्धारित असतात, ज्याचा अर्थ सर्व्हर-साइड कॅप्चरमध्ये रिपोर्टरने अनुभवलेली गोष्ट अचूकपणे दिसणार नाही. आम्ही क्लायंट-साइड कॅप्चरची पद्धत निवडली, ज्यामुळे रिपोर्ट करणाऱ्याला ते जे पाहत आहेत त्याचे अचूक प्रतिनिधित्व कॅप्चर करता येईल, परंतु यात एक तोटा आहे: एखादा दुर्भावनापूर्ण वापरकर्ता क्लायंटमध्ये प्रवेश मिळवून पुरावे बनावट करू शकतो. 

यावर उपाय म्हणून, आम्ही विविध संकेतांद्वारे अचूकता पडताळतो आणि अचूक नसलेल्या क्लायंट प्रतिनिधित्वांना वगळतो. एक उपमा म्हणून, हवामानशास्त्रज्ञ प्रत्येक हवामान केंद्राकडून अचूक मोजमाप न मिळाल्या तरीही अचूक हवामान अंदाज तयार करू शकतात. 

भविष्यातील काम  

या सुधारणा आणि अधिक समृद्ध दृश्य माहिती कॅप्चर करण्याच्या क्षमतेमुळे, ही प्रणाली आता दर महिन्याला 19,000 पेक्षा जास्त धोरण-भंग करणाऱ्या अवतारांना आपोआप काढून टाकत आहे आणि अयोग्य खेळ ओळखण्यासाठी एक महत्त्वाचा संकेत बनली आहे. आम्हाला मजबूत स्वीकारही दिसला आहे, सुमारे 19% पात्र अहवालांमध्ये दृश्य टीपांचा समावेश आहे.² 

आम्ही सुधारणांच्या पुढील टप्प्यावर आधीच काम करत आहोत, ज्यात डायनॅमिक उल्लंघनांचा (उदा. प्लेअरच्या हालचालींसह इमोट्स) शोध घेण्याचा मार्ग विकसित केला जात आहे, जे एका विशिष्ट क्षणाच्या स्नॅपशॉटद्वारे ठरवता येत नाहीत. या वर्षाच्या उत्तरार्धात, आम्ही अहवालित सीनचा वेळ-क्रमाचा संग्रह सक्षम करण्याची योजना आखत आहोत. रॅब्लॉक्स निर्मात्यांना अधिक समृद्ध इन-गेम परस्परसंवाद तयार करण्यासाठी साधने पुरवत राहिल्यामुळे, आमची सुरक्षा टीम सर्व खेळाडूंसाठी सुरक्षित वातावरण वाढवण्याचे काम सुरूच ठेवेल.

या प्रकल्पावर केलेल्या कामाबद्दल आम्ही राय्यान हुसेन, रायन लियू, ब्रिजेट डेली, अगाथा कील्चेव्स्की, अॅलेक्स लेविट, यिंग लियाओ आणि अँड्र्यू झू यांचे आभार मानतो.