రాబ్లాక్స్లో ఇన్-గేమ్ రిపోర్టింగ్ ఎలా పనిచేస్తుంది
డైనమిక్ 3D వాతావరణాలలో వివరణాత్మక నివేదికలను సంగ్రహించడంలో ఉన్న టెక్నాలజీ
- రోబ్లాక్స్ రోజుకు 274 మిలియన్ల అవతార్ అప్డేట్లను ప్రాసెస్ చేస్తుంది, మరియు భద్రతా ఉల్లంఘనల కోసం మేము నియంత్రించే వినియోగదారు-సృష్టించిన కంటెంట్లో ఇది కేవలం ఒక రకం మాత్రమే.1
- ఉల్లంఘనలను ముందుగా గుర్తించడంలో ప్లేయర్ల నివేదికలు కీలక పాత్ర పోషిస్తాయి, మరియు తమకు తగనివిగా లేదా మా విధానాలకు విరుద్ధంగా అనిపించే దేనినైనా ప్లేయర్లు సులభంగా నివేదించేలా మేము చేయాలనుకుంటున్నాము.
- డైనమిక్, యూజర్-జెనరేటెడ్ 3D కంటెంట్లోని ఉల్లంఘనలను పట్టుకోవడం సవాలుగా ఉంటుంది కాబట్టి, చర్య తీసుకోవడానికి మాకు అవసరమైన డేటా మరియు దృశ్య సాక్ష్యాలతో నిర్దిష్ట వస్తువులను గుర్తించి, నివేదించడంలో ఆటగాళ్లకు సహాయపడటానికి మేము రే కాస్టింగ్, డేటా మోడల్ క్లోనింగ్ మరియు పునరుద్ధరించిన రిపోర్టింగ్ UIని ఉపయోగిస్తాము.
అత్యధిక సమయంలో, రాబ్లాక్స్ ప్లాట్ఫారమ్ రోజుకు 274 మిలియన్ల అవతార్ అప్డేట్లను ప్రాసెస్ చేస్తుంది.1 ఈ రకమైన డైనమిక్, యూజర్-జనరేటెడ్ 3D కంటెంట్లో దుర్వినియోగాన్ని నివేదించడం మరియు సమీక్షించడం సవాలుతో కూడుకున్నది, ఎందుకంటే ఇది టెక్స్ట్ లాగ్ లేదా సోషల్ మీడియా పోస్ట్ వంటి స్టాటిక్ కంటెంట్ వలె ఎల్లప్పుడూ స్పష్టమైన ఆధారాన్ని వదిలిపెట్టదు. ఈ బ్లాగ్ పోస్ట్లో, దుర్వినియోగం చేసే అవతార్లను గుర్తించడానికి మా ప్రారంభ రే క్యాస్టింగ్ విధానం నుండి, ఆటగాళ్ళు ఏ 3D గేమ్ ఆబ్జెక్ట్నైనా కచ్చితంగా నివేదించడానికి వీలుగా Roblox డేటా మోడల్తో అనుసంధానించబడిన మా ప్రస్తుత సిస్టమ్ వరకు, ఆటగాళ్ల నివేదికలపై చర్య తీసుకోవడానికి అవసరమైన డేటా మరియు దృశ్య సందర్భాన్ని సంగ్రహించే మా విధానాన్ని మేము వివరిస్తున్నాము.
సంభావ్య విధాన ఉల్లంఘనలను ముందుగా గుర్తించడంలో ప్లేయర్ నివేదికలు ఒక కీలకమైన భాగం, మరియు ఇటీవల మేము మా రిపోర్టింగ్ ఫ్లోను అప్డేట్ చేసాము, తద్వారా ఆటగాళ్లకు అసౌకర్యంగా లేదా అసురక్షితంగా అనిపించే దేనినైనా తక్షణమే నివేదించడం లేదా బ్లాక్ చేయడం సులభం అవుతుంది. ప్లేయర్ నివేదికల ఫలితంగా ఇప్పుడు ప్రతి నెలా 19,000 కంటే ఎక్కువ విధాన ఉల్లంఘన అవతారాలు ఆటోమేటిక్గా తొలగించబడుతున్నాయి మరియు అనుచితమైన గేమ్లను గుర్తించడానికి ఒక ముఖ్యమైన ముందస్తు సంకేతంగా పనిచేస్తాయి.2
డైనమిక్ కంటెంట్ను సంగ్రహించడంలో సవాలు
డైనమిక్, యూజర్-జనరేటెడ్ 3D కంటెంట్ను వివిధ సందర్భాలలో కలపవచ్చు మరియు ఉపయోగించవచ్చు కాబట్టి, చర్య తీసుకోవడానికి అవసరమైన డేటాను సాధారణ వివరణలు లేదా స్క్రీన్షాట్లు ఎల్లప్పుడూ అందించవు. సోషల్ మీడియా పోస్ట్లు, ఫోరమ్ వ్యాఖ్యలు మరియు వీడియోల వంటి స్టాటిక్ కంటెంట్ ఒక సమస్యకు శాశ్వత డాక్యుమెంటేషన్గా పనిచేస్తుంది, ఇది ఫిర్యాదు చేయడానికి మరియు సాక్ష్యాలను సమీక్షించడానికి సులభతరం చేస్తుంది. Robloxలో టెక్స్ట్ మరియు వాయిస్ చాట్లు డాక్యుమెంట్ చేయబడతాయి, కానీ ఇతర రకాల యూజర్-జనరేటెడ్ కంటెంట్ అంత స్పష్టమైన జాడను వదిలిపెట్టదు. ప్లాట్ఫారమ్లో ఇతర చోట్ల నుండి చిత్రాలను లోడ్ చేయవచ్చు, డైనమిక్ ఇంటరాక్షన్లు డాక్యుమెంట్ చేయబడకపోవచ్చు, మరియు ఆటగాళ్ళు కొన్నిసార్లు వ్యక్తిగతంగా హానిచేయని దుస్తుల వస్తువులను కలిపి, అనుచితమైన దుస్తులను తయారు చేస్తారు.
వేగవంతమైన పరిస్థితులలో విధాన ఉల్లంఘనలను పట్టుకోవడానికి, ఒక రిపోర్టర్కు మొదట గేమ్లోని నిర్దిష్ట అంశాలను గుర్తించే మార్గం అవసరం. రెండవది, నివేదించబడిన కంటెంట్ కోసం వస్తువు IDలను అందించే గుర్తింపు యంత్రాంగం ఉండాలి, తద్వారా సరైన వస్తువును మూల్యాంకనం చేయవచ్చు.
3D స్పేస్లో దుర్వినియోగ అవతార్లను గుర్తించడం
మా మునుపటి రిపోర్టింగ్ సాధనం ప్రధానంగా చాట్ లాగ్ ఆధారాలపై ఆధారపడింది. నివేదికలలో ఎలాంటి దృశ్య సమాచారం ఉండేది కాదు, ఇది అవగాహనలో పెద్ద అంతరాలను సృష్టించింది. ఇతర రకాల ఉల్లంఘనల చుట్టూ మరింత సందర్భాన్ని సంగ్రహించగల రిపోర్టింగ్ సాధనంపై మేము పని చేయడం ప్రారంభించినప్పుడు, ప్రతి ఆటగాడు సంకర్షించుకునే ఒక రకమైన వస్తువుపై మేము మొదట దృష్టి సారించాము: అవతారాలు. రోబ్లాక్స్లో తమను తాము సూచించుకోవడానికి ఆటగాళ్లు అవతార్లను అనుకూలీకరించవచ్చు, మరియు ఒక అవతార్ గురించిన సమాచారాన్ని సంగ్రహించడం అంటే, చాట్లో ఎటువంటి ఆధారం లేకపోయినా కూడా మేము ఉల్లంఘనలను నిర్దిష్ట ఆటగాళ్లతో అనుబంధించగలుగుతాము. అవతార్ డేటాను సమర్థవంతంగా గుర్తించగల ఒక వ్యవస్థ భవిష్యత్తులో ఇతర రకాల వస్తువులకు కూడా ఒక ముఖ్యమైన పునాదిగా ఉంటుంది.
నివేదికలకు మరింత సాక్ష్యంతో అనుబంధంగా స్క్రీన్షాట్లు తీయడం లేదా బ్యాక్గ్రౌండ్ రికార్డింగ్లు చేయడం వంటి సంభావ్య పరిష్కారాలు ఉన్నాయి. మేము స్క్రీన్షాట్లతో పరీక్షించడం ప్రారంభించాము, ఎందుకంటే అవి అన్ని ఉల్లంఘనలను బంధించకపోయినా, అంతర్దృష్టులను సేకరించడానికి సులభమైన మార్గం. మేము త్వరగా ఒక పరిమితిని ఎదుర్కొన్నాము: 2D చిత్రం 3D ప్రదేశంలోని ఇతర అవతారాలు మరియు NPCల నుండి ఒక ఆటగాడి అవతారాన్ని వేరు చేయడానికి మాకు సహాయపడలేదు. అవతారాలు ఒకదానిపై ఒకటి వచ్చినప్పుడు, ఉల్లంఘించిన అనుమానితుడి యూజర్ IDని మేము ఎల్లప్పుడూ కచ్చితంగా గుర్తించలేకపోయాము.
మేము ఒకే సమయంలో తీసిన 2D చిత్రాన్ని ఆచరణీయమైన సాక్ష్యంగా మార్చడానికి, మరింత సమాచారాన్ని ఎలా సంగ్రహించాలో కనుక్కోవాల్సి వచ్చింది.
3D స్థలంలో సంబంధిత సమాచారాన్ని వేరు చేయడానికి మరియు నివేదిక సమయంలో దానిని 2D చిత్రంలో సూచించడానికి రే కాస్టింగ్ను సమర్థవంతమైన పద్ధతిగా మేము ఎంచుకున్నాము. ఒక ప్లేయర్ నివేదికను తెరిచినప్పుడు, మేము మొదట సెషన్లోని ప్లేయర్ల జాబితాను సేకరించి, వ్యూపోర్ట్లో లేని వారిని ఫిల్టర్ చేస్తాము. ఆ తర్వాత, ప్రతి ప్లేయర్ అవతార్ కోసం బౌండింగ్ బాక్స్లను నిర్ధారించడానికి మేము రే కాస్టింగ్ను ఉపయోగిస్తాము. అదే సమయంలో, మేము రాబ్లాక్స్ ఇంజిన్ యొక్క ఫ్రేమ్ బఫర్ కంటెంట్ను ఒక స్క్రీన్షాట్గా ఆటోమేటిక్గా సేవ్ చేస్తాము. ఈ విధంగా, ఒక సాధారణ 2D స్క్రీన్షాట్ను 3D ప్రపంచం గురించిన తగినంత స్థానక డేటాతో జత చేయవచ్చు, దీని ద్వారా ఇతర అవతార్లు మరియు చుట్టూ ఉన్న వాతావరణం నుండి సంభావ్య ఉల్లంఘనకారుడిని వేరు చేయవచ్చు. రే కాస్టింగ్ సగటున 3.5 మిల్లీసెకన్లలో బౌండింగ్ బాక్స్లను నిర్ధారించడానికి మాకు వీలు కల్పిస్తుంది. నెమ్మదైన పద్ధతులు అనుభవానికి అంతరాయం కలిగించే విధంగా ఇబ్బందికరమైన విరామాన్ని అవసరం చేసేవి.
అక్కడ నుండి, సంభావ్య పాలసీ ఉల్లంఘన గురించిన ఇతర సందర్భోచిత సమాచారాన్ని అసింక్రోనస్గా సేకరించవచ్చు. ఈ రోజు, ఒక ప్లేయర్ రిపోర్ట్ను ప్రారంభించినప్పుడు సిస్టమ్ ఈ మెకానిజంను స్వయంచాలకంగా ప్రారంభిస్తుంది.
హైలైట్ మోడ్
తరువాత, ఆటగాళ్లు ఉల్లంఘన కంటెంట్ను త్వరగా గుర్తించడానికి వీలుగా మాకు ఒక సులభమైన రిపోర్టింగ్ ఇంటర్ఫేస్ అవసరమైంది. ఆటగాళ్లు అభ్యంతరకరమైన అంశాలను హైలైట్ చేయడానికి మరియు వారి నివేదికలకు మరింత సమాచారంతో అనోటేట్ చేయడానికి వీలుగా, మేము మా రిపోర్టింగ్ ఇంటర్ఫేస్ను హైలైట్ మోడ్తో అప్డేట్ చేసాము. ఒక ఆటగాడు అభ్యంతరకరమైన అంశంపై క్లిక్ చేసినప్పుడు, మేము ఆటగాడి కర్సర్ చుట్టూ ఒక వృత్తంలో కిరణాలను వ్యాపింపజేసేవాళ్ళం. వారు ఒక ఆటగాడి అవతార్ను ఎంచుకుంటే, వారి నివేదికను సమీక్షించడానికి మరియు చర్య తీసుకోవడానికి అవసరమైన మొత్తం మెటాడేటాను మేము సంగ్రహించగలిగేవాళ్ళం. అంతర్గత వినియోగదారుల పరిశోధనలో, హైలైట్ మోడ్కు మంచి స్పందన వచ్చింది, ముఖ్యంగా 9-13 సంవత్సరాల వయస్సు గల చిన్న ఆటగాళ్లు కూడా ఇప్పుడు ఒక సమస్యను సులభంగా హైలైట్ చేసి, విజయవంతంగా ఒక నివేదికను పూర్తి చేయగలిగారు.
కొత్త రిపోర్టింగ్ టూల్ యొక్క ఈ ప్రారంభ వెర్షన్తో, మేము కేవలం అవతార్ల IDలను మాత్రమే సంగ్రహించాము. ఒకవేళ ఆటగాడు వేరే దాన్ని ఎంచుకుంటే, మేము ఆబ్జెక్ట్ IDను సంగ్రహించేవాళ్ళం కాదు. మేము అంతర్దృష్టులు మరియు మరింత సందర్భం కోసం నివేదికలను పరిశీలించగలిగాము, డెవలపర్లను సంప్రదించగలిగాము, మరియు తర్వాత ఏమి చేయాలో నిర్ణయించుకోగలిగాము.
కానీ మేము ఒక విధానాన్ని ఊహించాము, అది ప్లేయర్లను గేమ్లోని ఏదైనా ఐటమ్ను కచ్చితంగా హైలైట్ చేసి, దాని డేటాను నేరుగా వారి రిపోర్ట్లో క్యాప్చర్ చేయడానికి అనుమతిస్తుంది.
సాధారణ కంటెంట్ రకాల కోసం డేటా మోడల్ క్యాప్చర్
ప్లేయర్ యొక్క వ్యూపోర్ట్లో పరిమిత సంఖ్యలో ఉన్న అవతార్లు లేదా ప్రకటనలను వేరు చేయడానికి మా సర్క్యులర్ రే కాస్టింగ్ విధానం బాగా పనిచేసినప్పటికీ, అది గేమ్లోని ప్రతి వస్తువుకు స్కేల్ చేయడానికి అనువుగా లేదు. కింద ఉన్న వాతావరణాన్ని పరిగణించండి:
రాళ్లు, పొదలు, మరియు పువ్వుల వంటి డజన్ల కొద్దీ వస్తువులు ఒకదానిపై ఒకటి అతివ్యాప్తి చెందుతూ మరియు యానిమేట్ అయ్యే ఒక దట్టమైన వాతావరణంలో, ఒక వృత్తంలో రే కాస్టింగ్ చేయడం ద్వారా ఒకే పువ్వును లేదా పొదను నమ్మకంగా గుర్తించలేము. ఆటగాళ్లు వస్తువులను మరింత కచ్చితత్వంతో హైలైట్ చేయడానికి మేము అనుమతించాల్సి వచ్చింది, మరియు ఆటలోని ఏదైనా వస్తువుకు సంబంధించిన డేటాను సంగ్రహించడానికి మాకు ఒక మార్గం అవసరమైంది.
రాబ్లాక్స్ ఇంజిన్ ఇప్పటికే దాని డేటా మోడల్లో 3D ప్రపంచం యొక్క ప్రాతినిధ్యాన్ని నిల్వ చేస్తుంది, కానీ ఒక గేమ్ కోసం మొత్తం డేటా మోడల్ గిగాబైట్ల పరిమాణంలో ఉండవచ్చు. వేగం కోసం ఆప్టిమైజ్ చేయడానికి, మేము ఒక క్లోనింగ్ మెకానిజం (మేము ట్రాన్స్లేషన్ ఫీడ్బ్యాక్ కోసం మొదట అభివృద్ధి చేసిన ఒక మెకానిజం)ను సృష్టించాము, ఇది ఒక సన్నివేశాన్ని రెండర్ చేయడానికి అవసరమైన కీలకమైన ఆబ్జెక్ట్లను మాత్రమే క్లోన్ చేస్తుంది. డేటా మోడల్ యొక్క ఈ క్లోన్ చేయబడిన వెర్షన్ మా వద్ద ఉన్న తర్వాత, రిపోర్టర్ 3Dలో వారు ఏమి రిపోర్ట్ చేయాలనుకుంటున్నారో కచ్చితంగా హైలైట్ చేయడానికి వీలుగా, వారిని క్లోన్ చేయబడిన ప్రపంచంలోకి తీసుకువెళ్లడానికి మేము హైలైట్ మోడ్ను ఉపయోగించవచ్చు.
ఈ విధానం, వారు ఏమి నివేదిస్తున్నారో దానిపై ఆటగాడికి ఎక్కువ నియంత్రణను ఇస్తుంది మరియు అనేక రకాల కంటెంట్లను మూల్యాంకనం చేయడానికి అవసరమైన మెటాడేటాను మాకు అందిస్తుంది. మోడరేషన్ సమీక్షకు సహాయపడటానికి మేము నివేదికకు స్వయంచాలకంగా ఒక స్క్రీన్షాట్ను కూడా జతచేస్తాము.
డేటా సమగ్రత
ప్రాజెక్ట్ ప్రారంభం నుండి మేము అడిగే ఒక ముఖ్యమైన ప్రశ్న ఏమిటంటే, మేము సాక్ష్యాలను క్లయింట్ పరికరంలో సంగ్రహించాలా లేదా గేమ్ సర్వర్లో సంగ్రహించాలా అనేది. రాబ్లాక్స్ క్లయింట్-సైడ్ స్క్రిప్ట్లకు మద్దతు ఇస్తుంది, ఇవి కేవలం క్లయింట్ స్థితిని మాత్రమే అప్డేట్ చేయగలవు, సర్వర్ను కాదు. అదనంగా, కొన్ని ఫిజిక్స్ ఎఫెక్ట్లు నాన్డెటర్మినిస్టిక్ (nondeterministic)గా ఉంటాయి, అంటే సర్వర్-సైడ్ క్యాప్చర్ రిపోర్టర్ అనుభవించిన దానిని ఖచ్చితంగా చూపకపోవచ్చు. రిపోర్టర్ వారు చూస్తున్న దాని యొక్క నిజాయితీ గల ప్రతినిధిత్వాన్ని క్యాప్చర్ చేయగలరని నిర్ధారించుకోవడానికి మేము క్లయింట్-సైడ్ క్యాప్చర్ను ఎంచుకున్నాము, కానీ దానితో ఒక ప్రతికూలత ఉంది: ఒక దుండగుడు క్లయింట్కు యాక్సెస్ పొంది, తప్పుడు సాక్ష్యాలను సృష్టించవచ్చు.
దీనిని తగ్గించడానికి, మేము వివిధ రకాల సిగ్నల్లతో కచ్చితత్వాన్ని ధృవీకరిస్తాము మరియు అనగ్రహీత క్లయింట్ ప్రాతినిధ్యాలను తొలగిస్తాము. ఒక ఉపమానంగా, వాతావరణ శాస్త్రవేత్తలు ప్రతి వాతావరణ కేంద్రం నుండి కచ్చితమైన రీడింగ్లు అందకపోయినా కూడా కచ్చితమైన వాతావరణ సూచనలను అందించగలరు.
భవిష్యత్ పని
ఈ మెరుగుదలలకు మరియు మరింత సమృద్ధిగా దృశ్య సమాచారాన్ని సంగ్రహించగల సామర్థ్యానికి ధన్యవాదాలు, ఈ సిస్టమ్ ఇప్పుడు నెలకు 19,000 కంటే ఎక్కువ విధాన ఉల్లంఘన అవతార్లను స్వయంచాలకంగా తొలగిస్తోంది మరియు అనుచితమైన గేమ్లను గుర్తించడానికి ఒక ముఖ్యమైన సంకేతంగా మారింది. అర్హత ఉన్న నివేదికలలో సుమారు 19% దృశ్య అనోటేషన్లను చేర్చడంతో, దీనికి బలమైన ఆదరణ లభించినట్లు కూడా మేము చూశాము.2
మేము ఇప్పటికే మెరుగుదలల తదుపరి దశపై పని చేస్తున్నాము, పాయింట్-ఇన్-టైమ్ స్నాప్షాట్ల ద్వారా నిర్ధారించలేని డైనమిక్ ఉల్లంఘనలను (ఉదాహరణకు, ప్లేయర్ కదలికతో కలిసిన ఎమోట్స్) గుర్తించే ఒక మార్గాన్ని అభివృద్ధి చేస్తున్నాము. ఈ సంవత్సరం చివర్లో, నివేదించబడుతున్న దృశ్యం యొక్క టైమ్ సీక్వెన్స్ను క్యాప్చర్ చేయడానికి అనుమతించాలని మేము ప్లాన్ చేస్తున్నాము. రాబ్లాక్స్ సృష్టికర్తలకు మరింత మెరుగైన ఇన్-గేమ్ ఇంటరాక్షన్లను రూపొందించడానికి అవసరమైన సాధనాలను అందిస్తూనే ఉన్నందున, మా భద్రతా బృందం అన్ని ప్లేయర్లకు సురక్షితమైన వాతావరణాన్ని ప్రోత్సహించడం కొనసాగిస్తుంది.
ఈ ప్రాజెక్ట్లో వారి కృషికి రాయన్ హుస్సేన్, ర్యాన్ లియు, బ్రిడ్జెట్ డాలీ, అగాథా కీల్జెవ్స్కీ, అలెక్స్ లెవిట్, యంగ్ లియావో, మరియు ఆండ్రూ జులకు మేము ధన్యవాదాలు తెలియజేస్తున్నాము.
1H1, 2025 డేటా ఆధారంగా.
2మార్చి 1 నుండి ఏప్రిల్ 1, 2026 వరకు ఉన్న డేటా ఆధారంగా.
