భద్రత సంక్షిప్త వీక్షణ: మార్చి

మా మార్చి సేఫ్టీ స్నాప్‌షాట్‌లో, సమస్యాత్మక కంటెంట్‌ను గుర్తించి, తొలగించడానికి రూపొందించిన ఆటోమేటెడ్ సిస్టమ్‌ల ద్వారా మేము కంటెంట్‌ను ఎలా మోడరేట్ చేస్తామో పంచుకుంటున్నాము—తరచుగా వినియోగదారులు చూడకముందే. మేము సృష్టికర్తలకు వారి సొంత గేమ్‌లలో చెడ్డ వినియోగదారు ప్రవర్తనను గుర్తించి, పరిష్కరించడానికి అధికారం ఇచ్చే ఒక కొత్త డాష్‌బోర్డ్‌ను, మరియు పరిశ్రమ అంతటా కమ్యూనిటీ మేనేజర్‌లకు శిక్షణ ఇవ్వడానికి ఒక కొత్త కార్యక్రమాన్ని కూడా పంచుకుంటున్నాము. వినియోగదారు రిపోర్టింగ్ సాధనాల గురించి మరింత సమాచారం కోసం గత నెల సేఫ్టీ స్నాప్‌షాట్‌ను చూడండి. 

వినియోగదారుల ప్రవర్తనను నిరంతరం నియంత్రణలో ఉంచడం 

రాబ్లాక్స్ యొక్క ప్రత్యేకతలో ఒక భాగం మా సృష్టికర్తలు నిరంతరం ఉత్పత్తి చేసే విస్తరిస్తున్న మరియు మారుతున్న కంటెంట్. ఏ క్షణంలోనైనా, సృష్టికర్తలు గేమ్ అప్‌డేట్‌లను ప్రచురిస్తుంటారు మరియు కొత్త బ్యాడ్జ్‌లు లేదా పెంపుడు జంతువులను జోడిస్తుంటారు, మరియు వినియోగదారులు తమ అవతార్ల దుస్తులను మార్చుకుంటూ, నిజ సమయంలో వస్తువులకు రంగులు వేస్తూ లేదా నిర్మిస్తూ ఉంటారు. ఇది ప్లాట్‌ఫారమ్‌లో ప్రచురించబడటానికి ముందు మేము వీటన్నింటినీ సమీక్షిస్తాము మరియు మా మార్గదర్శకాలకు విరుద్ధంగా ఉన్న దేనినైనా తొలగిస్తాము. 

బహుళ స్థాయిల మోడరేషన్ సాధనాలు రాబ్లాక్స్‌లోని అధిక భాగం సమస్యాత్మక కంటెంట్‌ను పట్టుకుంటాయి, మరియు మా కమ్యూనిటీ ప్రమాణాలకు విరుద్ధంగా ఉన్న దేనినైనా మేము తిరస్కరిస్తాము. కానీ మేము పరిపూర్ణులం కాదు, కాబట్టి మేము కోల్పోయి ఉండగల దేనినైనా కనుగొనడంలో సహాయపడటానికి వినియోగదారుల నివేదికలను ఉపయోగించుకుంటాము మరియు తదనుగుణంగా చర్య తీసుకుంటాము.

రోబ్లాక్స్ గేమ్‌ల యొక్క డైనమిక్ స్వభావం అంటే, వినియోగదారులు ముందుగా ఆమోదించబడిన అవతారాలు, దుస్తులు మరియు కదలికలను ఎలా కలపడంపై ఆధారపడి కంటెంట్ నిరంతరం మారుతూ ఉంటుంది. ఉదాహరణకు, స్వేచ్ఛగా డ్రాయింగ్ చేయడానికి అనుమతించే గేమ్‌లలో, ఒక వినియోగదారు అభ్యంతరకరమైన చిహ్నం లేదా వస్తువును గీయవచ్చు. అందుకే మేము ఇటీవల, ఈ కలయికలన్నింటినీ కలిపి స్కాన్ చేయగల రియల్-టైమ్ మల్టీమోడల్ మోడరేషన్ కోసం ఒక కొత్త AI సిస్టమ్‌ను ప్రారంభించాము. 

సాంప్రదాయ AI మోడరేషన్ వ్యవస్థలు ఒకేసారి ఒక వస్తువును మూల్యాంకనం చేయడానికి రూపొందించబడ్డాయి మరియు తరచుగా సందర్భం లేకుండా ఉంటాయి, దీనివల్ల విడివిడిగా ఉన్నప్పుడు సమస్యాత్మకంగా ఉండని కలయికలు కూడా సమస్యను సృష్టించే అవకాశం ఉంటుంది. మా కొత్త రియల్-టైమ్ మల్టీమోడల్ మోడరేషన్ సిస్టమ్ అవతారాలు, టెక్స్ట్ మరియు 3D వస్తువులతో సహా ఒక పూర్తి దృశ్యాన్ని మూల్యాంకనం చేస్తుంది. ఇది ఈ అన్ని అంశాలను ఒక నిర్దిష్ట క్షణంలో కలిపి పట్టుకుంటుంది మరియు పూర్తి దృశ్యం మా నియమాలను ఉల్లంఘిస్తుందో లేదో అంచనా వేస్తుంది. ఒకే గేమ్ ఇన్‌స్టాన్స్‌లో ఈ రకమైన సమస్యాత్మక ప్రవర్తన పదేపదే సంభవిస్తే, సిస్టమ్ మొత్తం గేమ్‌ను కాకుండా, కేవలం ఆ ఒక్క ఇన్‌స్టాన్స్‌ను (సర్వర్ అని కూడా పిలుస్తారు) మూసివేస్తుంది. 

ఈ బహుళ-మోడల్ వ్యవస్థను ప్రారంభించినప్పటి నుండి, మా కమ్యూనిటీ ప్రమాణాలను ఉల్లంఘించే రోజుకు సుమారు 5,000 ఇన్‌స్టాన్స్‌లను మేము మూసివేశాము. మేము శిక్షణ మరియు విస్తరణ చేస్తున్న కొద్దీ, మా ఖచ్చితత్వాన్ని నిరంతరం మెరుగుపరుస్తున్నాము మరియు తప్పుడు పాజిటివ్‌లను తగ్గించడానికి కమ్యూనిటీతో కలిసి పనిచేస్తున్నాము. ప్లేటైమ్ యొక్క 100% ని క్యాప్చర్ చేసి, పర్యవేక్షించడానికి ఈ మల్టీమోడల్ సిస్టమ్‌ను విస్తరించడానికి మేము కృషి చేస్తున్నాము. కానీ ఏ సిస్టమ్‌నైనా తప్పించుకోవడానికి ప్రయత్నించే వ్యక్తులు ఎల్లప్పుడూ ఉంటారు, కాబట్టి సర్వర్‌లను షట్ డౌన్ చేయడం కంటే అతీతమైన సాంకేతికతను మేము చురుకుగా అభివృద్ధి చేస్తున్నాము. మంచి ఉద్దేశ్యం ఉన్న ఆటగాళ్ల అనుభవానికి ఆటంకం కలిగించకుండా, నిర్దిష్ట దుష్ప్రవర్తనకారులను గుర్తించే మార్గాలపై మేము పని చేస్తున్నాము, తద్వారా వారిని తొలగించగలము.

సర్వర్ షట్‌డౌన్‌లపై క్రియేటర్‌లకు పారదర్శకతను అందించడం

సేఫ్టీ ఓవర్‌వ్యూ డాష్‌బోర్డ్‌కు ఒక అదనపు విభాగాన్ని జోడించడం ద్వారా, ఈ బహుళ-మోడల్ మోడరేషన్ వ్యవస్థ యొక్క ఫలితాలపై సృష్టికర్తలకు మేము మరింత పారదర్శకతను అందిస్తున్నాము. పైన పేర్కొన్నట్లుగా, చెడు వినియోగదారుల ప్రవర్తన కారణంగా గేమ్ సర్వర్‌లు దెబ్బతిన్నప్పుడు మేము వాటిని మూసివేస్తాము. వారి గేమ్‌లలో ఇది ఎంత తరచుగా జరుగుతుందో సృష్టికర్తలకు మరింత స్పష్టతనివ్వడానికి, మేము వారి ప్రస్తుత క్రియేటర్ డాష్‌బోర్డ్‌కు ఒక కొత్త చార్ట్‌ను జోడించాము. 

దుర్వినియోగం చేసే వినియోగదారుల ప్రవర్తన కారణంగా (అంటే, మా వేధింపు మరియు వివక్ష లేదా శృంగార మరియు లైంగిక కంటెంట్ విధానాలను ఉల్లంఘించడం) తమ గేమ్ సర్వర్‌లలో ఎన్ని మూసివేయబడ్డాయో క్రియేటర్లు ఇప్పుడు చూడగలరు. ఇది మూసివేతలు వారి విస్తృత సమాజాన్ని ప్రభావితం చేయడానికి ముందే చర్య తీసుకోవడానికి, అకస్మాత్తుగా పెరుగుదలను గుర్తించడంలో వారికి సహాయపడుతుంది. ఆ తర్వాత వారు తమ గేమ్‌ను నిశితంగా పరిశీలించి, సమస్యాత్మక సృష్టిలను నివారించడంలో సహాయపడటానికి కస్టమ్ ఎమోట్‌లు, అవతార్ ఎడిటింగ్ టూల్స్, లేదా ఇన్-గేమ్ యూజర్ క్రియేషన్ ఫీచర్లలో మార్పులు అవసరమా లేదా అని నిర్ణయించుకోవచ్చు. 

డిజిటల్ మోడరేటర్లకు శిక్షణ 

రాబ్లాక్స్, కీవర్డ్ స్టూడియోస్, మరియు రైట్ గేమ్స్ సంస్థలు, రీసెర్చ్ సైకాలజిస్ట్ మరియు గేమ్స్ ఫర్ చేంజ్ రీసెర్చ్ డైరెక్టర్ అయిన రాచెల్ కోవర్ట్‌తో కలిసి డిజిటల్ కమ్యూనిటీ నాయకుల కోసం ఒక కొత్త సర్టిఫికేషన్ ప్రోగ్రామ్‌ను ప్రారంభిస్తున్నాయి. రాబ్లాక్స్, కొత్త DLC లీడర్‌షిప్ ప్రోగ్రామ్ కోసం పాఠ్యాంశాలను రూపొందించడంలో మరియు దానిని ప్రయోగాత్మకంగా అమలు చేయడంలో కమ్యూనిటీ మోడరేషన్ మరియు ప్రోసోషియల్ డిజైన్‌పై తమ నైపుణ్యాన్ని అందిస్తుంది. గేమింగ్ రంగంలో ఆన్‌లైన్ మోడరేటర్లు, కమ్యూనిటీ మేనేజర్లు మరియు సృష్టికర్తలకు ప్రామాణికమైన శిక్షణ లేకపోవడాన్ని పరిష్కరించడమే ఈ కార్యక్రమం యొక్క లక్ష్యం. ఇటీవలి ఒక వ్యాసంలో, ఈ కార్యక్రమం యొక్క లక్ష్యం "గేమింగ్ కమ్యూనిటీలు మరియు ఆన్‌లైన్ ప్రవర్తనపై జరిపిన పరిశోధనను, డిజిటల్ నాయకులు మరింత స్థితిస్థాపకమైన మరియు స్థిరమైన ఆన్‌లైన్ కమ్యూనిటీలను నిర్మించడానికి ఉపయోగపడే ఆచరణాత్మక సాధనాలగా మార్చడం" అని కోవర్ట్ చెప్పారు.

ఈ ప్రయత్నంలో పాల్గొనడం ద్వారా, రాబ్లాక్స్ సృష్టికర్త కమ్యూనిటీకి మరియు విస్తృత గేమింగ్ పరిశ్రమకు ప్రయోజనం చేకూర్చే విధంగా రూపొందించబడిన, తన రకంలో మొట్టమొదటి ప్రామాణిక ధృవీకరణ కార్యక్రమాన్ని అభివృద్ధి చేస్తూ, పరిశ్రమకు నాయకత్వం వహించడంలో మేము సహాయపడతాము. పూర్తయిన తర్వాత, ఈ కార్యక్రమం సృష్టికర్తలు తమ వృద్ధి చెందుతున్న కమ్యూనిటీలను సమర్థవంతంగా మోడరేట్ చేయడానికి మరియు నిర్వహించడానికి అవసరమైన కీలక నైపుణ్యాలను నేర్చుకోవడానికి సహాయపడుతుంది. ఆరోగ్యకరమైన, గౌరవప్రదమైన ఆన్‌లైన్ కమ్యూనిటీల కోసం ఉత్తమ పద్ధతులపై మరింత మంది మోడరేటర్లకు మరియు సృష్టికర్తలకు శిక్షణ ఇవ్వడం, ప్రతిఒక్కరికీ ఆన్‌లైన్ గేమింగ్‌ను మరింత సానుకూలంగా ఉంచడంలో సహాయపడుతుందని మేము నమ్ముతున్నాము.