لمحة عن السلامة: مارس

في "لمحة عن السلامة" لشهر مارس، نشارككم كيف نقوم بمراقبة المحتوى من خلال أنظمة آلية مصممة لاكتشاف المحتوى المشكوك فيه وإزالته، غالبًا قبل أن يراه المستخدمون. كما نشارككم لوحة تحكم جديدة تمكّن المبدعين من اكتشاف السلوك السيئ للمستخدمين في ألعابهم والتصدي له، وبرنامجًا جديدًا لتدريب مديري المجتمعات في جميع أنحاء الصناعة. راجع "لمحة عن السلامة" للشهر الماضي لمزيد من المعلومات حول أدوات الإبلاغ عن المستخدمين. 

الإشراف المستمر على سلوك المستخدمين 

جزء من سحر Roblox هو المحتوى المتوسع والمتغير باستمرار الذي ينتجه منشئو المحتوى لدينا. في أي لحظة، ينشر منشئو المحتوى تحديثات للألعاب ويضيفون شارات أو حيوانات أليفة جديدة، ويقوم المستخدمون بتغيير ملابس شخصياتهم الافتراضية والرسم أو البناء في الوقت الفعلي. نراجع كل هذا قبل نشره على المنصة ونزيل أي شيء يخالف إرشاداتنا. 

تلتقط طبقات متعددة من أدوات الإشراف الغالبية العظمى من المحتوى المشكوك فيه على Roblox، ونرفض أي شيء يتعارض مع معايير مجتمعنا. لكننا لسنا مثاليين، لذا نستفيد من بلاغات المستخدمين لمساعدتنا في العثور على أي شيء قد فاتنا واتخاذ الإجراءات المناسبة.

تعني الطبيعة الديناميكية لألعاب Roblox أن المحتوى يتغير باستمرار بناءً على كيفية قيام المستخدمين بدمج الشخصيات والملابس والحركات التي تمت الموافقة عليها مسبقًا. على سبيل المثال، في الألعاب التي تسمح بالرسم الحر، يمكن للمستخدم رسم رمز أو عنصر مسيء. لهذا السبب أطلقنا مؤخرًا نظامًا جديدًا للذكاء الاصطناعي للإشراف متعدد الوسائط في الوقت الفعلي يمكنه فحص هذه التركيبات معًا. 

تم تصميم أنظمة الإشراف التقليدية القائمة على الذكاء الاصطناعي لتقييم كائن واحد في كل مرة، وغالبًا ما تفتقر إلى السياق، مما يؤدي إلى إغفال تركيبات قد تكون مشكلة بطريقة لا تشكلها العناصر الفردية. يقوم نظام الإشراف متعدد الوسائط الجديد الذي يعمل في الوقت الفعلي بتقييم المشهد بأكمله، بما في ذلك الصور الرمزية والنصوص والعناصر ثلاثية الأبعاد. فهو يلتقط كل هذه العناصر معًا في لحظة معينة ويقيّم ما إذا كان المشهد بأكمله يخالف قواعدنا. إذا تكرر هذا النوع من السلوك المشكل في مثيل واحد من اللعبة، فسيقوم النظام بإيقاف تشغيل هذا المثيل (المعروف أيضًا باسم الخادم) فقط، بدلاً من إيقاف اللعبة بأكملها. 

منذ إطلاق هذا النظام متعدد الوسائط، قمنا بإيقاف ما يقرب من 5000 حالة يوميًا تنتهك معايير مجتمعنا. مع تدريبنا وتوسيع نطاق عملنا، نعمل باستمرار على تحسين دقتنا والتعاون مع المجتمع لتقليل حالات الإبلاغ الخاطئة. نحن نعمل على توسيع نطاق هذا النظام متعدد الوسائط ليشمل 100% من وقت اللعب. ولكن سيكون هناك دائمًا أفراد يعملون على التحايل على أي نظام، لذلك نحن نعمل بنشاط على تطوير تقنية تتجاوز مجرد إيقاف تشغيل الخوادم. نحن نعمل على طرق لتحديد المخالفين المحددين حتى نتمكن من إزالتهم دون تعطيل تجربة اللاعبين ذوي النوايا الحسنة.

تزويد المبدعين برؤية واضحة حول إغلاق الخوادم

نوفر للمبدعين شفافية أكبر بشأن نتائج نظام الإشراف متعدد الوسائط هذا من خلال إضافة إلى لوحة معلومات نظرة عامة على الأمان. كما هو مذكور أعلاه، نقوم بإيقاف خوادم الألعاب عندما يسيطر عليها سلوك سيئ من المستخدمين. ولمنح المبدعين رؤية أوضح لعدد المرات التي يحدث فيها ذلك في ألعابهم، أضفنا مخططًا بيانيًا جديدًا إلى لوحة معلومات المبدعين الحالية. 

يمكن للمبدعين الآن معرفة عدد خوادم ألعابهم التي تم إغلاقها بسبب سلوك سيئ من المستخدمين (أي انتهاك سياساتنا المتعلقة بالتحرش والتمييز أو المحتوى الرومانسي والجنسي). يساعدهم ذلك في تحديد أي زيادة مفاجئة حتى يتمكنوا من التصرف قبل أن يؤثر الإغلاق على مجتمعهم الأوسع. يمكنهم بعد ذلك إلقاء نظرة فاحصة على لعبتهم وتحديد ما إذا كانت هناك حاجة لإجراء تغييرات على الرموز التعبيرية المخصصة أو أدوات تعديل الصور الرمزية أو ميزات إنشاء المحتوى داخل اللعبة للمساعدة في منع الإنشاءات المشكوك فيها. 

تدريب المشرفين الرقميين 

تتعاون Roblox و Keyword Studios و Riot Games مع عالمة النفس البحثية ومديرة الأبحاث في Games for Change، راشيل كوورت، في برنامج شهادة جديد لقادة المجتمعات الرقمية. ستساهم Roblox بخبرتها في إدارة المجتمعات والتصميم الاجتماعي الإيجابي لتجربة وتساعد في صياغة المنهج الدراسي لبرنامج DLC Leadership الجديد. الهدف من المبادرة هو معالجة النقص في التدريب الموحد للمشرفين عبر الإنترنت ومديري المجتمعات والمبدعين في مجال الألعاب. في مقال نُشر مؤخرًا، قالت كوورت إن البرنامج يهدف إلى "ترجمة الأبحاث حول مجتمعات الألعاب والسلوك عبر الإنترنت إلى أدوات عملية يمكن لقادة المجتمع الرقمي استخدامها لبناء مجتمعات عبر الإنترنت أكثر مرونة واستدامة".

من خلال المشاركة في هذه المبادرة، سنساعد في قيادة الصناعة، وتطوير برنامج شهادة موحد هو الأول من نوعه مصمم لفائدة مجتمع المبدعين في Roblox وصناعة الألعاب بشكل عام. وبمجرد اكتماله، سيساعد البرنامج المبدعين على تعلم المهارات الأساسية المطلوبة للإشراف على مجتمعاتهم المتنامية وإدارتها بفعالية. ونحن نؤمن بأن تدريب المزيد من المشرفين والمبدعين على أفضل الممارسات لإنشاء مجتمعات إلكترونية صحية ومحترمة سيساعد في الحفاظ على الألعاب الإلكترونية أكثر إيجابية للجميع.