كيف تعمل ميزة الإبلاغ داخل اللعبة على Roblox
التقنية الكامنة وراء التقاط تقارير مفصلة في بيئات ثلاثية الأبعاد ديناميكية
- تقوم Roblox بمعالجة 274 مليون تحديث يومي للأفاتار، وهذا مجرد نوع واحد من المحتوى الذي ينشئه المستخدمون والذي نقوم بمراقبته بحثًا عن انتهاكات السلامة.1
- تعد بلاغات اللاعبين جزءًا أساسيًا من الكشف المبكر عن الانتهاكات، ونريد أن نسهل على اللاعبين الإبلاغ عن أي شيء يرونه غير لائق أو مخالفًا لسياساتنا.
- ونظرًا لأن رصد الانتهاكات في المحتوى ثلاثي الأبعاد الديناميكي الذي ينشئه المستخدمون قد يمثل تحديًا، فإننا نستفيد من تقنية إرسال الأشعة (ray casting) واستنساخ نماذج البيانات وواجهة مستخدم مُحدَّثة للإبلاغ لمساعدة اللاعبين على تحديد كائنات معينة والإبلاغ عنها باستخدام البيانات والأدلة المرئية اللازمة لنا لاتخاذ الإجراءات اللازمة.
في أوقات الذروة، تعالج منصة Roblox 274 مليون تحديث يومي للأفاتار.1 يُعد الإبلاغ عن الإساءات ومراجعتها في هذا النوع من المحتوى ثلاثي الأبعاد الديناميكي الذي ينشئه المستخدمون أمرًا صعبًا، لأنه لا يترك دائمًا أثرًا صريحًا كما يفعل المحتوى الثابت مثل سجل النصوص أو منشورات وسائل التواصل الاجتماعي. في هذه المدونة، نصف نهجنا في جمع البيانات والسياق المرئي اللازمين لاتخاذ إجراءات بناءً على بلاغات اللاعبين، بدءًا من نهج «إرسال الأشعة» الأولي الذي استخدمناه لتحديد الشخصيات الافتراضية المسيئة، وصولًا إلى نظامنا الحالي الذي يتكامل مع نموذج بيانات Roblox بحيث يمكن للاعبين الإبلاغ بدقة عن أي كائن ثلاثي الأبعاد في اللعبة.
تعد بلاغات اللاعبين جزءًا حاسمًا في الكشف المبكر عن الانتهاكات المحتملة للسياسات، وقد قمنا مؤخرًا بتحديث مسار الإبلاغ لدينا لتسهيل قيام اللاعبين بالإبلاغ الفوري عن أي شيء يجعلهم يشعرون بعدم الارتياح أو بعدم الأمان أو حظره. تؤدي بلاغات اللاعبين الآن إلى الإزالة التلقائية لأكثر من 19,000 شخصية افتراضية مخالفة للسياسات شهريًا، وتُعد بمثابة إشارة مبكرة مهمة للكشف عن الألعاب غير اللائقة.2
التحدي المتمثل في التقاط المحتوى الديناميكي
نظرًا لأن المحتوى ثلاثي الأبعاد الديناميكي الذي ينشئه المستخدمون يمكن دمجه واستخدامه في سياقات مختلفة، فإن الأوصاف البسيطة أو لقطات الشاشة لا توفر دائمًا البيانات اللازمة لنا لاتخاذ الإجراءات اللازمة. يُعد المحتوى الثابت، مثل منشورات وسائل التواصل الاجتماعي وتعليقات المنتديات ومقاطع الفيديو، بمثابة توثيق دائم للمشكلة، مما يسهل الإبلاغ عن الأدلة ومراجعتها. يتم توثيق الدردشة النصية والصوتية على Roblox، لكن الأنواع الأخرى من المحتوى الذي ينشئه المستخدمون لا تترك مثل هذا الأثر الواضح. يمكن تحميل الصور من أماكن أخرى على المنصة، وقد لا يتم توثيق التفاعلات الديناميكية، كما يقوم اللاعبون أحيانًا بدمج قطع ملابس غير ضارة في حد ذاتها لتشكيل زي غير لائق.
من أجل رصد انتهاكات السياسة في المواقف الديناميكية، يحتاج المبلغ أولاً إلى وسيلة لتحديد عناصر محددة داخل اللعبة. ثانيًا، يجب أن توفر آلية التحديد معرّفات الكائنات للمحتوى المبلغ عنه حتى يمكن تقييم الكائن الصحيح.
الكشف عن الصور الرمزية المسيئة في الفضاء ثلاثي الأبعاد
كانت أداة الإبلاغ السابقة لدينا تعتمد بشكل أساسي على أدلة سجلات الدردشة. ولم تكن البلاغات تحتوي على أي معلومات مرئية، مما ترك فجوات كبيرة في الفهم. وعندما بدأنا العمل على أداة إبلاغ يمكنها التقاط المزيد من السياق حول أنواع أخرى من الانتهاكات، ركزنا أولاً على نوع من الكائنات التي يتفاعل معها كل لاعب: الصور الرمزية. يمكن للاعبين تخصيص الصور الرمزية لتمثيل أنفسهم على Roblox، وكان التقاط المعلومات حول الصورة الرمزية يعني أننا سنتمكن من ربط الانتهاكات بلاعبين محددين حتى لو لم تكن هناك أدلة مكتوبة في الدردشة. كما أن وجود نظام قادر على تحديد بيانات الصور الرمزية بفعالية سيشكل أساسًا مهمًا لأنواع أخرى من العناصر في المستقبل.
تضمنت الحلول المحتملة التقاط لقطات شاشة أو تسجيلات في الخلفية لتكملة البلاغات بمزيد من الأدلة. بدأنا الاختبار باستخدام لقطات الشاشة لأنها كانت طريقة سهلة لجمع المعلومات، حتى لو لم تلتقط جميع الانتهاكات المحتملة. سرعان ما واجهنا قيدًا: لم تساعدنا الصورة ثنائية الأبعاد في تمييز شخصية اللاعب عن الشخصيات الأخرى والشخصيات غير القابلة للعب (NPC) في الفضاء ثلاثي الأبعاد. لم نتمكن دائمًا من تحديد معرّف المستخدم الخاص بالمخالف المحتمل بدقة عندما تتداخل الشخصيات.
كنا بحاجة إلى إيجاد طريقة لاستخراج المزيد من المعلومات حتى نتمكن من تحويل صورة ثنائية الأبعاد تم التقاطها في لحظة زمنية محددة إلى دليل قابل للتطبيق.
اتفقنا على استخدام تقنية "إرسال الأشعة" (ray casting) كطريقة فعالة لعزل المعلومات ذات الصلة في الفضاء ثلاثي الأبعاد وعرضها في صورة ثنائية الأبعاد في لحظة تقديم التقرير. عندما يفتح لاعب ما تقريرًا، نقوم أولاً بجمع قائمة باللاعبين المشاركين في الجلسة وتصفية أي منهم لا يظهر في نطاق العرض. ثم نستخدم تقنية "إرسال الأشعة" لتحديد المربعات المحيطة بكل شخصية افتراضية للاعب. وفي الوقت نفسه، نقوم تلقائيًّا بحفظ محتوى مخزن الإطارات لمحرك Roblox في لقطة شاشة. وبهذه الطريقة، يمكن إقران لقطة شاشة ثنائية الأبعاد بسيطة ببيانات مكانية كافية عن العالم ثلاثي الأبعاد للتمييز بين المخالف المحتمل والأفاتارات الأخرى والبيئة المحيطة. تتيح لنا تقنية «إلقاء الأشعة» تحديد الصناديق المحيطة في 3.5 مللي ثانية في المتوسط. أما الطرق الأبطأ، فستتطلب توقفًا محرجًا، مما يعطل التجربة.
ومن هناك، يمكن جمع معلومات سياقية أخرى حول انتهاك محتمل للسياسة بشكل غير متزامن. اليوم، يقوم النظام تلقائيًا بتشغيل هذه الآلية عندما يبدأ أحد اللاعبين في تقديم بلاغ.
وضع التمييز
بعد ذلك، كنا بحاجة إلى واجهة إبلاغ بديهية حتى يتمكن اللاعبون من تحديد المحتوى المخالف بسرعة. قمنا بتحديث واجهة الإبلاغ لدينا بإضافة "وضع التمييز" لتمكين اللاعبين من تمييز العناصر المخالفة وإضافة تعليقات توضيحية إلى تقاريرهم بمزيد من المعلومات. عندما ينقر اللاعب على عنصر مخالف، نقوم بإطلاق مجموعة من الأشعة في شكل دائرة حول مؤشر الفأرة الخاص باللاعب. إذا اختار اللاعب صورة رمزية لأحد اللاعبين، يمكننا التقاط جميع البيانات الوصفية اللازمة لمراجعة تقريره واتخاذ الإجراء المناسب. في الأبحاث الداخلية التي أُجريت مع المستخدمين، لاقى «وضع التمييز» استحسانًا كبيرًا، بما في ذلك من قبل اللاعبين الأصغر سنًا (الذين تتراوح أعمارهم بين 9 و13 عامًا) الذين أصبحوا الآن قادرين بسهولة أكبر على تمييز المشكلة وإكمال البلاغ بنجاح.
في هذه النسخة الأولية من أداة الإبلاغ الجديدة، لم نقم بتسجيل سوى معرّفات الصور الرمزية. فإذا اختار اللاعب شيئًا آخر، فإننا لا نسجل معرّف الكائن. يمكننا فحص التقارير للحصول على رؤى وسياق أوسع، والتواصل مع المطورين، وتحديد الخطوة التالية.
لكننا تصورنا آلية تسمح للاعبين بتمييز أي عنصر في اللعبة بدقة وتسجيل بياناته مباشرةً في تقريرهم.
التقاط نموذج البيانات لأنواع المحتوى العامة
على الرغم من أن نهجنا القائم على إرسال الأشعة الدائرية كان فعالاً في تمييز العدد المحدود من الصور الرمزية أو الإعلانات داخل نطاق عرض اللاعب، إلا أنه لم يكن قابلاً للتوسع ليشمل كل كائن في اللعبة. انظر إلى البيئة التالية:
في بيئة كثيفة تتداخل فيها عشرات الكائنات مثل الصخور والشجيرات والزهور وتتحرك، لن يتمكن إرسال الأشعة في دائرة من تحديد زهرة أو شجيرة واحدة بشكل موثوق. كنا بحاجة إلى السماح للاعبين بتمييز الكائنات بدقة أكبر، وكنا بحاجة إلى طريقة لالتقاط البيانات المرتبطة بأي كائن في اللعبة.
يخزن محرك Roblox بالفعل تمثيلاً للعالم ثلاثي الأبعاد في نموذج البيانات الخاص به، لكن حجم نموذج البيانات الكامل للعبة قد يصل إلى غيغابايت. ولتحسين السرعة، أنشأنا آلية استنساخ (آلية طورناها لأول مرة من أجل «ملاحظات الترجمة») تستنسخ فقط الكائنات الرئيسية اللازمة لعرض المشهد. وبمجرد حصولنا على هذه النسخة المستنسخة من نموذج البيانات، يمكننا عندئذٍ استخدام «وضع التمييز» (Highlight Mode) لإدخال المبلغ إلى العالم المستنسخ حيث يمكن للاعب تمييز ما يريد الإبلاغ عنه بدقة في بيئة ثلاثية الأبعاد.
يمنح هذا النهج المشارك مزيدًا من التحكم في ما يبلغ عنه، ويزودنا بالبيانات الوصفية اللازمة لتقييم أنواع أكثر من المحتوى. كما نقوم تلقائيًا بإرفاق لقطة شاشة بالتقرير للمساعدة في عملية المراجعة الإشرافية.
سلامة البيانات
أحد الأسئلة الرئيسية التي طرحناها منذ بداية المشروع هو ما إذا كان ينبغي لنا التقاط الأدلة على جهاز العميل أم على خادم اللعبة. يدعم Roblox البرامج النصية من جانب العميل التي قد تقوم بتحديث حالة العميل فقط، وليس على الخادم. بالإضافة إلى ذلك، فإن بعض التأثيرات الفيزيائية غير حتمية، مما يعني أن التقاط الصور من جانب الخادم قد لا يعرض بالضبط ما واجهه المبلغ. قررنا الاعتماد على التقاط من جانب العميل لضمان أن يتمكن المبلغ من التقاط تمثيل دقيق لما يراه، ولكن ذلك يأتي مع مقايضة: قد يتمكن الفاعل السيئ من الوصول إلى جهاز العميل وتزوير الأدلة.
للتخفيف من هذا الخطر، نتحقق من الدقة باستخدام مجموعة متنوعة من الإشارات ونستبعد التمثيلات غير الدقيقة من جانب العميل. على سبيل المقارنة، يمكن لأخصائيي الأرصاد الجوية إصدار تنبؤات جوية دقيقة حتى لو لم يتلقوا قراءات دقيقة من كل محطة أرصاد جوية.
الأعمال المستقبلية
بفضل هذه التحسينات والقدرة على التقاط معلومات بصرية أكثر ثراءً، يقوم النظام الآن تلقائيًّا بإزالة أكثر من 19,000 صورة رمزية مخالفة للسياسة شهريًّا، وأصبح مؤشرًا مهمًّا للكشف عن الألعاب غير اللائقة. كما شهدنا إقبالًا قويًّا على هذه الميزة، حيث تضمن حوالي 19% من البلاغات المؤهلة تعليقات توضيحية بصرية.2
نحن نعمل بالفعل على المرحلة التالية من التحسينات، حيث نطور طريقة للكشف عن الانتهاكات الديناميكية (مثل الإيماءات المصحوبة بحركة اللاعب) التي لا يمكن تحديدها من خلال لقطات لحظية. في وقت لاحق من هذا العام، نخطط لتمكين التقاط تسلسل زمني للمشهد الذي يتم الإبلاغ عنه. مع استمرار Roblox في تزويد المبدعين بالأدوات اللازمة لبناء تفاعلات أكثر ثراءً داخل اللعبة، سيواصل فريق السلامة لدينا تعزيز بيئة آمنة لجميع اللاعبين.
نود أن نشكر رايان حسين، ورايان ليو، وبريدجيت دالي، وأجاثا كيلتشيفسكي، وأليكس ليفيت، ويينغ لياو، وأندرو شو على عملهم في هذا المشروع.
1 استنادًا إلى بيانات النصف الأول من عام 2025.
2 استنادًا إلى بيانات الفترة من 1 مارس إلى 1 أبريل 2026.
