لمحة عن السلامة: يناير

تسلط "لمحة عن السلامة" لهذا الشهر الضوء على مبادرات السلامة واللياقة التي أطلقناها خلال الأسابيع القليلة الماضية، بما في ذلك تقنية جديدة لمراقبة الصور الرمزية بشكل استباقي وتوعية المستخدمين بسياساتنا. كما قمنا بإنشاء وإطلاق تقارير جديدة عن اللياقة بالتعاون مع منظمات خارجية. 

الإعلان عن الإشراف الاستباقي على الصور الرمزية 

في عام 2025، قام مستخدمو Roblox بتحديث شخصياتهم الافتراضية بمعدل 274 مليون مرة في اليوم، حيث قاموا بتغيير ملابس شخصياتهم وتسريحات شعرهم بالإضافة إلى إضافة حيوانات أليفة وقبعات وإكسسوارات أخرى. يقضي العديد من المستخدمين وقتًا في اختيار مظهر شخصياتهم الافتراضية بعناية لأنها تعبر عنهم على المنصة. للمساعدة في الحفاظ على سلامة المستخدمين، نقوم بفحص كل ما يتم تحميله إلى Avatar Marketplace بشكل استباقي وحظر أي شيء نكتشف أنه ينتهك معايير مجتمعنا. ومع ذلك، يجمع المستخدمون أحيانًا عناصر غير ضارة بطريقة تخلق مظهرًا ينتهك سياساتنا. على سبيل المثال، البدلة السوداء وشارة الذراع والشارب كلها عناصر متوافقة بمفردها، ولكن عند جمعها معًا، يمكن استخدامها لإنشاء شخصية تشبه أدولف هتلر، وهو ما يتعارض مع سياساتنا.

من أجل المضي قدماً في تطوير الأبحاث الخاصة بصناعة الألعاب، تعاونت Roblox مع شبكة Prosocial Design Network، وهي منظمة مكرسة لتعزيز عناصر التصميم المبتكرة التي تدعم وتشجع السلوك الإيجابي على المنصات الإلكترونية. كان الهدف من هذا التعاون هو تحديد المشاريع البحثية التي قد تساعد في تعزيز الترابط الاجتماعي الإيجابي على منصات الألعاب. تمت مراجعة المقترحات، ويسعدنا أن نعلن أن ستة فرق بحثية حصلت على منح لمتابعة مشاريع تتعلق بتعزيز التواصل من خلال الألعاب. مع تقدم هذه المشاريع البحثية، نأمل أن نرى ما تم تعلمه وما إذا كان أي منها قد يساهم في تصميم منتجات مستقبلية لشركة Roblox وكذلك لشركات أخرى. يمكن العثور على مزيد من التفاصيل حول المشاريع الفائزة هنا. 

تقرير: التصميم من أجل العلاقات الاجتماعية الإيجابية  

بالتعاون مع مركز أبحاث الشباب والمرونة في جامعة ويسترن سيدني و PROJECT ROCKIT، أصدرنا مؤخرًا تقريرًا بعنوان "بناء العلاقات". يوفر التقرير إطارًا عمل لصانعي السياسات والقادة في صناعة التكنولوجيا للتصميم بشكل مقصود واستباقي من أجل رفاهية الأطفال واستقلاليتهم وعلاقاتهم الاجتماعية الصحية. تتضمن هذه التوصيات القائمة على الأدلة ابتكارات تقنية ومعايير تنظيمية لمساعدة الصناعة على التكاتف لإنشاء بيئات رقمية تمكّن الشباب من الازدهار في بيئات آمنة ومتصلة.  

تعزز التوصيات الواردة في هذا التقرير الاستثمارات التي قامت بها Roblox على مر السنين، ويتوافق الكثير منها مع طريقة تفكيرنا في التصميم من أجل السلامة، بما في ذلك:  

• نظام أمان متعدد الطبقات: على مر السنين، قمنا بتصميم نظام أمان متعدد الطبقات يتميز بتكرار مدمج وتحسين مستمر للمساعدة في تحقيق التوازن بين الابتكار وسلامة المستخدم. 
• الشراكة مع الخبراء: نستفيد من مزيج من تقنيات الأمان المتطورة والتعاون في العالم الواقعي، ونعمل مع الجميع — الآباء وخبراء الأمان والوكالات الحكومية — للحفاظ على أمان مجتمعنا وحسن سيره. 
• مجالس المراهقين والآباء: تجمع هذه المجالس بين الشباب وآبائهم للتشاور بشأن بعض سياساتنا وميزاتنا وتقديم رؤى حول اللغة المستخدمة لضمان أن يكون المحتوى الذي نشاركه مع المستخدمين الأصغر سنًا ملائمًا ومحترمًا.
• الإشراف الصوتي في الوقت الفعلي: يطلق هذا النظام إشعارات لإعلام المستخدمين عند انتهاكهم لإحدى السياسات، وتوعيتهم بسياساتنا، وتطبيق فترات توقف مؤقتة عن الدردشة في حالة تكرار الانتهاكات. 
• الإشراف الاستباقي على الصور الرمزية: كما هو مذكور أعلاه، سيتضمن هذا النظام الجديد أيضًا معلومات تساعد في توعية المستخدمين بأسباب عدم إمكانية نشر صورهم الرمزية والسياسة التي تنتهكها صورهم الرمزية أو تحديثاتهم.

قالت البروفيسورة أماندا ثيرد، من مركز أبحاث الشباب والمرونة بجامعة ويسترن سيدني: "يؤكد تعاوننا مع Roblox على أهمية التصميم المستند إلى الأدلة لإنشاء بيئات رقمية تعطي الأولوية لرفاهية الشباب". "يُبرز هذا العمل المهم قيمة الجمع بين الباحثين والشباب والصناعة لتعميق فهمنا وتصميم مساحات تعزز التواصل والتعاطف والاندماج والمشاركة الاجتماعية الإيجابية. التعاون بين القطاعات أمر ضروري إذا أردنا بناء بيئات عبر الإنترنت تدعم حقوق الأطفال وتدعم السلوكيات الاجتماعية الإيجابية بشكل هادف، مع وضع أصوات الشباب في قلب هذه العملية."

كل هذا العمل هو جزء من جهودنا المستمرة للتواصل والتعاون مع منظمات الشباب، بما في ذلك PROJECT ROCKIT، لدعم عملهم في منع التنمر عبر الإنترنت وتعزيز العلاقات الاجتماعية الصحية والإيجابية عبر الإنترنت.