ภาพรวมความปลอดภัย: มีนาคม

ในรายงานสรุปความปลอดภัยประจำเดือนมีนาคมของเรา เราขอแบ่งปันวิธีการที่เราใช้ระบบอัตโนมัติในการกลั่นกรองเนื้อหา เพื่อตรวจจับและลบเนื้อหาที่เป็นปัญหา—บ่อยครั้งก่อนที่ผู้ใช้จะได้เห็น นอกจากนี้ เรายังนำเสนอแดชบอร์ดใหม่ที่ให้อำนาจผู้สร้างเนื้อหาในการตรวจจับและจัดการพฤติกรรมที่ไม่เหมาะสมของผู้ใช้ในเกมของตนเอง รวมถึงโปรแกรมใหม่สำหรับการฝึกอบรมผู้จัดการชุมชนในอุตสาหกรรมนี้ หากต้องการทราบข้อมูลเพิ่มเติมเกี่ยวกับเครื่องมือรายงานปัญหาจากผู้ใช้ กรุณาดูรายงานสรุปความปลอดภัยประจำเดือนที่แล้ว 

การควบคุมพฤติกรรมผู้ใช้อย่างต่อเนื่อง 

ส่วนหนึ่งของความมหัศจรรย์ของ Roblox คือเนื้อหาที่ขยายตัวและเปลี่ยนแปลงอยู่เสมอซึ่งสร้างขึ้นโดยผู้สร้างของเรา ในทุกๆ ขณะ ผู้สร้างกำลังเผยแพร่การอัปเดตเกมและเพิ่มตราสัญลักษณ์หรือสัตว์เลี้ยงใหม่ๆ และผู้ใช้กำลังเปลี่ยนชุดของอวตารของพวกเขาและวาดหรือสร้างสิ่งต่างๆ ในเวลาจริง เราตรวจสอบทั้งหมดนี้ก่อนที่จะเผยแพร่ไปยังแพลตฟอร์มและลบสิ่งที่ขัดต่อแนวทางของเรา 

เครื่องมือการตรวจสอบหลายชั้นสามารถตรวจจับเนื้อหาที่มีปัญหาส่วนใหญ่บน Roblox ได้ และเราปฏิเสธทุกสิ่งที่ขัดต่อมาตรฐานชุมชนของเรา แต่เราไม่สมบูรณ์แบบ ดังนั้นเราจึงใช้รายงานจากผู้ใช้เพื่อช่วยเราค้นหาสิ่งที่เราอาจพลาดไป และดำเนินการตามความเหมาะสม

ลักษณะที่เปลี่ยนแปลงอยู่ตลอดเวลาของเกม Roblox หมายความว่าเนื้อหาจะเปลี่ยนแปลงอย่างต่อเนื่องตามวิธีที่ผู้ใช้ผสมผสานตัวละครที่ได้รับการอนุมัติแล้ว เสื้อผ้า และการเคลื่อนไหวต่างๆ ตัวอย่างเช่น ในเกมที่มีระบบวาดภาพอิสระ ผู้ใช้สามารถวาดสัญลักษณ์หรือไอเท็มที่ไม่เหมาะสมได้ นั่นคือเหตุผลที่เราได้เปิดตัวระบบ AI ใหม่สำหรับการตรวจสอบแบบหลายรูปแบบในเวลาจริง ซึ่งสามารถสแกนการผสมผสานเหล่านี้ได้พร้อมกัน 

ระบบตรวจสอบเนื้อหาด้วยปัญญาประดิษฐ์แบบดั้งเดิมถูกออกแบบมาเพื่อประเมินวัตถุหนึ่งชิ้นในแต่ละครั้ง และมักขาดบริบท ทำให้พลาดการจับคู่ที่อาจก่อให้เกิดปัญหาซึ่งไม่สามารถตรวจพบได้จากวัตถุแต่ละชิ้นแยกกัน ระบบตรวจสอบเนื้อหาแบบเรียลไทม์หลายรูปแบบใหม่ของเราประเมินทั้งฉาก—รวมถึงอวตาร ข้อความ และวัตถุ 3 มิติ มันจับภาพองค์ประกอบทั้งหมดเหล่านี้เข้าด้วยกันในช่วงเวลาหนึ่งและประเมินว่าฉากทั้งหมดนั้นละเมิดกฎของเราหรือไม่ หากพฤติกรรมที่เป็นปัญหานี้เกิดขึ้นซ้ำๆ ในอินสแตนซ์เกมเดียวกัน ระบบจะปิดเฉพาะอินสแตนซ์นั้น (หรือที่เรียกว่าเซิร์ฟเวอร์) แทนที่จะปิดเกมทั้งหมด 

ตั้งแต่เปิดตัวระบบหลายช่องทางนี้ เราได้ปิดการใช้งานประมาณ 5,000 กรณีต่อวันที่ละเมิดมาตรฐานชุมชนของเรา ขณะที่เราฝึกฝนและขยายระบบ เรากำลังปรับปรุงความแม่นยำอย่างต่อเนื่องและทำงานร่วมกับชุมชนเพื่อลดการตรวจจับผิดพลาดให้น้อยที่สุด เรากำลังทำงานเพื่อขยายระบบหลายรูปแบบนี้ให้ครอบคลุมและติดตามเวลาการเล่นได้ 100% แต่จะมีบุคคลบางกลุ่มที่พยายามหาวิธีหลีกเลี่ยงระบบอยู่เสมอ ดังนั้นเราจึงกำลังพัฒนาเทคโนโลยีที่ก้าวไปไกลกว่าการปิดเซิร์ฟเวอร์ เรากำลังหาวิธีระบุผู้กระทำผิดเฉพาะรายเพื่อที่เราจะสามารถลบพวกเขาออกได้โดยไม่รบกวนประสบการณ์ของผู้เล่นที่มีเจตนาดี

ให้ผู้สร้างผลงานมองเห็นการปิดเซิร์ฟเวอร์

เรากำลังมอบความโปร่งใสที่มากขึ้นให้กับผู้สร้างผลงานเกี่ยวกับผลลัพธ์ของระบบการกลั่นกรองแบบหลายรูปแบบ ด้วยการเพิ่มข้อมูลใหม่ในแดชบอร์ดสรุปความปลอดภัย ตามที่ระบุไว้ข้างต้น เราได้ปิดเซิร์ฟเวอร์เกมเมื่อเซิร์ฟเวอร์ถูกควบคุมโดยพฤติกรรมที่ไม่เหมาะสมของผู้ใช้ เพื่อช่วยให้ผู้สร้างผลงานสามารถมองเห็นความถี่ในการเกิดเหตุการณ์นี้ในเกมของตนได้มากขึ้น เราได้เพิ่มกราฟใหม่ในแดชบอร์ดสำหรับผู้สร้างผลงานที่มีอยู่แล้ว 

ผู้สร้างสามารถตรวจสอบได้แล้วว่ามีเซิร์ฟเวอร์เกมของตนถูกปิดตัวลงกี่แห่งเนื่องจากพฤติกรรมที่ไม่เหมาะสมของผู้ใช้ (เช่น การละเมิดนโยบายการคุกคาม การเลือกปฏิบัติ หรือเนื้อหาเชิงโรแมนติกและทางเพศ) ซึ่งช่วยให้พวกเขาสามารถระบุการเพิ่มขึ้นอย่างกะทันหันได้ และดำเนินการก่อนที่จะมีการปิดตัวลงซึ่งอาจส่งผลกระทบต่อชุมชนโดยรวมของพวกเขาได้ จากนั้นพวกเขาสามารถตรวจสอบเกมของตนอย่างละเอียด และตัดสินใจว่าจำเป็นต้องมีการเปลี่ยนแปลงในอีโมตที่กำหนดเอง เครื่องมือแก้ไขตัวละคร หรือคุณสมบัติการสร้างเนื้อหาโดยผู้ใช้ในเกมเพื่อช่วยป้องกันการสร้างสรรค์ที่มีปัญหาหรือไม่ 

การฝึกอบรมผู้ดูแลดิจิทัล 

Roblox, Keyword Studios และ Riot Games กำลังร่วมมือกับนักจิตวิทยาวิจัยและผู้อำนวยการฝ่ายวิจัย Games for Change Rachel Kowert ในโครงการรับรองใหม่สำหรับผู้นำชุมชนดิจิทัล Roblox จะมีส่วนร่วมในความเชี่ยวชาญด้านการดูแลชุมชนและการออกแบบเชิงสังคมเพื่อทดลองและช่วยกำหนดหลักสูตรสำหรับโปรแกรม DLC Leadership ใหม่ เป้าหมายของโครงการนี้คือการแก้ไขปัญหาการขาดการฝึกอบรมมาตรฐานสำหรับผู้ดูแลออนไลน์ ผู้จัดการชุมชน และผู้สร้างในพื้นที่เกม ในบทความล่าสุด Kowert กล่าวว่าโปรแกรมนี้มีเป้าหมายเพื่อ "แปลงานวิจัยเกี่ยวกับชุมชนเกมและพฤติกรรมออนไลน์ให้เป็นเครื่องมือที่ผู้นำดิจิทัลสามารถใช้เพื่อสร้างชุมชนออนไลน์ที่มีความยืดหยุ่นและยั่งยืนมากขึ้น"

โดยการเข้าร่วมในความพยายามนี้ เราจะร่วมกันเป็นผู้นำในอุตสาหกรรม พัฒนาโปรแกรมการรับรองมาตรฐานรูปแบบแรกที่ออกแบบมาเพื่อประโยชน์ของชุมชนผู้สร้าง Roblox และอุตสาหกรรมเกมโดยรวม เมื่อโปรแกรมนี้เสร็จสมบูรณ์ จะช่วยให้ผู้สร้างได้เรียนรู้ทักษะสำคัญที่จำเป็นในการดูแลและจัดการชุมชนที่กำลังเติบโตของตนเองอย่างมีประสิทธิภาพ เราเชื่อว่าการฝึกอบรมผู้ดูแลและผู้สร้างให้มากขึ้นเกี่ยวกับแนวทางปฏิบัติที่ดีที่สุดในการสร้างชุมชนออนไลน์ที่สุขภาพดีและเคารพซึ่งกันและกัน จะช่วยให้การเล่นเกมออนไลน์เป็นประสบการณ์ที่ดีขึ้นสำหรับทุกคน