নিরাপত্তা সংক্ষিপ্ত চিত্র: মার্চ

আমাদের মার্চ মাসের সেফটি স্ন্যাপশটে, আমরা দেখিয়েছি কীভাবে আমরা স্বয়ংক্রিয় সিস্টেমের মাধ্যমে সমস্যাযুক্ত বিষয়বস্তু সনাক্ত করে তা অপসারণ করি—প্রায়শই ব্যবহারকারীরা দেখার আগেই। আমরা একটি নতুন ড্যাশবোর্ড শেয়ার করছি যা নির্মাতাদের তাদের নিজস্ব গেমে খারাপ ব্যবহারকারী আচরণ চিহ্নিত ও মোকাবিলা করার ক্ষমতা দেয়, এবং একটি নতুন প্রোগ্রাম যা শিল্পজুড়ে কমিউনিটি ম্যানেজারদের প্রশিক্ষণ দেবে। ব্যবহারকারী রিপোর্টিং টুল সম্পর্কে আরও জানতে গত মাসের সেফটি স্ন্যাপশট দেখুন। 

ব্যবহারকারী আচরণ অব্যাহতভাবে পর্যবেক্ষণ 

Roblox-এর এক ধরনের জাদু হল আমাদের নির্মাতাদের তৈরি ক্রমবর্ধমান এবং পরিবর্তনশীল বিষয়বস্তু। যে কোনো সময়, নির্মাতারা গেমের আপডেট প্রকাশ করছেন এবং নতুন ব্যাজ বা পোষা প্রাণী যোগ করছেন, আর ব্যবহারকারীরা রিয়েল-টাইমে তাদের অবতারের পোশাক পরিবর্তন করছেন এবং কিছু রঙ করছেন বা তৈরি করছেন। আমরা প্ল্যাটফর্মে প্রকাশের আগে এই সবকিছু পর্যালোচনা করি এবং আমাদের নির্দেশিকা লঙ্ঘন করে এমন যেকোনো কিছু সরিয়ে ফেলি। 

Roblox-এ সমস্যাযুক্ত সামগ্রীর বিশাল অংশই একাধিক স্তরের মডারেটেশন টুল দ্বারা ধরা পড়ে, এবং আমরা আমাদের কমিউনিটি স্ট্যান্ডার্ডের বিরুদ্ধে যা কিছু যায় তা প্রত্যাখ্যান করি। তবে আমরা নিখুঁত নই, তাই ব্যবহারকারীদের রিপোর্ট কাজে লাগিয়ে আমরা যা মিস করে যেতে পারি তা খুঁজে বের করি এবং সেই অনুযায়ী ব্যবস্থা নিই।

Roblox গেমের গতিশীল প্রকৃতির কারণে, ব্যবহারকারীরা পূর্বে অনুমোদিত অবতার, পোশাক এবং চলাচল একত্রিত করার ভিত্তিতে বিষয়বস্তু ক্রমাগত পরিবর্তিত হয়। উদাহরণস্বরূপ, মুক্ত-রূপে অঙ্কন করার সুযোগ দেয় এমন গেমগুলোতে, একজন ব্যবহারকারী আপত্তিকর কোনো চিহ্ন বা আইটেম আঁকতে পারে। এজন্যই আমরা সম্প্রতি রিয়েল-টাইম মাল্টিমোডাল মডারেশনের জন্য একটি নতুন AI সিস্টেম চালু করেছি, যা এই সমন্বয়গুলো একসঙ্গে স্ক্যান করতে পারে। 

প্রচলিত এআই মডারেটেশন সিস্টেমগুলো একসময় একটি বস্তু মূল্যায়ন করার জন্য ডিজাইন করা হয়েছে এবং প্রায়ই প্রেক্ষাপট বিবেচনা করে না, ফলে এমন সমন্বয়গুলো মিস করে যা পৃথক আইটেমগুলো যতটা সমস্যা সৃষ্টি করতে পারে না, তার চেয়েও বেশি সমস্যা সৃষ্টি করতে পারে। আমাদের নতুন রিয়েল-টাইম মাল্টিমোডাল মডারেশন সিস্টেম একটি সম্পূর্ণ দৃশ্য—অবতার, টেক্সট এবং 3D অবজেক্টসহ—মূল্যায়ন করে। এটি নির্দিষ্ট একটি মুহূর্তে এই সব উপাদান একসঙ্গে ধারণ করে এবং মূল্যায়ন করে যে পুরো দৃশ্যটি আমাদের নিয়ম লঙ্ঘন করছে কিনা। যদি এই ধরনের সমস্যাযুক্ত আচরণ একই গেম ইনস্ট্যান্সে বারবার ঘটে, সিস্টেমটি পুরো গেম নয়, শুধুমাত্র সেই ইনস্ট্যান্স (যাকে সার্ভারও বলা হয়) বন্ধ করে দেবে। 

এই বহুমোডাল সিস্টেম চালু করার পর থেকে, আমরা প্রতিদিন প্রায় ৫,০০০টি ইনস্ট্যান্স বন্ধ করেছি যেগুলো আমাদের কমিউনিটি স্ট্যান্ডার্ড লঙ্ঘন করেছে। আমরা প্রশিক্ষণ ও স্কেল বাড়ানোর সাথে সাথে আমাদের সঠিকতা ক্রমাগত উন্নত করছি এবং ভুল ইতিবাচক ফলাফল কমাতে কমিউনিটির সাথে কাজ করছি। আমরা এই মাল্টিমোডাল সিস্টেমটিকে স্কেল করার জন্য কাজ করছি যাতে এটি ১০০% প্লেটাইম ক্যাপচার ও মনিটর করতে পারে। কিন্তু সবসময়ই এমন কিছু ব্যক্তি থাকবে যারা যেকোনো সিস্টেম ফাঁকি দেওয়ার চেষ্টা করবে, তাই আমরা সক্রিয়ভাবে এমন প্রযুক্তি উন্নয়ন করছি যা সার্ভার বন্ধ করার বাইরেও কাজ করবে। আমরা নির্দিষ্ট খারাপ খেলোয়াড়দের চিহ্নিত করার উপায় নিয়ে কাজ করছি যাতে আমরা তাদের সরিয়ে দিতে পারি এবং সৎ উদ্দেশ্যপ্রণোদিত খেলোয়াড়দের অভিজ্ঞতা বিঘ্নিত না হয়।

সার্ভার বন্ধের বিষয়ে নির্মাতাদের দৃশ্যমানতা প্রদান

আমরা নির্মাতাদের জন্য এই বহুমোডাল মডারেটেশন সিস্টেমের ফলাফল সম্পর্কে আরও স্বচ্ছতা আনতে সেফটি ওভারভিউ ড্যাশবোর্ডে একটি নতুন ফিচার যোগ করেছি। উপরে উল্লেখ করা হয়েছে, যখন গেম সার্ভারগুলো খারাপ ব্যবহারকারী আচরণের কারণে দখল হয়ে যায়, তখন আমরা সেগুলো বন্ধ করে দিই। নির্মাতাদের তাদের গেমে এটি কত ঘনঘন ঘটছে তা আরও ভালোভাবে দেখতে দিতে, আমরা তাদের বিদ্যমান ক্রিয়েটর ড্যাশবোর্ডে একটি নতুন চার্ট যোগ করেছি। 

স্রষ্টারা এখন দেখতে পারবেন তাদের কতগুলো গেম সার্ভার খারাপ ব্যবহারকারীর আচরণের কারণে বন্ধ হয়েছে (অর্থাৎ, আমাদের হয়রানি ও বৈষম্য বা রোমান্টিক ও যৌন বিষয়বস্তু নীতি লঙ্ঘন)। এটি তাদের হঠাৎ বৃদ্ধি চিহ্নিত করতে সাহায্য করে, যাতে বন্ধের সিদ্ধান্ত তাদের বৃহত্তর সম্প্রদায়কে প্রভাবিত করার আগেই তারা ব্যবস্থা নিতে পারে। এরপর তারা তাদের গেমটি আরও নিবিড়ভাবে পর্যালোচনা করে সিদ্ধান্ত নিতে পারে যে কাস্টম ইমোট, অবতার সম্পাদনা টুল বা ইন-গেম ব্যবহারকারী তৈরি ফিচারে কোনো পরিবর্তন প্রয়োজন কিনা, যাতে সমস্যাযুক্ত সৃষ্টি রোধ করা যায়। 

ডিজিটাল মডারেটরদের প্রশিক্ষণ 

Roblox, Keyword Studios, এবং Riot Games গবেষণা মনোবিজ্ঞানী ও Games for Change Research Director Rachel Kowert-এর সাথে অংশীদারিত্ব করছে ডিজিটাল কমিউনিটি নেতাদের জন্য একটি নতুন সার্টিফিকেশন প্রোগ্রামে। Roblox কমিউনিটি মডারেটেশন এবং প্রো-সোসিয়াল ডিজাইনে তাদের দক্ষতা প্রদান করবে পাইলট প্রকল্পে এবং নতুন DLC লিডারশিপ প্রোগ্রামের পাঠ্যক্রম গঠনে সহায়তা করবে। এই উদ্যোগের লক্ষ্য গেমিং ক্ষেত্রে অনলাইন মডারেটর, কমিউনিটি ম্যানেজার এবং নির্মাতাদের জন্য মানসম্মত প্রশিক্ষণের অভাব পূরণ করা। সম্প্রতি একটি নিবন্ধে কোওয়ার্ট বলেছেন, এই প্রোগ্রামের লক্ষ্য হল "গেমিং কমিউনিটি এবং অনলাইন আচরণ সম্পর্কিত গবেষণাগুলোকে এমন ব্যবহারিক সরঞ্জামে রূপান্তর করা যা ডিজিটাল নেতারা আরও স্থিতিস্থাপক এবং টেকসই অনলাইন কমিউনিটি গড়ে তুলতে ব্যবহার করতে পারেন।"

এই প্রচেষ্টায় অংশগ্রহণের মাধ্যমে, আমরা শিল্পকে নেতৃত্ব দিতে সাহায্য করব, একটি প্রথম-প্রকারের মানসম্মত সার্টিফিকেশন প্রোগ্রাম তৈরি করে যা Roblox নির্মাতা সম্প্রদায় এবং বৃহত্তর গেমিং শিল্পকে উপকৃত করবে। একবার সম্পন্ন হলে, প্রোগ্রামটি নির্মাতাদের তাদের নিজস্ব বর্ধিত সম্প্রদায়গুলিকে কার্যকরভাবে মডারেট এবং পরিচালনা করার জন্য প্রয়োজনীয় গুরুত্বপূর্ণ দক্ষতা শিখতে সাহায্য করবে। আমরা বিশ্বাস করি যে আরও মডারেটর এবং নির্মাতাদের স্বাস্থ্যকর, সম্মানজনক অনলাইন সম্প্রদায়ের সেরা অনুশীলন সম্পর্কে প্রশিক্ষণ দেওয়া অনলাইন গেমিংকে সবার জন্য আরও ইতিবাচক রাখতে সাহায্য করবে।