إعادة التفكير في الدردشة لجعلها أكثر متعة وتحسين تجربة اللعب وتعزيز التحضّر

• تعد الدردشة السلسة والطبيعية أمرًا بالغ الأهمية في الألعاب التي يلعب فيها الفرق أو المجتمعات معًا.

• يمكن أن تتسبب سلاسل ##### الناتجة عن حظر اللغة غير اللائقة في تعطيل انسيابية الدردشة، وصعوبة متابعتها، وانقطاع اللعب.

• للمساعدة في الحفاظ على انسيابية الدردشة واحترامها، نُحسِّن فلاتر الدردشة لدينا ونعيد صياغة اللغة البذيئة إلى مصطلحات تتوافق مع إرشاداتنا.

• تُعد هذه الخطوة الأولى في مسارنا طويل الأمد نحو تقليل #####، بهدف تحقيق تجربة دردشة أكثر طبيعية وسلاسة. سنواصل التعلم والتطوير وتحسين أدواتنا لدعم دردشة آمنة ومتحضرة، بما في ذلك إضافة عناصر تحكم إضافية للمستخدمين.

يتواصل ملايين الأشخاص يوميًا ويلعبون على منصّة Roblox حيث يعد التواصل في الوقت الفعلي مهمًا لتعبير المستخدم وتنسيق اللعب. لطالما شكّل استخدام فلاتر الذكاء الاصطناعي لحظر النصوص المزعجة (التي تظهر للمستخدمين على شكل #####) جزءًا أساسيًا من نهجنا لضمان السلامة وتعزيز التحضّر. يتم إنشاء هذه الرموز في الوقت الفعلي، وتساعد المستخدمين على معرفة متى يكون ما يكتبونه غير مسموح به. بالطبع، عندما يواصل المستخدمون مخالفة القواعد، ستترتب عليهم عواقب تتجاوز مجرد ظهور كلماتهم على شكل ###.

في مايو 2025، قدمنا تحذيرات استباقية في الوقت الفعلي لمساعدة المستخدمين على فهم سياساتنا. وأصبحت هذه التحذيرات الآن فعّالة لكل من الدردشة النصية والمحادثة الصوتية. تُعلِم هذه الإشعارات المستخدمين عند مخالفتهم لإحدى القواعد، وتشجّعهم على إعادة النظر في لغتهم في المرات القادمة، وتساعدهم على أن يصبحوا مواطنين أفضل في العالم الرقمي. في التجارب التي أُجريت العام الماضي، لاحظنا أن إصدار إشعارات الدردشة النصية داخل التجربة وفترات التوقف أدى إلى انخفاض بنسبة 5% في رسائل الدردشة المفلترة، وانخفاض بنسبة 6% في العواقب الناتجة عن بلاغات الإساءة.

اليوم، نضيف ميزة جديدة تساعد في الحفاظ على السلوك الحضاري في الدردشة النصية داخل التجربة: سنستخدم الذكاء الاصطناعي لإعادة صياغة الرسائل تلقائيًا، بدءًا من اللغة البذيئة. ومع توسع هذه الأنظمة، تُنشئ دورة إيجابية نحو التحلي بالتحضّر، حيث تساعد الملاحظات في الوقت الفعلي المستخدمين على تعلم معايير مجتمعنا واتباعها. يمكن لجميع المستخدمين، وليس فقط مرسل الرسالة، الاطّلاع على اللغة المسموح بها على منصّة Roblox، بينما يرى المرسل اللغة غير المسموح بها. يوفّر هذا مزيدًا من الملاحظات للمستخدمين الذين قد لا يعرفون القواعد، ويعزز بنيتنا القائمة على التصفية والتنبيهات في الوقت الفعلي، لمساعدة المستخدمين على إجراء محادثات آمنة، حضارية، وممتعة على منصّة Roblox.

إعادة صياغة الدردشة في الوقت الفعلي: الانتقال من التنبيهات الصارمة إلى التوجيه الإيجابي

بالنسبة للعديد من المستخدمين، يمكن أن تكون سلسلة ##### نهاية محادثة، دون أي توجيه حول كيفية إعادة صياغة كلامهم للالتزام بمعايير مجتمعنا. غالبًا ما يؤدي هذا إلى حدوث ارتباك، ويجعل التعاون بين الفرق داخل اللعبة أكثر صعوبة. تخيّل شخصًا يحاول تحذير صديقه من وجود وحش خلفه ويكتب شيئًا مثل: "انتبه!" هناك وحش لعين خلفك! آآآه!لتحذيره. لا يرى الصديق سوى "###########". وهذا ليس مفيدًا على الإطلاق. 

ابتداءً من اليوم، ستتم إعادة صياغة النصوص المفلترة بلغة أكثر احترامًا، بحيث تظل طبيعية وسهلة الفهم لمستخدمي منصّة Roblox. عند إطلاقها، ستركّز ميزة إعادة الصياغة في الوقت الفعلي على اللغة البذيئة. على سبيل المثال، عبارة "أسرع عليك اللعنة!"قد تتحوّل إلى "أسرع!"وهي أقرب بكثير للمعنى الأصلي مقارنة بـ "#####". وللتوضيح، حتى عند إعادة صياغة رسالة تنتهك سياسة اللغة البذيئة، تظل انتهاكًا وتُطبّق عليها نفس القواعد. سيظل المستخدم الذي يواصل السب في الدردشة معرضًا لنفس العواقب على تكرار انتهاك سياستنا.

فكر في هذا النظام على أنه عجلة قيادة، وليس علامة توقف: إذا كانت الرسالة تنتهك سياستنا، فسيتم إخطار كل شخص في الدردشة بأنه قد تمت إعادة صياغة النص للحفاظ على الحوار الحضاري. من خلال مطابقة الكلمات المقيدة مع العبارات التي يستخدمها اللاعبون في الدردشة اليومية، نساعد على الحفاظ على الحوار بشكل حضاري دون المساس بالطابع الطبيعي أو انسيابه. من خلال استبدال هذه العلامات التوقّفية بالتوجيه في الوقت الفعلي، يمكننا تقليل بعض العقبات، وفي الوقت نفسه تعزيز قواعدنا ضد السب.

ما زلنا في المراحل الأولى من إعادة صياغة النصوص وتقديم سياق أوضح للمستخدمين عند حظر النص. ومع مرور الوقت، وكأي أداة ترجمة تعتمد على الذكاء الاصطناعي، ستصبح هذه الأداة أكثر دقة وعمقًا في الحفاظ على نبرة المستخدم الأصلية أو سياق كلامه. وتظل أولويتنا بناء طريقة آمنة ومتحضّرة للتواصل على منصّة Roblox، مع الاستمرار في إعطاء الأولوية لإطلاع مستخدمينا وتثقيفهم وإرشادهم أثناء تعرّفهم على معاييرنا. 

بينما تساعد ميزة إعادة الصياغة على تقليل بعض الانقطاعات في الدردشة، يظل نظام السلامة متعدد الطبقات لدينا مطبقًا للتعامل مع السلوكيات الأكثر خطورة. تتوفر ميزة إعادة الصياغة حصريًا في الدردشة داخل التجربة، وتكون متاحة فقط بين المستخدمين الذين تم التحقق من أعمارهم ضمن فئات عمرية مماثلة وبين جهات التواصل الموثوقة الخاصة بهم. تدعم ميزة إعادة الصياغة جميع اللغات المتوفرة حاليًا عبر أدوات الترجمة التلقائية لدينا. نسعى للوصول إلى مستوى من الدقة يمكّننا من تقليل ### تدريجيًا إلى أن نتمكن من الاستغناء عنها تمامًا، ليصبح التواصل الرقمي سلسًا وطبيعيًا وواضحًا كما لو كان وجهًا لوجه.

أثناء تطويرنا لهذه الميزة، استشرنا أعضاء مجلس المراهقين لدينا لإنشاء نظام يعكس الطريقة التي يتحدث بها المراهقون فعليًا. وقالت عضوة المجلس صوفيا: "التحوّل نحو إعادة الصياغة في الوقت الفعلي يحافظ على انسيابية المحادثة، وفي الوقت نفسه يساعد في الحفاظ على سلامة الجميع. فهي توجِّه التفاعلات برفق نحو المسار الصحيح وتساعد الأشخاص على الشعور بالترحيب." 

وتتفق مع ذلك عضوة مجلس المراهقين جوردين. تقول جوردين: "يساعد هذا التغيير اللاعبين على التفكير في طريقة تواصلهم، ويعزّز التفاعل بينهم من خلال تشجيع الروابط الودية. ويوفر التحوّل إلى ميزة إعادة الصياغة توازنًا بين تلبية طلبات اللاعبين وضمان الالتزام بمعايير السلامة الضرورية."  

الفلاتر المحسّنة للنصوص: التطور من الأنماط إلى فهم السياق

تستمر ميزات السلامة لدينا في التطور دائمًا لتعكس طريقة تواصل المستخدمين على منصّة Roblox. وقد تم تدريب فلاتر النصوص لدينا على اكتشاف أي محتوى ينتهك معايير مجتمعنا وحظره. ويجب أن يحدث ذلك على نطاق عالمي وفي الوقت الفعلي أثناء تواصل المستخدمين في الدردشة.

في البداية، كان لهذا النظام مكوِّنان: 1) نظام قائم على القواعد، مُصمَّم لاكتشاف المحتوى الذي ينتهك قواعدنا وحظره خلال دقائق عند وقوع أحداث في العالم الحقيقي. 2) مجموعة من النماذج المتخصصة التي دُرِّبت انطلاقًا من نموذج أكبر، استنادًا إلى مجموعة من العينات المُحاكاة والحقيقية التي تُحدَّث باستمرار لتشمل أنواع اللغة المتطورة. 

تجيد هذه النماذج المتخصصة أداء مهام محددة، مثل العثور على قائمة بالكلمات غير المسموح بها، لكنها تفتقر إلى القدرة على التفكير المنطقي، لذلك لا تُجيد اكتشاف المصطلحات التي تتطور مع مرور الوقت. لا تعمل النماذج الضخمة جدًا في الوقت الفعلي، وغالبًا ما تؤدي الهلوسات (أو التصنيفات الخاطئة) إلى زيادة النتائج الإيجابية الكاذبة. 

في هذا التحديث، قدمنا مكوّنًا جديدًا، هو الثالث في نظام فلترة النصوص لدينا. الآن، عندما لا تكون النماذج المتخصصة متأكدة مما إذا كان المحتوى ينتهك القواعد أم لا، يتم تحويله إلى النماذج الضخمة جدًا التي تتمتع بقدرة أفضل على التحليل وفهم السياق بشكل أوسع. يمكن لهذه النماذج الكبيرة اتخاذ قرارات أكثر تعقيدًا. 

تُظهر تجاربنا أن هذا النهج المُدمج قد أدى إلى تحسين الفلاتر بشكل ملحوظ. أصبحت الفلاتر الآن قادرة على اكتشاف لغة "leet-speak" بشكل أفضل، أي الحروف المستبدلة بأرقام أو رموز، بالإضافة إلى المحاولات الأكثر تطورًا لتجاوز الفلاتر. لا يوجد نظام مثالي أبدًا، لكننا متحمسون لأن هذا الابتكار الأخير ساعدنا على خفض عدد الحالات غير المكتشفة لمشاركة أو طلب المعلومات الشخصية، مثل حسابات التواصل الاجتماعي أو أرقام الهاتف، بمقدار 20 ضعفًا.

هذا نهج جديد وجريء، ونحن ندرك أننا لن نتمكن دائمًا من إعادة صياغة كل شيء بشكل مثالي. لكننا سنواصل التعلم والتجربة بينما نمضي قدمًا، وسنستمر في تقليل عدد ##### التي تظهر لمستخدمي الدردشة، بهدف الاستغناء عنها تمامًا على المدى الطويل. هدفنا النهائي هو تمكين المستخدمين من التعاون والتواصل بطريقة تجمع بين المتعة والاحترام.