ऑनलाइन गेमिंग प्लेटफ़ॉर्म रोब्लॉक्स ने हाल ही में घोषणा की है कि उसने कृत्रिम बुद्धिमत्ता पर आधारित एक वास्तविक समय चैट पुनर्लेखन फ़ंक्शन लॉन्च किया है। जब खिलाड़ी अवैध सामग्री वाले संदेश भेजते हैं, तो सिस्टम अब उन्हें केवल "#" चिह्न के साथ ब्लॉक नहीं करता है, बल्कि स्वचालित रूप से प्रासंगिक अभिव्यक्तियों को अधिक विनम्र और प्लेटफ़ॉर्म-अनुरूप भाषा में फिर से लिखता है, जबकि उपयोगकर्ता की मूल अभिव्यक्ति के इरादे के जितना संभव हो उतना करीब होने की कोशिश करता है। रोबॉक्स ने कहा कि अतीत में, "####" के बड़े पैराग्राफ न केवल बातचीत की लय को बाधित करते थे, बल्कि खिलाड़ियों के लिए संदर्भ को समझना भी मुश्किल बना देते थे। इसलिए, Roblox को सभ्यता के सामुदायिक मानकों को बनाए रखते हुए चैट प्रक्रिया में घर्षण को कम करने के लिए इस पद्धति का उपयोग करने की उम्मीद है।
नए तंत्र के तहत, जब कोई उपयोगकर्ता संवेदनशील शब्दों वाली सामग्री में प्रवेश करता है, तो चैट विंडो सीधे पुनर्लिखित पाठ को प्रदर्शित करेगी और बातचीत में भाग लेने वाले सभी उपयोगकर्ताओं को संकेत देगी कि संदेश को मैत्रीपूर्ण और स्पष्ट संचार माहौल बनाए रखने में मदद के लिए फिर से लिखा गया है। उदाहरण के लिए, रिपोर्ट में कहा गया है कि वाक्य "जल्दी करो टीएफ!" इसे "####" के रूप में पूरी तरह से अवरुद्ध कर दिया गया होगा, अब इसे "जल्दी करो!" जैसे अधिक तटस्थ अभिव्यक्तियों में बदल दिया जाएगा। रोब्लॉक्स में उपयोगकर्ता और खोज उत्पादों के उपाध्यक्ष राजीव भाटिया ने एक प्रेस विज्ञप्ति में कहा कि चैट खिलाड़ियों के मंच पर सामाजिक, सहयोगात्मक और खेलने के अनुभव के मूल में है, और वास्तविक समय पुनर्लेखन उपयोगकर्ताओं को खेल की लय को बाधित किए बिना अधिक उपयुक्त शब्दों का उपयोग करने में मार्गदर्शन करने में मदद करता है।
भाटिया ने इस बात पर जोर दिया कि एक ओर, यह सुविधा "खामोश करने के बजाय चमकाने" द्वारा चैट में बाधाओं को कम करती है, दूसरी ओर, यह अभी भी प्लेटफ़ॉर्म के मूल सुरक्षा मानकों को बनाए रखती है, और अधिक गंभीर उल्लंघनों से निपटने के लिए अभी भी सख्त सुरक्षा प्रणालियों का उपयोग किया जाएगा। रोबॉक्स ने बताया कि नया लॉन्च किया गया रीयल-टाइम रीराइटिंग फ़ंक्शन अपने बहुभाषी उपयोगकर्ता आधार को कवर करने के लिए मौजूदा प्लेटफ़ॉर्म के स्वचालित अनुवाद टूल द्वारा समर्थित सभी भाषाओं पर लागू होता है।
नए पुनर्लेखन फ़ंक्शन के अलावा, रोबॉक्स ने अवैध भाषा की अधिक विविधताओं की पहचान करने के लिए अपने टेक्स्ट फ़िल्टरिंग सिस्टम को भी अपग्रेड किया है। कंपनी ने कहा कि सुधारों के बाद, सेंसरशिप से बचने के लिए "लीटस्पीक" और अधिक जटिल लेखन विधियों की पहचान करने में सिस्टम के प्रदर्शन में सुधार हुआ है, जिससे व्यक्तिगत जानकारी साझा करने या अनुरोध करने के परिदृश्यों में "चूक" में काफी कमी आई है, और संबंधित गलत निर्णय दर लगभग 20 गुना कम हो गई है।
यह अपडेट रोबॉक्स द्वारा प्लेटफ़ॉर्म पर सुरक्षा उपायों को कड़ा करने की पृष्ठभूमि के बीच आया है। Roblox ने इस साल फरवरी में प्लेटफ़ॉर्म चैट के लिए अनिवार्य चेहरा सत्यापन पेश किया था, जब कंपनी को टेक्सास, केंटकी और लुइसियाना के राज्य अटॉर्नी जनरल द्वारा दायर किए गए कई मुकदमों का सामना करना पड़ा था, जिसमें आरोप लगाया गया था कि प्लेटफ़ॉर्म पर बाल सुरक्षा में गंभीर छिपे खतरे हैं। मुकदमे कई जांच रिपोर्टों और अनुसंधान संगठनों के आरोपों से उपजे हैं कि रोबॉक्स कम उम्र के उपयोगकर्ताओं को धोखे और स्पष्ट सामग्री सहित उच्च जोखिम वाले वातावरण में उजागर करता है, जिससे इसके सुरक्षा तंत्र पर चल रही नियामक जांच और दबाव बढ़ जाता है।
नियामक दबाव और सामुदायिक सुरक्षा मांगों से प्रेरित, रोबॉक्स इस बार बच्चों और किशोरों की सुरक्षा सुनिश्चित करते हुए इन-गेम चैट की सुसंगतता और पठनीयता को यथासंभव बनाए रखने की कोशिश करने के लिए वास्तविक समय एआई पुनर्लेखन और मजबूत टेक्स्ट फ़िल्टरिंग के संयोजन का उपयोग करता है।