ग्रोक, एलोन मस्क के स्वामित्व वाला कृत्रिम बुद्धिमत्ता चैटबॉट, दुनिया भर में बढ़ती आलोचना का सामना कर रहा है और नाबालिगों की छवियों सहित यौन रूप से स्पष्ट छवियां उत्पन्न करने के लिए सोशल मीडिया प्लेटफॉर्म एक्स पर उपयोगकर्ता के आदेशों का जवाब देने के लिए सरकारी कार्रवाई का खतरा है।
प्रासंगिक मलेशियाई अधिकारियों ने शनिवार को एक बयान जारी कर कहा कि देश शिकायतें मिलने के बाद ग्रोक द्वारा उत्पन्न संबंधित छवियों की जांच कर रहा है कि कुछ लोगों ने महिलाओं और नाबालिगों की छवियों के साथ छेड़छाड़ करने और अश्लील, अत्यधिक आक्रामक या अन्य हानिकारक सामग्री तैयार करने के लिए कृत्रिम बुद्धिमत्ता तकनीक का दुरुपयोग किया है।
मलेशियाई संचार और मल्टीमीडिया आयोग ने शनिवार को एक बयान में कहा कि ऐसी हानिकारक सामग्री का उत्पादन या प्रसार मलेशियाई कानून के तहत अवैध है। मीडिया नियामक ने कहा कि वह कानून तोड़ने के आरोपी सोशल प्लेटफॉर्म एक्स के उपयोगकर्ताओं की जांच करेगा और कंपनी के प्रतिनिधियों को पूछताछ के लिए बुलाएगा।
बयान में कहा गया है, "हालांकि सोशल प्लेटफॉर्म एक्स वर्तमान में एक लाइसेंस प्राप्त सेवा प्रदाता नहीं है, लेकिन उसके पास अपने प्लेटफॉर्म पर हानिकारक सामग्री के प्रसार को रोकने की जिम्मेदारी है।"
मस्क ने सोशल प्लेटफॉर्म पर एक पोस्ट में जवाब दिया
उन्होंने पोस्ट में लिखा, "जो कोई भी अवैध सामग्री उत्पन्न करने के लिए ग्रोक का उपयोग करता है, उसे अवैध सामग्री अपलोड करने के समान परिणाम भुगतने होंगे।"
मलेशिया ग्रोक के बारे में कड़ी चिंता व्यक्त करने वाला नवीनतम देश है। भारत सरकार ने सोशल प्लेटफॉर्म ब्लूमबर्ग को एक पत्र भेजा है, जिसमें 2 जनवरी को लिखे गए पत्र की एक प्रति की समीक्षा की गई है।
भारत सरकार को सोशल प्लेटफॉर्म की आवश्यकता है भारत सरकार ने यह भी कहा कि वह सोशल मीडिया प्लेटफॉर्म पर कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न आपत्तिजनक सामग्री के लिए विशेष नियम लाने पर विचार कर सकती है।
भारत के सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने एक साक्षात्कार में कहा, "संबंधित संसदीय समिति ने सोशल मीडिया प्लेटफार्मों को विनियमित करने के लिए एक मजबूत कानून लाने की सिफारिश की है। हम वर्तमान में इस प्रस्ताव का अध्ययन कर रहे हैं।"
फ्रांसीसी सरकार ने भी पिछले शुक्रवार को आरोप दायर किया था, जिसमें दावा किया गया था कि ग्रोक ने शामिल पक्षों की सहमति के बिना सोशल प्लेटफॉर्म एक्स पर "स्पष्ट रूप से अवैध" यौन सामग्री तैयार की थी। फ्रांसीसी सरकार ने एक बयान में बताया कि ग्रोक द्वारा उत्पन्न प्रासंगिक छवियों ने यूरोपीय संघ के डिजिटल सेवा अधिनियम का उल्लंघन किया हो सकता है। बयान में उल्लेख किया गया है कि इस विनियमन के लिए बड़े प्लेटफार्मों को अवैध सामग्री के प्रसार के जोखिम को कम करने के लिए उपाय करने की आवश्यकता है।
चैटबॉट ने अपनी स्वयं की स्वीकार्य उपयोग नीति का स्पष्ट उल्लंघन करते हुए आपत्तिजनक छवियां उत्पन्न कीं, जो स्पष्ट रूप से बच्चों के यौन शोषण से जुड़ी सामग्री के निर्माण पर रोक लगाती है। फ़िलहाल, अलमारियों से कुछ अवैध तस्वीरें हटा दी गई हैं।
रिपोर्टर ने इस मामले पर ग्रोक विकसित करने वाली और सोशल प्लेटफॉर्म संचालित करने वाली कंपनी xAI से ईमेल के जरिए टिप्पणी मांगी
पिछले दो हफ्तों में, सोशल प्लेटफॉर्म एक्स पर अधिक से अधिक उपयोगकर्ताओं ने ग्रोक से छवियां बनाने और महिलाओं और बच्चों की तस्वीरों के साथ यौन संबंध बनाने और छेड़छाड़ करने के लिए कहा है। क्रिसमस से ठीक पहले प्लेटफ़ॉर्म द्वारा अपना फोटो संपादन फीचर लॉन्च करने के बाद यह अस्वास्थ्यकर प्रवृत्ति तेजी से दुनिया भर में फैल गई।
ग्रोक ने सोशल प्लेटफॉर्म पर एक पोस्ट किया