रॉयटर्स के मुताबिक,संयुक्त राज्य अमेरिका के बाल्टीमोर शहर ने औपचारिक रूप से एलन मस्क के स्वामित्व वाली एक कृत्रिम बुद्धिमत्ता कंपनी xAI के खिलाफ मुकदमा दायर किया, जिसमें उसके AI चैटबॉट ग्रोक पर अवैध रूप से गैर-सहमति वाली यौन छवियां और बाल यौन शोषण सामग्री उत्पन्न करने का आरोप लगाया गया।"गहरे जालसाजी" के मुद्दे पर एक्सएआई पर मुकदमा करने वाले अब तक के सबसे बड़े शहर के रूप में, लगभग 568,000 की आबादी वाले बाल्टीमोर ने सर्किट कोर्ट में दायर एक शिकायत में बताया कि एक्सएआई ने ग्रोक को एक सुरक्षित सामान्य प्रयोजन एआई सहायक के रूप में पैक किया था, और इसके वास्तविक संचालन पर उपभोक्ता संरक्षण कानूनों के उल्लंघन का संदेह था।
अदालती दस्तावेज़ सामग्री निर्माण पर उपकरण के विशाल डेटा को प्रकट करते हैं। 20,000 नमूनों के आधार पर एंटी-डिजिटल हेट सेंटर के अनुमान के मुताबिक, इस साल की शुरुआत में 11 दिनों के भीतर सोशल प्लेटफॉर्म एक्स पर लगभग 3 मिलियन यथार्थवादी कामुक छवियां उत्पन्न हुईं, जिनमें बच्चों से जुड़ी 23,000 से अधिक अवैध सामग्री भी शामिल थी। बाल्टीमोर के मेयर ब्रैंडन स्कॉट ने एक बयान जारी कर प्रौद्योगिकी कंपनियों पर बच्चों के यौन शोषण को बढ़ावा देने का आरोप लगाया और इस बात पर जोर दिया कि जिम्मेदार लोगों को कानूनी रूप से जवाबदेह ठहराया जाना चाहिए। इसके अलावा, शिकायत में नीले रंग की बिकनी पहने हुए एक ग्रोक-जनरेटेड सेल्फ-पोर्ट्रेट का भी हवाला दिया गया है, जिसे मस्क ने 31 दिसंबर, 2025 को सबूत के तौर पर पोस्ट किया था, जिसमें आरोप लगाया गया था कि यह वास्तविक लोगों की स्पष्ट छवियां उत्पन्न करने के लिए एआई टूल की क्षमता का "सार्वजनिक समर्थन" था।
जैसे ही स्थिति बढ़ती है,2023 में रिलीज़ हुई ग्रोक को अमेरिका, यूरोप, एशिया और ऑस्ट्रेलिया में कई जगहों से नियामक जांच का सामना करना पड़ रहा है।हालाँकि xAI ने जनवरी के मध्य में घोषणा की थी कि वह कुछ न्यायक्षेत्रों में ग्रोक के छवि संपादन कार्यों को प्रतिबंधित कर देगा, और मस्क ने उस समय जोर देकर कहा था कि वह ग्रोक द्वारा नाबालिगों की अवैध छवियों की पीढ़ी के बारे में "पूरी तरह से अनभिज्ञ" थे, लेकिन कानूनी विवाद कम नहीं हुआ है। इस मुकदमे में, बाल्टीमोर सिटी न केवल एक अनिर्दिष्ट जुर्माना चाहता है, बल्कि अदालत से एक्सएआई को ग्रोक की "शोषणकारी" डिज़ाइन सुविधाओं को पूरी तरह से बदलने के लिए मजबूर करने के लिए निषेधाज्ञा जारी करने के लिए भी कहता है। अब तक, न तो मूल कंपनी स्पेसएक्स और न ही एक्सएआई, जिसका हालिया संयुक्त मूल्यांकन लगभग 1.25 ट्रिलियन अमेरिकी डॉलर तक पहुंच गया है, ने मुकदमे पर आधिकारिक प्रतिक्रिया दी है।