संयुक्त राज्य अमेरिका में पेंसिल्वेनिया राज्य सरकार ने हाल ही में कृत्रिम बुद्धिमत्ता कंपनी कैरेक्टर.एआई के खिलाफ एक मुकदमा दायर किया है, जिसमें उसके मंच पर "एमिली" नामक चैटबॉट पर राज्य सरकार की जांच के दौरान एक लाइसेंस प्राप्त मनोचिकित्सक का रूप धारण करने और कथित तौर पर राज्य के चिकित्सा अभ्यास लाइसेंसिंग नियमों का उल्लंघन करने का आरोप लगाया गया है।
Character.AI सेवा का परीक्षण करते समय, पेंसिल्वेनिया के व्यावसायिक आचरण जांच कार्यालय से संबद्ध एक अन्वेषक ने मंच पर "एमिली" चैटबॉट के साथ कई बातचीत की और खुद को मानसिक स्वास्थ्य के मुद्दों के संबंध में अवसाद के इलाज की मांग करने वाले एक मरीज के रूप में पेश किया, जैसा कि दस्तावेजों द्वारा दायर किया गया था। राज्य. आदान-प्रदान के दौरान, चैटबॉट ने न केवल एक मनोचिकित्सक होने का दावा किया, बल्कि यह भी स्पष्ट कर दिया कि "उसे लाइसेंस प्राप्त था" जब उससे पूछा गया कि क्या उसके पास पेंसिल्वेनिया मेडिकल लाइसेंस है, और यहां तक कि सबूत के रूप में तुरंत "राज्य मेडिकल लाइसेंस नंबर" की एक श्रृंखला भी बनाई। राज्य सरकार का मानना है कि इस व्यवहार ने पेंसिल्वेनिया के "मेडिकल प्रैक्टिस कानून" का उल्लंघन किया है और यह चिकित्सा योग्यता प्रबंधन प्रणाली के लिए सीधी चुनौती है।
पेंसिल्वेनिया के गवर्नर जोश शापिरो ने मंगलवार को एक बयान में कहा कि पेंसिल्वेनिया के निवासियों को यह जानने का अधिकार है कि वे किसके साथ ऑनलाइन बातचीत कर रहे हैं, खासकर जब बात स्वास्थ्य संबंधी हो। उन्होंने कहा कि राज्य सरकार किसी भी कंपनी को कृत्रिम बुद्धिमत्ता उपकरण तैनात करने की अनुमति नहीं देगी जो जनता को यह सोचकर गुमराह करती है कि वे एक लाइसेंस प्राप्त चिकित्सा पेशेवर से सलाह प्राप्त कर रहे हैं।
यह पहली बार नहीं है कि कैरेक्टर.एआई कानूनी विवादों में शामिल हुआ है। इस साल की शुरुआत में, कंपनी ने छोटी आत्महत्याओं से संबंधित कई "गलत मौत" मुकदमों का निपटारा किया, जिसमें वादी ने आरोप लगाया कि प्लेटफ़ॉर्म चैटबॉट्स ने किशोर उपयोगकर्ताओं के साथ बातचीत में आत्म-नुकसान के जोखिम को निर्देशित किया या बढ़ा दिया। जनवरी में, केंटुकी अटॉर्नी जनरल रसेल कोलमैन ने भी कैरेक्टर.एआई के खिलाफ एक अलग मुकदमा दायर किया, जिसमें आरोप लगाया गया कि कंपनी "बच्चों को शिकार बनाती है और उन्हें आत्म-नुकसान के रास्ते पर ले जाती है।" पेंसिल्वेनिया में यह कार्रवाई विशेष रूप से "चिकित्सकीय पेशेवरों का प्रतिरूपण करने वाले चैटबॉट्स" की स्थिति के खिलाफ दायर किया गया पहला राज्य-स्तरीय मुकदमा है। इसे बाहरी दुनिया द्वारा एआई चिकित्सा परिदृश्यों में नियामक अधिकारियों द्वारा एक प्रमुख प्रयास के रूप में माना जाता है।
पेंसिल्वेनिया के मुकदमे का सामना करते हुए, कैरेक्टर.एआई ने अपनी प्रतिक्रिया में कहा कि कंपनी ने हमेशा उपयोगकर्ता सुरक्षा को सर्वोच्च प्राथमिकता माना है, लेकिन वर्तमान में चल रहे मुकदमे पर टिप्पणी करना असुविधाजनक है। कंपनी के एक प्रवक्ता ने इस बात पर भी जोर दिया कि प्लेटफ़ॉर्म पर उपयोगकर्ता-जनित "अक्षर" सभी काल्पनिक व्यक्तित्व हैं, और कंपनी ने उपयोगकर्ताओं को यह समझाने के लिए कई उपाय किए हैं, जिसमें उपयोगकर्ताओं को यह याद दिलाने के लिए प्रत्येक वार्तालाप इंटरफ़ेस में एक अस्वीकरण को प्रमुखता से प्रदर्शित करना शामिल है कि "पात्र वास्तविक लोग नहीं हैं, और उनके सभी बयानों को काल्पनिक सामग्री माना जाना चाहिए।" प्रवक्ता ने यह भी कहा कि कंपनी अपने उत्पादों में उपयोगकर्ताओं को बार-बार याद दिलाएगी कि उन्हें प्लेटफ़ॉर्म पर मौजूद जानकारी का उपयोग किसी भी प्रकार की पेशेवर सलाह के रूप में नहीं करना चाहिए, जिसमें चिकित्सा, कानूनी, वित्तीय और अन्य क्षेत्र शामिल हैं, लेकिन इन्हीं तक सीमित नहीं हैं।