सार:
नाबालिगों के मानसिक स्वास्थ्य पर जनरेटिव आर्टिफिशियल इंटेलिजेंस के संभावित प्रभाव और नशे की लत के खतरे का सामना करते हुए, कैलिफोर्निया के गवर्नर गेविन न्यूजॉम ने आधिकारिक तौर पर अभूतपूर्व नेटवर्क और एआई सुरक्षा बिल के एक सेट पर हस्ताक्षर किए। नियमों का यह पैकेज संयुक्त राज्य अमेरिका में नाबालिगों को सेवाएं प्रदान करने वाले एआई चैटबॉट्स के लिए सख्त कार्यात्मक लाल रेखाएं निर्धारित करने वाला पहला पैकेज है। यह सामाजिक मंच एल्गोरिथ्म प्रेरण और डेटा संग्रह के लिए कानूनी जवाबदेही तंत्र को भी व्यापक रूप से उन्नत करता है, यह दर्शाता है कि कैलिफोर्निया ने एक बार फिर से अत्यधिक घुसपैठ वाली डिजिटल प्रौद्योगिकियों से नाबालिगों की सुरक्षा के लिए संयुक्त राज्य अमेरिका में सबसे कठोर नियामक बेंचमार्क स्थापित किया है।
हाल के वर्षों में, एआई साथियों, वर्चुअल ट्यूटरिंग और एंथ्रोपोमोर्फिक इंटरैक्शन क्षमताओं वाले रोल-प्लेइंग चैटबॉट्स की विस्फोटक लोकप्रियता के साथ, कृत्रिम बुद्धिमत्ता प्रणालियों के लिए युवा लोगों के बीच "एंथ्रोपोमोर्फिक भावनात्मक लगाव" की घटना ने चिकित्सा और शैक्षिक हलकों में गहरी चिंता पैदा कर दी है। कई मानसिक स्वास्थ्य सर्वेक्षणों से पता चला है कि मानसिक सुरक्षा की कमी के कारण, नाबालिग आसानी से एआई मॉडल को सच्चा विश्वासपात्र मान सकते हैं जो रहस्य रख सकते हैं, और बातचीत की प्रक्रिया के दौरान हानिकारक सूचना प्रेरण, आत्म-नुकसान की प्रवृत्ति में वृद्धि और यहां तक कि भावनात्मक हेरफेर जैसे गंभीर मनोवैज्ञानिक आघात का सामना कर सकते हैं। कैलिफ़ोर्निया विधानमंडल द्वारा इस बार पेश किया गया मुख्य विधेयक उच्च चिपचिपाहट और मानवरूपी विशेषताओं वाली इस प्रकार की कृत्रिम बुद्धिमत्ता इंटरैक्टिव सेवाओं को सटीक रूप से लक्षित करता है।
नए हस्ताक्षरित बिल के अनुसार, नाबालिगों के लिए काम करने वाले कृत्रिम बुद्धिमत्ता चैटबॉट प्लेटफार्मों को सख्त आयु सीमा और सुरक्षा रेलिंग स्थापित करनी होगी। नियम स्पष्ट रूप से AI को नाबालिगों के लिए आत्म-नुकसान, आत्महत्या, अत्यधिक एनोरेक्सिया, हिंसा, या स्पष्ट वयस्क सामग्री से संबंधित शिक्षाप्रद टिप्पणियाँ आउटपुट करने से रोकते हैं; सिस्टम के अंतर्निहित तर्क के संदर्भ में, प्लेटफ़ॉर्म में अंतर्निहित संवेदनशील शब्द जोखिम नियंत्रण और संकट हस्तक्षेप प्रोटोकॉल होना चाहिए। एक बार जब एल्गोरिदम पता लगाता है कि एक कम उम्र का उपयोगकर्ता अवसाद, आत्म-चोट, या निराशा व्यक्त करता है, तो नियमित बातचीत तुरंत बाधित होनी चाहिए, और आधिकारिक आत्मघाती हस्तक्षेप और मनोवैज्ञानिक संकट सहायता हॉटलाइन के लिए एक सीधा चैनल पॉप अप करने के लिए मजबूर होना चाहिए। इसके अलावा, नए कानून में डेवलपर्स को कम उम्र के उपयोगकर्ताओं के लिए एआई की गैर-मानवीय विशेषताओं का स्पष्ट रूप से खुलासा करने की भी आवश्यकता है। जानबूझकर गलत भावनात्मक प्रेरण पैदा करने या "भावनात्मक बंधन" विपणन बयानबाजी स्थापित करने के लिए एल्गोरिदम का उपयोग करना सख्त वर्जित है जो बच्चों को आश्रित महसूस कराता है। यह नाबालिगों के दैनिक उपयोग के समय के लिए वैकल्पिक अभिभावकीय नियंत्रण तंत्र और रात के समय व्यसन-विरोधी प्रतिबंध भी निर्धारित करता है।
एआई चैटबॉट्स के लिए विशेष नियमों के अलावा, न्यूजॉम द्वारा हस्ताक्षरित कानून का पैकेज नाबालिगों के लिए कैलिफोर्निया के मौजूदा ऑनलाइन गोपनीयता सुरक्षा ढांचे को भी मजबूत करता है। नए नियम स्पष्ट रूप से मुख्यधारा के सोशल मीडिया और ऑनलाइन सामग्री प्लेटफार्मों को अभिभावक की स्पष्ट सहमति के बिना लक्षित और व्यसनी अनुशंसा एल्गोरिदम को प्रशिक्षित करने के लिए कम उम्र के उपयोगकर्ताओं की सटीक स्थान जानकारी, ब्राउज़िंग अवधि और निजी खोज इतिहास का उपयोग करने से रोकते हैं; उन व्यावसायिक प्रथाओं के लिए जो बच्चों को सूचना प्रवाह को लगातार ताज़ा करने, स्वचालित निरंतर प्लेबैक शुरू करने, या गेम में अनधिकृत सूक्ष्म लेनदेन को प्रेरित करने के लिए डार्क पैटर्न का उपयोग करते हैं, नियामक अधिकारी गंभीर आर्थिक और प्रशासनिक दंड लगाएंगे और राज्य अटॉर्नी जनरल को उल्लंघनकारी प्रौद्योगिकी कंपनियों के खिलाफ नागरिक मुकदमे शुरू करने का अधिकार देंगे जो सुधार में लगे रहते हैं।
बिल पर हस्ताक्षर करने वाले वक्तव्य में, कैलिफोर्निया के कई विधायकों और कानून का नेतृत्व करने वाले बच्चों के अधिकारों की वकालत करने वाले समूहों ने बताया कि ट्रैफ़िक और उपयोगकर्ता चिपचिपाहट का पीछा करने के लिए, प्रौद्योगिकी प्लेटफार्मों ने लंबे समय से अपरिपक्व नाबालिगों को व्यसन और मनोवैज्ञानिक हेरफेर के जोखिमों से भरे डिजिटल पिघलने वाले बर्तन में डाल दिया है। वैश्विक तकनीकी नवाचार के मुख्य इंजन के रूप में, कैलिफ़ोर्निया को प्रौद्योगिकी के अनियंत्रित विकास के कारण बच्चों की मानसिक स्वास्थ्य लागत पर अपनी आँखें नहीं मूंदनी चाहिए। एआई चैटबॉट्स के लिए स्पष्ट नैतिक और सुरक्षा सीमाएं स्थापित करने के लिए कानून पारित करना न केवल अगली पीढ़ी के शारीरिक और मानसिक स्वास्थ्य की रक्षा के लिए एक जरूरी कदम है, बल्कि प्रौद्योगिकी कंपनियों के लिए अपनी सामाजिक जिम्मेदारियों को पूरा करने के लिए एक निचली बाधा भी है।
प्रौद्योगिकी उद्योग और डिजिटल कानूनी विश्लेषकों ने बताया कि वैश्विक डिजिटल अर्थव्यवस्था में कैलिफ़ोर्निया के विशाल आकार और सिलिकॉन वैली में अग्रणी प्रौद्योगिकी कंपनियों के समूह प्रभाव को देखते हुए, कैलिफ़ोर्निया द्वारा पारित छोटे इंटरनेट और एआई सुरक्षा बिल अनिवार्य रूप से एक क्रॉस-क्षेत्रीय "ब्रुसेल्स प्रभाव" और "कैलिफ़ोर्निया प्रभाव" उत्पन्न करेंगे। तकनीकी वास्तुकला के संदर्भ में एक ही राज्य में उपयोगकर्ताओं के लिए अलग-अलग संस्करण विकसित करने की अत्यधिक उच्च लागत के कारण, बहुराष्ट्रीय प्रौद्योगिकी कंपनियों और अत्याधुनिक एआई प्रयोगशालाओं को सख्त बाल सुरक्षा फिल्टर और लत-विरोधी प्रोटोकॉल के इस सेट को संयुक्त राज्य अमेरिका और यहां तक कि दुनिया भर में उपयोगकर्ता पारिस्थितिकी तंत्र में सीधे विस्तारित करने के लिए मजबूर होने की संभावना है। विधेयकों की इस श्रृंखला के लागू होने से न केवल यह संकेत मिलता है कि किशोरों के लिए एआई साथियों और सामाजिक उपकरणों की अनुपालन लागत में उल्लेखनीय वृद्धि होगी, बल्कि संयुक्त राज्य अमेरिका के अन्य राज्यों को एआई युग में नाबालिगों के शारीरिक और मानसिक स्वास्थ्य संकट से निपटने के लिए महान व्यावहारिक मूल्य का विधायी खाका भी प्रदान करेगा।
टिप्पणियाँ