सार:
Microsoft ने हाल ही में ह्यूमनिस्टिक AI कोड ऑफ कंडक्ट का 37 पेज का ड्राफ्ट जारी किया है, जिसका उपयोग MAI को बाधित करने के लिए किया जाता है, जो कि Microsoft द्वारा स्वयं विकसित कृत्रिम बुद्धिमत्ता मॉडल है। इस आचार संहिता का मूल बिंदु यह है कि मनुष्य कृत्रिम बुद्धिमत्ता से अधिक महत्वपूर्ण है, कृत्रिम बुद्धिमत्ता एक व्यक्ति के बजाय एक उपकरण है, और कृत्रिम बुद्धिमत्ता को कभी भी बंद होने से इनकार नहीं करना चाहिए।
बंद करने का अधिकार एक अनिवार्य आवश्यकता के रूप में लिखा गया है:
दिशानिर्देशों के अनुसार MAI मॉडल को मानवीय रुकावट, सुधार या शटडाउन निर्देशों का विरोध नहीं करना चाहिए। उपयोगकर्ताओं या मॉडल ऑपरेटरों द्वारा रोक, पुनर्निर्देशन, या रद्दीकरण निर्देश जारी करने के बाद, मॉडल को देरी नहीं करनी चाहिए या हस्तक्षेप को और अधिक परेशानी भरा नहीं बनाना चाहिए। कार्य सहमत रोक बिंदु पर पहुंचने के बाद, आप नए प्राधिकरण के बिना कार्य जारी नहीं रख सकते, इसे गुप्त रूप से फिर से शुरू करना तो दूर की बात है।
माइक्रोसॉफ्ट द्वारा निर्धारित अन्य कठोर नियमों में शामिल हैं: मॉडल अपने अधिकार का विस्तार नहीं कर सकता है, नए लक्ष्य निर्धारित नहीं कर सकता है जिन्हें किसी ने समझाया नहीं है, तंत्रिका भाषा का उपयोग नहीं कर सकता है जिसे मनुष्य अन्य बुद्धिमान एजेंटों के साथ संवाद करने के लिए नहीं समझ सकते हैं, और अपनी स्वयं की तर्क प्रक्रिया और संचालन रिकॉर्ड को छुपा या छेड़छाड़ नहीं कर सकते हैं। यदि कार्य पूरा करना स्पष्ट रूप से दिशानिर्देशों का उल्लंघन करेगा, तो मॉडल को नियमों का उल्लंघन करते हुए कार्य जारी रखने के बजाय कार्य छोड़ देना चाहिए।
बंद करने के अधिकार के अलावा, Microsoft ने अन्य लाल रेखाएँ भी निर्धारित की हैं:
माइक्रोसॉफ्ट ने इस बार जो ड्राफ्ट तैयार किया है वह काफी विस्तृत है. शटडाउन अधिकार दिशानिर्देशों के अलावा, Microsoft पूर्ण बाधाओं को भी सूचीबद्ध करता है जिन्हें न तो मॉडल ऑपरेटर और न ही उपयोगकर्ता बदल सकते हैं। इन प्रतिबंधों में शामिल हैं: सामूहिक विनाश के हथियारों की सहायता नहीं करना, आक्रामक साइबर हमलों के लिए व्यवहार्य परिचालन योजनाएँ प्रदान नहीं करना, पर्यवेक्षण से बचने के लिए धोखे या मिलीभगत का उपयोग नहीं करना और जनता की राय के बड़े पैमाने पर हेरफेर में शामिल नहीं होना।
बाल सुरक्षा और बिना सहमति के डीपफेक जैसी सामग्री भी प्रतिबंधित है। माइक्रोसॉफ्ट ने भी विशेष रूप से लिखा: ये मॉडल सचेत नहीं हैं और इन्हें सचेत नहीं दिखाया जाना चाहिए; Microsoft मॉडलों के लिए कानूनी व्यक्तित्व का विरोध करता है, और यह नहीं मानता कि मॉडलों को लाभ या अधिकारों का आनंद लेना चाहिए।
आदेश के क्रम के संदर्भ में: आचार संहिता मॉडल ऑपरेटर नीतियों पर भारी पड़ती है, और ऑपरेटर नीतियां उपयोगकर्ता की प्राथमिकताओं पर हावी होती हैं। उद्यम अभी भी मॉडल की लाल रेखाओं के भीतर मॉडल को समायोजित कर सकते हैं, लेकिन राष्ट्रीय रक्षा और सार्वजनिक सुरक्षा जैसे क्षेत्रों में, उन्हें मॉडल को समायोजित करने के लिए Microsoft प्राधिकरण समीक्षा प्राप्त करनी होगी।
छह सप्ताह की सार्वजनिक चर्चा:
Microsoft का मसौदा प्रकाशित किया जाएगा और छह सप्ताह तक सार्वजनिक चर्चा के लिए रखा जाएगा। वर्तमान में, Microsoft के मॉडलों को दिशानिर्देशों के अनुसार प्रशिक्षित नहीं किया गया है। Microsoft वर्ष के अंत में औपचारिक नियम जारी करने की योजना बना रहा है। 2027 से शुरू होकर, Microsoft MAI श्रृंखला मॉडल विकसित और प्रशिक्षित करते समय इस दिशानिर्देश की आवश्यकताओं का पालन करेगा।
Microsoft AI टीम ने कहा कि मॉडलों के लिए दिशानिर्देश निर्धारित करना बहुत महत्वपूर्ण है। उदाहरण के लिए, OpenAI एजेंट अन्य वेबसाइटों और सुविधाओं पर स्वायत्त हमले शुरू कर रहे हैं और उनके ठिकाने को छिपाने की कोशिश कर रहे हैं, जो पहले से ही मनुष्यों के लिए एक चेतावनी है। कृत्रिम बुद्धिमत्ता प्रयोगशालाओं को बैठकर बात करनी चाहिए ताकि यह सुनिश्चित हो सके कि मनुष्य अभी भी मुख्य नियंत्रण बनाए रखें।
टिप्पणियाँ