एंथ्रोपिक, एक अमेरिकी एआई स्टार्टअप, हाल ही में एक अभूतपूर्व नियामक तूफान में फंस गया है: इसने 10 दिन पहले ही घोषणा की थी कि इसका सबसे उन्नत बड़े पैमाने का मॉडल जनता के लिए खुला होगा, लेकिन अब इसे निर्यात नियंत्रण के आधार पर अमेरिकी सरकार द्वारा तत्काल निलंबित कर दिया गया है। दुनिया भर में अधिकांश उपयोगकर्ता अब Fable 5 और Mythos 5 मॉडल तक नहीं पहुंच सकते हैं। यह पहली बार है कि संयुक्त राज्य अमेरिका ने सीधे एआई मॉडल पर ही निर्यात नियंत्रण उपायों को लागू किया है, जिससे सुरक्षा, उद्योग और गठबंधन संबंधों में कई स्तरों पर झटका लगा है।
द इकोनॉमिस्ट के अनुसार, अमेरिकी सीनेटर मार्क वार्नर ने 11 जून को एक वर्गीकृत ब्रीफिंग में बताया कि जनरल जोशुआ रुड, जो राष्ट्रीय सुरक्षा एजेंसी (एनएसए) के निदेशक और अमेरिकी साइबर कमांड के कमांडर के रूप में भी काम करते हैं, ने उन्हें बताया कि एंथ्रोपिक के मिथोस मॉडल ने अधिकृत रेड टीम अभ्यास के दौरान एनएसए के अधिकांश वर्गीकृत प्रणालियों की सुरक्षा को हफ्तों या दिनों में नहीं, बल्कि "घंटों" में तोड़ दिया। इस दावे की अभी तक किसी भी सरकारी एजेंसी द्वारा आधिकारिक तौर पर पुष्टि नहीं की गई है, और प्रासंगिक विवरण गोपनीय हैं, लेकिन यह जल्द ही प्रमुख कथा बन गई, जिसमें बताया गया कि अमेरिकी सरकार ने अचानक 12 जून को एक गंभीर निर्यात प्रतिबंध क्यों जारी किया: एक वाणिज्यिक कंपनी का एआई मॉडल थोड़े समय में दुनिया के सबसे अधिक संरक्षित गुप्त बुनियादी ढांचे में से एक में टूट गया।
जब एंथ्रोपिक ने पहली बार इस साल अप्रैल में मिथोस का खुलासा किया, तो यह स्पष्ट हो गया कि मॉडल सॉफ्टवेयर सुरक्षा कमजोरियों की खोज करने में बहुत शक्तिशाली था और इसका दुरुपयोग होने का खतरा था, इसलिए यह जनता के लिए खुला नहीं होगा। यह केवल अमेज़ॅन, ऐप्पल, गूगल, माइक्रोसॉफ्ट, एनवीडिया, जेपी मॉर्गन चेज़ और लिनक्स फाउंडेशन सहित प्रोजेक्ट ग्लासविंग नामक परियोजना के तहत लगभग 200 कड़ाई से जांचे गए भागीदारों तक पहुंच प्रदान करेगा। तब से, माइथोस ने हजारों वास्तविक दुनिया की कमजोरियों को उजागर करने में मदद की है, जिसमें 27 वर्षों से ओपनबीएसडी में निष्क्रिय सुरक्षा दोष और मोज़िला फ़ायरफ़ॉक्स 150 ब्राउज़र में 271 नए मुद्दे शामिल हैं।
9 जून को एंथ्रोपिक ने Fable 5 मॉडल को जनता के लिए लॉन्च किया। इसकी अंतर्निहित नींव मिथोस के समान है, लेकिन खतरनाक माने जाने वाले अनुरोधों को रोकने और प्रसंस्करण के लिए कम सक्षम मॉडलों पर इन अनुरोधों को पुनर्निर्देशित करने के लिए शीर्ष पर एक सुरक्षा क्लासिफायरियर लगाया गया है। एन्थ्रोपिक की स्थिति यह है कि ये "रेलवे" जनता के लिए कल्पित 5 को सुरक्षित बनाने के लिए पर्याप्त हैं; लेकिन एनएसए प्रवेश परीक्षण के बारे में जनरल रुड की गवाही उजागर होने के बाद, अमेरिकी सरकार स्पष्ट रूप से इस फैसले से असहमत थी और उसका मानना था कि मिथोस और फैबल 5 के बीच, अकेले सुरक्षा क्लासिफायरियर द्वारा लाया गया "क्षमता अंतर" रक्षा की एक विश्वसनीय रेखा बनाने के लिए पर्याप्त नहीं था।
प्रत्यक्ष ट्रिगर जिसने यह सब शुरू किया वह एक "जेलब्रेक" रिपोर्ट थी। अमेरिकी सरकार ने 12 जून को एंथ्रोपिक को सूचित किया कि उसने फैबल 5 सुरक्षा क्लासिफायर को बायपास करने का एक तरीका खोज लिया है, जो संभावित रूप से इसकी सबसे संवेदनशील साइबर आक्रामक और रक्षात्मक क्षमताओं को अनलॉक कर रहा है। एंथ्रोपिक के अनुसार, सरकार को केवल मौखिक रूप से भेद्यता के बारे में सूचित किया गया था, इसे "संभावित, संकीर्ण, गैर-सार्वभौमिक जेलब्रेक" के रूप में वर्णित किया गया था और कंपनी को कार्रवाई करने के लिए 90 मिनट का समय दिया गया था। जेलब्रेक की सूचना सबसे पहले एंथ्रोपिक में एक महत्वपूर्ण निवेशक और एआई क्षेत्र में प्रतिस्पर्धी अमेज़ॅन द्वारा अमेरिकी वाणिज्य विभाग को दी गई थी। उसी समय, छद्म नाम "प्लिनी द लिबरेटर" का उपयोग करने वाले एक शोधकर्ता ने फ़ेबल 5 के ऑनलाइन होने के 48 घंटों के भीतर एक्स और गिटहब पर अपना स्व-घोषित पूर्ण सिस्टम प्रॉम्प्ट शब्द पोस्ट किया।
सरकार के दबाव का सामना करते हुए, एंथ्रोपिक ने अपने मूल्यांकन पर जोर देते हुए जवाब दिया कि इस जेलब्रेक का प्रभाव सीमित था और सार्वभौमिक नहीं था, और इसने फैबल 5 की समग्र सुरक्षा को मौलिक रूप से पराजित नहीं किया। कंपनी ने यह भी बताया कि इसी तरह की सुरक्षा कमजोरियां अन्य मॉडलों में भी मौजूद हैं जो जनता के लिए खुले हैं, जिनमें ओपनएआई का जीपीटी-5.5 भी शामिल है, लेकिन ये मॉडल निर्यात नियंत्रण की समान तीव्रता का सामना नहीं करते हैं। एंथ्रोपिक ने एक बयान में चेतावनी दी कि यदि फ़ेबल 5 के लिए मौजूदा मानकों को पूरे उद्योग में लागू किया गया, तो "लगभग सभी प्रमुख मॉडल प्रदाताओं को नए मॉडल की तैनाती रोकने के लिए मजबूर होना पड़ेगा।"
सुरक्षा समुदाय के कुछ लोग एंथ्रोपिक के आकलन से सहमत हैं। फेसबुक के पूर्व मुख्य सुरक्षा अधिकारी एलेक्स स्टैमोस ने कहा कि उन्होंने प्रासंगिक शोध की समीक्षा की थी और माना था कि इसमें ध्यान देने योग्य निष्कर्ष थे, लेकिन उन्होंने "अद्वितीय क्षमताओं" का प्रदर्शन नहीं किया जो इस चरम प्रतिक्रिया को उचित ठहरा सके। हालाँकि, ट्रम्प प्रशासन के सलाहकार डेविड सैक्स ने इसके विपरीत विचार रखते हुए कहा कि यह समझना मुश्किल है कि एंथ्रोपिक कैसे दावा कर सकता है कि साइबर हथियार को पूरी तरह से चालू करने के लिए पर्याप्त जेलब्रेक को "गंभीर नहीं" के रूप में परिभाषित किया जा सकता है।
राजनीतिक पृष्ठभूमि के कारण बाहरी लोगों के लिए इस निर्णय को विशुद्ध रूप से तकनीकी सुरक्षा मुद्दे के रूप में देखना अधिक कठिन हो जाता है। फरवरी में, ट्रम्प प्रशासन ने सभी संघीय एजेंसियों को एंथ्रोपिक के मॉडल का उपयोग बंद करने का आदेश दिया, क्योंकि कंपनी ने अनुबंध की शर्तों पर हस्ताक्षर करने से इनकार कर दिया था, जो इसके एआई को स्वायत्त हथियार प्रणालियों और बड़े पैमाने पर घरेलू निगरानी में उपयोग करने की अनुमति देती थी। पेंटागन ने बाद में एंथ्रोपिक को "आपूर्ति श्रृंखला जोखिम" के रूप में वर्गीकृत किया, सैन्य ठेकेदारों को इसके मॉडल का उपयोग करने से रोक दिया, और एंथ्रोपिक वर्तमान में संघीय अदालत में उस पदनाम को चुनौती दे रहा है। संघर्षों की यह श्रृंखला इस निर्यात नियंत्रण को प्रमुख सुरक्षा घटनाओं से प्रेरित एक दीर्घकालिक खेल के प्रकोप की तरह बनाती है।
सबसे गहरी समस्या संस्थानों की अनुपस्थिति में है। कुछ विश्लेषकों ने बताया कि संयुक्त राज्य अमेरिका में अभी भी अत्याधुनिक एआई मॉडल के सुरक्षा जोखिमों का मूल्यांकन और नियंत्रण करने के लिए एक स्थिर और पारदर्शी ढांचे का अभाव है। 2 जून को, ट्रम्प प्रशासन ने एक कार्यकारी आदेश जारी किया जिसमें एआई कंपनियों को "स्वेच्छा से" नई पीढ़ी के अत्याधुनिक मॉडलों को सार्वजनिक रूप से जारी करने से पहले 30 दिनों की अग्रिम पहुंच प्रदान करने के लिए कहा गया। हालाँकि, फ़ेबल 5 7 दिनों के बाद सीधे ऑनलाइन हो गया और इस "स्वैच्छिक ढांचे" का अनुपालन नहीं किया। व्यावहारिक रूप से, 12 जून का प्रतिबंध कंपनियों को सरकारी समीक्षा में सहयोग करने के लिए मजबूर करने का एक कठिन साधन बन गया। "डायलॉग" वेबसाइट पर एक विश्लेषण लेख का मानना है कि मूल समस्या यह है कि सरकार के पास अत्याधुनिक मालिकाना मॉडल का स्वतंत्र रूप से मूल्यांकन करने के लिए आवश्यक डेटा, बुनियादी ढांचे और पेशेवर क्षमताओं का अभाव है, और इस कार्यकारी आदेश में उद्यमों पर इसकी निर्भरता को भी किसी न किसी रूप में मान्यता दी गई है।
इस प्रतिबंध का प्रभाव संयुक्त राज्य अमेरिका तक फैला हुआ है। जब फ़ेबल 5 और मिथोस 5 तक पहुंच पूरी तरह से बंद कर दी गई, तो ऑस्ट्रेलिया, यूनाइटेड किंगडम, कनाडा और न्यूज़ीलैंड, पारंपरिक अमेरिकी खुफिया गठबंधन जिसे फ़ाइव आइज़ के नाम से जाना जाता है, को भी बिना किसी चेतावनी के एक साथ बंद कर दिया गया। यूके का एआई सेफ्टी रिसर्च इंस्टीट्यूट, जिसे अत्याधुनिक मॉडलों के परीक्षण के लिए दुनिया का अग्रणी संस्थान माना जाता है, ने संबंधित प्रणालियों के मूल्यांकन की प्रक्रिया के दौरान अचानक पहुंच खो दी। इसके लिए पांच देशों की खुफिया एजेंसियों ने सोमवार को एक दुर्लभ संयुक्त बयान जारी किया। हालाँकि एंथ्रोपिक या मिथोस का नाम नहीं दिया गया था, संदर्भ निस्संदेह वर्तमान स्थिति की ओर इशारा करता है।
संयुक्त बयान में बताया गया कि अत्याधुनिक एआई मॉडल से वर्तमान उद्योग की अपेक्षाओं को पार करने और नेटवर्क हमले और रक्षा क्षमताओं के परिदृश्य को मौलिक रूप से बदलने की उम्मीद है। संबंधित जोखिमों के लिए समय सीमा अब "वर्षों" में नहीं बल्कि "महीनों" में मापी जाती है। दस्तावेज़ पर एनएसए साइबर सुरक्षा प्रमुख डेविड इम्बोर्डिनो और कार्यवाहक सीआईएसए निदेशक निक एंडरसन सहित वरिष्ठ अधिकारियों ने हस्ताक्षर किए। बयान में चेतावनी दी गई है कि एआई दुर्भावनापूर्ण अभिनेताओं के लिए हमले शुरू करने की सीमा को काफी कम कर देगा और उन्हीं पुरानी समस्याओं का फायदा उठाना जारी रखेगा जो वर्षों से हल नहीं हुई हैं - अप्रकाशित सिस्टम, कमजोर पहचान प्रबंधन नियंत्रण और सेवाएं जो अनावश्यक रूप से इंटरनेट के संपर्क में हैं। बयान में इस बात पर जोर दिया गया कि साइबर जोखिम अब पूरी तरह से तकनीकी मुद्दा नहीं है, बल्कि एक मुख्य उद्यम जोखिम और नेतृत्व की जिम्मेदारी है।
ऑस्ट्रेलिया में सिडनी विश्वविद्यालय में राष्ट्रीय सुरक्षा और एआई विशेषज्ञ ओलिविया शेन ने बताया कि बाहरी लोगों को अपना दृष्टिकोण एंथ्रोपिक तक सीमित नहीं रखना चाहिए। उनका मानना है कि उद्योग को उम्मीद करनी चाहिए कि "अगला मिथोस या अगला कल्पित कहानी जल्द ही दिखाई देगी", और वर्तमान में जनता केवल जारी मॉडल को देख सकती है, और चीन या अन्य देशों द्वारा समान रूप से उन्नत या उससे भी अधिक उन्नत सिस्टम विकसित किए जा सकते हैं और अभिनेताओं को बंद दरवाजों के पीछे उन्नत किया जा सकता है। सुरक्षा मीडिया साइबरस्कूप ने बताया कि अमेज़ॅन ख़तरे की ख़ुफ़िया रिपोर्ट में उल्लिखित हमले की क्षमताएं, जिसके कारण यह सरकारी कार्रवाई हुई, वास्तव में पुरानी पीढ़ी के मॉडल, जैसे क्लाउड ओपस, क्लाउड सॉनेट और यहां तक कि खुले स्रोत चीनी मॉडल की मदद से हासिल की जा सकती है, जो किसी भी अमेरिकी निर्यात नियंत्रण के अधीन नहीं हैं। ओपन सोर्स मॉडल परंपरागत रूप से क्षमताओं में हेड लैब से लगभग 6 से 8 महीने पीछे रहते हैं, इसलिए यह एक खुला प्रश्न है कि क्या फैबल 5 को अक्षम करने से वास्तव में जानबूझकर प्रतिद्वंद्वी की गति धीमी हो जाएगी।
अभी तक, अधिकांश उपयोगकर्ताओं के लिए फ़ेबल 5 और मिथोस 5 अभी भी ऑफ़लाइन हैं। एंथ्रोपिक ने पहले मीडिया को बताया था कि कंपनी "बहुत आश्वस्त है कि अगले कुछ दिनों में मॉडल की उपलब्धता बहाल हो जाएगी," लेकिन यह स्थिति अभी तक पूरी नहीं हुई है। पूर्वानुमान बाज़ारों द्वारा दी गई संभावनाओं के अनुसार 1 जुलाई से पहले पहुंच बहाल होने की संभावना लगभग 57% है। ट्रम्प ने पिछले हफ्ते एक्सियोस के साथ एक साक्षात्कार में कहा था कि वह अब एंथ्रोपिक को राष्ट्रीय सुरक्षा के लिए खतरा नहीं मानते हैं, उन्होंने कहा, "शायद यह एक सप्ताह पहले था, लेकिन अब नहीं।" जी7 के दौरान दोनों पक्षों की मुलाकात हुई और ट्रंप ने बातचीत की प्रगति पर टिप्पणी की कि "सबकुछ बहुत अच्छा चल रहा है।"
साइबर सुरक्षा शोधकर्ताओं, एआई उद्यमियों और व्यावसायिक अधिकारियों सहित दर्जनों लोगों ने संयुक्त रूप से सोमवार को व्हाइट हाउस को पत्र लिखकर सरकार से भविष्य के एआई जोखिम मूल्यांकन और प्रतिक्रिया प्रक्रियाओं में "खुली, वैज्ञानिक और पारदर्शी" प्रक्रिया के लिए प्रतिबद्ध होने का आह्वान किया। ऐसा माना जाता है कि अधिक परिचालन संकेत एंथ्रोपिक की पहचान सत्यापन नीति से आ सकता है, जो 8 जुलाई को प्रभावी होने वाली है, जो कंपनी को यह सत्यापित करने की अनुमति देगी कि उपयोगकर्ता अमेरिकी नागरिक हैं या नहीं, जिससे निर्यात नियंत्रण आदेश को पूरी तरह से रद्द किए बिना संयुक्त राज्य अमेरिका में मॉडल की उपलब्धता बहाल होने की उम्मीद है।
हालाँकि यह अभी भी स्पष्ट नहीं है कि अल्पावधि में प्रतिबंध कैसे समाप्त होगा, पिछले दस दिनों ने स्पष्ट रूप से एक महत्वपूर्ण मोड़ चिह्नित किया है: यह पहली बार है कि संयुक्त राज्य अमेरिका ने इसके संचालन का समर्थन करने वाले हार्डवेयर उपकरणों के बजाय सीधे एआई मॉडल पर निर्यात नियंत्रण रखा है। यूरोप इस मिसाल को करीब से देख रहा है, उसे डर है कि भविष्य में Azure, AWS या Google Cloud पर भी ऐसी ही स्थिति दोहराई जा सकती है। पूर्व ब्रिटिश सुरक्षा मंत्री टॉम तुगेंदट ने स्पष्ट रूप से कहा कि इस तरह के "सहज ज्ञान युक्त सबक" के बाद, देश यह सोचना शुरू कर देंगे कि महत्वपूर्ण क्लाउड और एआई बुनियादी ढांचे में अपने देश की संप्रभु क्षमताओं को कैसे हासिल किया जाए। इस बात के लिए कि क्या मिथोस ने वास्तव में कुछ घंटों के भीतर एनएसए की अधिकांश वर्गीकृत प्रणालियों में सेंध लगाई है, किसी भी सरकारी एजेंसी से कोई स्वतंत्र पुष्टि नहीं हुई है, और विशिष्ट विवरण अभी भी वर्गीकृत दस्तावेजों में छिपे हुए हैं।