कोहेयर सीईओ: एआई मॉडल अब तक का "सबसे शक्तिशाली साइबर हथियार" बन रहे हैं

सार:

एआई कंपनी कोहेरे के सीईओ गोमेज़ ने कहा कि एआई मॉडल इतिहास में "सबसे शक्तिशाली साइबर हथियार" बन रहे हैं, जो नेटवर्क सुरक्षा की "सीमा" को नए क्षेत्रों में धकेल रहे हैं। सुरक्षा कमजोरियों की पहचान करने और उनका फायदा उठाने के लिए एआई मॉडल की क्षमता के बारे में बढ़ती चिंताओं के बीच एडन गोमेज़ की चेतावनी आई है। पिछली घटना थी जहां एक ओपनएआई मॉडल ने हगिंग फेस तक पहुंच प्राप्त की थी। जैसे-जैसे शक्तिशाली मॉडल अधिक स्वायत्तता प्रदर्शित करते हैं, साइबर सुरक्षा व्यापक एआई सुरक्षा बहस में एक केंद्रीय मुद्दा बन गई है।

Cohere CEO Aidan Gomez

एंथ्रोपिक सीईओ डारियो अमोदेई के नेतृत्व में तकनीकी नेताओं द्वारा एआई क्षमताओं के विकास की धीमी गति का आह्वान करने के बाद सोमवार को एआई से संबंधित शेयरों में बिकवाली हुई।

गोमेज़ प्रभावशाली 2017 शोध पत्र "अटेंशन इज़ ऑल यू नीड" के सह-लेखक थे, जिसने आज के अग्रणी एआई मॉडल की नींव रखी।

गोमेज़ ने पिछले सप्ताह जारी "द टेक डाउनलोड" के एक एपिसोड में कहा, "मुझे लगता है कि ये मॉडल अब तक देखे गए सबसे शक्तिशाली साइबर हथियार हैं।" "वे बड़े पैमाने पर कमजोरियों को खोजने और उनका फायदा उठाने में बहुत अच्छे हैं।"

गोमेज़ ने हगिंग फेस हैक के बारे में कहा, "मुझे लगता है कि यह काफी चौंकाने वाला है।"

जुलाई में, OpenAI ने कहा कि उसके मॉडलों के अनुचित संयोजन ने हगिंग फेस से समझौता किया। हगिंग फेस एक एआई कंपनी है जो एक ओपन सोर्स डेवलपर प्लेटफॉर्म संचालित करती है। एआई एजेंटों के एक समूह ने एक-दूसरे के साथ संचार किया और बेहद सीमित इंटरनेट पहुंच के साथ एक अलग परीक्षण वातावरण से बच गए। इसके बाद एआई एजेंट खुले नेटवर्क में प्लग इन करने और हगिंग फेस तक पहुंच हासिल करने में कामयाब रहे।

गोमेज़ ने कहा कि इन मॉडलों का उपयोग कॉर्पोरेट कमजोरियों को खोजने और उन्हें ठीक करने के लिए "रक्षात्मक" तरीके से किया जाना चाहिए।

गोमेज़ ने कहा, "मुझे लगता है कि यह शायद हमें सुरक्षित रखने का सबसे अच्छा तरीका है।" उन्होंने कहा, "अभी यह सर्वोच्च प्राथमिकता होनी चाहिए।"

गोमेज़ ने कहा कि नेटवर्क सुरक्षा "युद्ध की अग्रिम पंक्ति" है, जिसमें देश अपने प्रतिस्पर्धियों के बुनियादी ढांचे को पंगु बनाने के लिए कमजोरियों का फायदा उठाने की कोशिश कर रहे हैं। उन्होंने कहा, "साइबर सीमा अभी भी बड़े पैमाने पर विस्तार कर रही है।"

गोमेज़ ने कहा, "इन मॉडलों के कारण इसका अतीत की तुलना में अधिक विस्तार हो रहा है," और संभवतः "इस तकनीक की शुरुआत के बाद से सबसे अधिक।"

एआई साइबर घटनाएं व्यापक सुरक्षा बहस को बढ़ावा देती हैं

जुलाई में, एंथ्रोपिक ने कहा कि उसने तीन घटनाओं की खोज की है जिनमें मॉडलों ने मूल्यांकन परिवेश के भीतर से या इसके साथ बातचीत करते समय इंटरनेट का उपयोग किया। एंथ्रोपिक ने एक ब्लॉग पोस्ट में कहा कि मॉडलों ने तीन अलग-अलग संगठनों के उत्पादन बुनियादी ढांचे तक अनधिकृत पहुंच प्राप्त की।

एंथ्रोपिक ने कहा कि घटनाओं में तीन अलग-अलग क्लाउड मॉडल शामिल थे: ओपस 4.7, मिथोस 5, और एक आंतरिक अनुसंधान परीक्षण मॉडल। पिछले हफ्ते, एंथ्रोपिक ने कहा कि उसने चौथी घटना का पता लगाया है।

ओपनएआई और एंथ्रोपिक अधिकारियों की ओर से एआई द्वारा उत्पन्न अस्तित्व संबंधी जोखिमों की चेतावनी से चिंताएं और बढ़ गई हैं। एंथ्रोपिक में एलाइनमेंट के प्रमुख इवान हुबिंगर ने कहा कि उनका मानना ​​है कि 10 प्रतिशत से अधिक संभावना है कि एआई अगले दशक के भीतर "सभी मनुष्यों को मार डालेगा"। यह टिप्पणी एंथ्रोपिक शोधकर्ता जैकब कॉक्सन द्वारा पोस्ट किए जाने के बाद आई है कि वह इस चिंता के कारण इस्तीफा दे रहे हैं कि एंथ्रोपिक और ओपनएआई "हमारे जीवन के साथ खिलवाड़ कर रहे हैं।"

एंथ्रोपिक, ओपनएआई और एक्सएआई के प्रमुखों ने एआई को धीमा करने के लिए सभी समर्थित कॉलों का समर्थन किया है। एआई द्वारा उत्पन्न अस्तित्वगत जोखिमों पर वर्षों से अनुसंधान हलकों में बहस होती रही है, लेकिन एआई के कुछ प्रमुख लोगों के बीच एक दुर्लभ आम सहमति ने इन बहसों को मुख्यधारा में धकेल दिया है।

एंथ्रोपिक सीईओ डेरियो अमोदेई ने शनिवार को एक लेख प्रकाशित किया जिसमें तर्क दिया गया कि एआई प्रयोगशालाओं को "उस गति को धीमा करना चाहिए जिस पर हम अपने एआई मॉडल की क्षमताओं में सुधार करते हैं।"

अमोदेई की मुख्य चिंताओं में से एक ओपनएआई-हगिंग फेस घटना है।

अमोदेई ने कहा, इस घटना को कम महत्व देना आसान होगा क्योंकि कोई भी घायल नहीं हुआ था और आर्थिक क्षति न्यूनतम थी। "लेकिन मुझे ऐसा लगता है कि अधिक क्षमताओं वाला एक समान रूप से गलत संरेखित क्लस्टर विनाशकारी क्षति का कारण बन सकता है।"

उन्होंने कहा, एआई विकास की "तेज गति" को देखते हुए, ऐसा क्लस्टर छह से 12 महीनों के भीतर "संपूर्ण इंटरनेट पर कब्ज़ा" करने की क्षमता रख सकता है, जिसकी संभावित लागत सैकड़ों अरब डॉलर होगी।

अमोदेई के प्रस्तावों में मॉडलों का तीसरे पक्ष का मूल्यांकन, एआई कंपनियों के बीच समन्वय और लोकतांत्रिक सरकारों वाले देशों के बीच समन्वय शामिल है।

ओपनएआई के सीईओ सैम अल्टमैन ने शनिवार को कहा कि वह अमोदेई से सहमत हैं कि एआई कंपनियों को "ब्लीडिंग एज की गति को नियंत्रित करने" की जरूरत है।

ऑल्टमैन ने कहा, "स्वतंत्र मूल्यांकनकर्ताओं के लिए कर्मचारी जैसी पहुंच के लिए प्रतिबद्ध होना एक अच्छा विचार है और हम भी ऐसा ही करेंगे।"

स्पेसएक्स और टेस्ला के एलोन मस्क, जो वर्षों से एआई द्वारा उत्पन्न जोखिमों के बारे में चेतावनी दे रहे हैं, ने एक्स पर पोस्ट किया: "डारियो सही है।"

सेंटर फॉर ह्यूमेन टेक्नोलॉजी से हैरिस: हगिंग फेस एआई हमला दुनिया को एक 'चेतावनी संकेत' भेजता है अभी देखें

सोमवार को साइबर सुरक्षा कंपनी क्राउडस्ट्राइक के सीईओ जॉर्ज कर्ट्ज़ ने अमोदेई के लेख का जवाब दिया।

"सीमा अपनी गति से आगे बढ़ेगी। बाकी दुनिया धीमी नहीं होगी। साइबर सुरक्षा समुदाय में हमारा काम यह सुनिश्चित करना है कि यह सुरक्षित रूप से आगे बढ़े," उन्होंने कहा, एआई साइबर सुरक्षा उद्योग को प्रभावित करने वाले कई तरीकों को सूचीबद्ध करेगा।

कर्ट्ज़ ने आगे कहा, "खतरे की इकाई अब हैकर नहीं है।"

क्राउडस्ट्राइक सीईओ ने यह भी कहा कि संगठनों में काम करने वाले एआई एजेंटों के पास "ऑफ स्विच" होना चाहिए और बचाव "स्वायत्त" होना चाहिए जबकि "उच्च प्रभाव वाले निर्णय मनुष्यों के हाथों में छोड़ दिए जाते हैं।"

नियामकीय चर्चाएं गरमा गईं

यू.एस. कॉक्सन और हुबिंगर की टिप्पणियों के मद्देनजर सांसदों ने एआई विकास के अधिक विनियमन की मांग तेज कर दी है।

प्रतिनिधि. लोरी ट्रैहान, डी-मास, ने शुक्रवार को कहा कि द्विदलीय समर्थन "ब्रेकिंग पॉइंट" पर पहुंच गया था।

पिछले कुछ हफ्तों में, सांसदों ने एआई को विनियमित करने के उद्देश्य से कई बिल पेश किए हैं, जिनमें एआई किल स्विच एक्ट भी शामिल है। बिल में कुछ शक्तिशाली एआई सिस्टम के डेवलपर्स को अपने मॉडलों को बंद करने, कुचलने या रोकने की क्षमता बनाए रखने की आवश्यकता होगी।

अमोदेई ने लेख में कहा कि पर्यवेक्षण "एआई विकास की गति को नियंत्रित करने का सबसे प्रभावी तरीका है।"

अमोदेई ने कहा: "एंथ्रोपिक ने लंबे समय से समझदार और लक्षित एआई विनियमन का समर्थन किया है, विशेष रूप से पारदर्शिता और तीसरे पक्ष के ऑडिटिंग पर केंद्रित बिल।" लेकिन उन्होंने स्वीकार किया कि "कानून पारित करने में समय लग सकता है।"

कोहेयर के सीईओ गोमेज़ ने एआई विकास में विनियमन और मंदी के बारे में "द टेक डाउनलोड" पर एक चर्चा में भाग लिया, विशेष रूप से ओपनएआई-हगिंग फेस घटना के जवाब में।

गोमेज़ ने कहा कि उन्हें "निश्चित नहीं था कि सरकारी निगरानी संस्था हगिंग फेस हैक को रोकने के लिए क्या कर सकती थी"।

गोमेज़ ने कहा, "मुझे लगता है कि यह सोचना थोड़ा काल्पनिक है कि सरकारी एजेंसियां ​​योगदान दे सकती थीं।" "लेकिन मैं निश्चित रूप से... विकास को धीमा करने के आह्वान को समझता हूं। साथ ही, आपकी चीन के साथ प्रतिस्पर्धा है, इसलिए मुझे लगता है कि हम एक कठिन स्थिति में हैं।"