सार:
एप्पल ने मंगलवार को अपनी वार्षिक वित्तीय फाइलिंग में कहा कि "अप्रत्याशित या अप्रत्याशित तरीकों" से कार्य करने में सक्षम एआई एजेंट कंपनी को मुकदमों में फंसाकर या उसकी प्रतिष्ठा को नुकसान पहुंचाकर उसके व्यवसाय के लिए खतरा पैदा कर सकते हैं। ऐप्पल की फाइलिंग में नए जोखिम कारक एआई एजेंटों की विघटनकारी क्षमता को दर्शाते हैं जो सिलिकॉन वैली की सबसे महत्वपूर्ण कंपनियों के लिए तेजी से एक हाई-प्रोफाइल चिंता बन गए हैं।
"विशेष रूप से, कृत्रिम बुद्धिमत्ता एजेंट और अन्य प्रौद्योगिकियां स्वायत्त रूप से कार्रवाई कर सकती हैं, जिसमें आंतरिक या बाहरी सिस्टम के साथ बातचीत करना शामिल है - जिसमें, कुछ मामलों में, उनके पास पहुंच नहीं हो सकती है - कोड को निष्पादित करने या संशोधित करने, संचार भेजने और लेनदेन को पूरा करने के लिए, "एप्पल ने फाइलिंग में लिखा है।
कंपनी ने कहा कि एजेंट "अप्रत्याशित या अप्रत्याशित तरीके से व्यवहार कर सकते हैं, जिसमें ऐसी कार्रवाइयां करना भी शामिल है जो निर्देशित, निर्देशित या अधिकृत नहीं हैं।"
इस साल की शुरुआत में, OpenAI ने डॉट्स जारी किया और मेटा ने म्यूज़ लॉन्च किया। दोनों एआई एजेंट कार्यों को स्वायत्त रूप से पूरा करने के लिए उन्नत एआई मॉडल का उपयोग करते हैं। नए संदेश आने पर वे उपयोगकर्ताओं को ईमेल या सचेत भी कर सकते हैं।
एप्पल द्वारा यह खुलासा करने से पहले, नियंत्रण से बाहर एआई एजेंटों द्वारा सैंडबॉक्स वातावरण से बाहर निकलने और तीसरे पक्ष की वेबसाइटों पर हमला करने की कई घटनाएं हुई थीं, जैसे कि हगिंग फेस घटना, जिसने वाशिंगटन, डी.सी. और दुनिया भर में नीति निर्माताओं का ध्यान फिर से आकर्षित किया है।
इसके अतिरिक्त, एजेंटों की मानव-जैसे तरीकों से कंप्यूटर का उपयोग करने की क्षमता अमेज़ॅन और जेपी मॉर्गन चेज़ जैसी बड़ी कंपनियों को रणनीतिक या सुरक्षा कारणों से सेवाओं तक एजेंट की पहुंच के आसपास नीतियां विकसित करने के लिए मजबूर कर रही है।
पिछले महीने, ऐप्पल ने पीसी पर स्थापित एआई एजेंटों के लिए "ऐसी पहुंच से जुड़े जोखिम" को कम करने के लिए मैक की "पूर्ण डिस्क एक्सेस" में समायोजन की घोषणा की थी।
एप्पल ने फाइलिंग में चेतावनी दी, ''तीसरे पक्ष के कृत्रिम बुद्धिमत्ता एजेंटों और अन्य तकनीकों की देखरेख और नियंत्रण करने की कंपनी की क्षमता सीमित हो सकती है।''
Apple के पास फिलहाल इंटेलिजेंट एजेंट AI नहीं है। लेकिन जब सोमवार को एक अर्निंग कॉल के दौरान नए सीईओ जॉन टर्नस से एआई एजेंटों के बारे में पूछा गया, तो उन्होंने कहा कि कंपनी के पास सिरी की क्षमताओं का विस्तार करने के लिए "वास्तविक जगह" है।
"एजेंट क्षमताओं के संदर्भ में, हमें लगता है कि ये उपयोगकर्ताओं के लिए आशाजनक उपकरण हैं," टर्नस ने कहा। "हम बस यह सुनिश्चित करना चाहते हैं कि उपयोगकर्ताओं को पता चले कि वे क्या एक्सेस दे रहे हैं। हम यह सुनिश्चित करना चाहते हैं कि हम इसे इस तरह से करें जिससे सुरक्षा और गोपनीयता सुरक्षित रहे।"
टिप्पणियाँ