अमेरिकी कृत्रिम बुद्धिमत्ता कंपनी एंथ्रोपिक ने घोषणा की कि उसके बड़े मॉडल सहायक क्लाउड के पास अब उपयोगकर्ता के कंप्यूटर को सीधे नियंत्रित करने और उसकी ओर से विभिन्न ऑपरेशन करने की क्षमता है, जो इस साल ओपन सोर्स एजेंट फ्रेमवर्क ओपनक्लाव द्वारा लाए गए प्रतिस्पर्धी दबाव से निपटने के लिए अपने "एजेंट-प्रकार" कार्यों को और मजबूत करता है।
एंथ्रोपिक की घोषणा के अनुसार, जब तक उपयोगकर्ता एक योग्य भुगतान योजना (जैसे क्लाउड प्रो या क्लाउड मैक्स) की सदस्यता लेते हैं, वे क्लाउड को कंप्यूटर पर कब्जा करने और स्थानीय हार्ड ड्राइव से फ़ाइलों को ढूंढने और भेजने जैसे विशिष्ट कार्यों को पूरा करने के लिए अधिकृत कर सकते हैं। इस नई सुविधा के पीछे उद्योग में एजेंट-आधारित एआई क्षमताओं में समग्र वृद्धि है। उनमें से, ओपन सोर्स फ्रेमवर्क ओपनक्लाव, जो इस साल की शुरुआत में लोकप्रिय हुआ, ने एक संपूर्ण पारिस्थितिकी तंत्र को जन्म दिया है। "पंजे" नामक कई उपकरण सरल निर्देशों के आधार पर उपयोगकर्ता के कंप्यूटर या कनेक्टेड सिस्टम पर अपेक्षाकृत स्वायत्त रूप से संचालन कर सकते हैं। पिछले हफ्ते, NVIDIA ने NemoClaw फ्रेमवर्क जारी किया, जिसका उद्देश्य इस पारिस्थितिकी तंत्र के विकास को और बढ़ावा देने के लिए कुछ सुरक्षा सेटिंग्स जोड़ते हुए OpenClaw एजेंटों की तैनाती और स्थापना को सरल बनाना है।
एंथ्रोपिक ने कहा कि एक कार्य प्राप्त करने के बाद, क्लाउड विभिन्न अनुप्रयोगों के लिए "कनेक्टर" के माध्यम से उपयुक्त उपकरण खोजने को प्राथमिकता देगा, जैसे कि Google कैलेंडर या स्लैक जैसी सेवाओं को एकीकृत करना। यदि प्रासंगिक उपकरण या कनेक्टर उपलब्ध नहीं हैं, तो क्लाउड सीधे उपयोगकर्ता संचालन का अनुकरण कर सकता है और ब्राउज़र, विकास उपकरण और स्थानीय फ़ाइलों को खोलने सहित कीबोर्ड इनपुट और माउस आंदोलन के माध्यम से कार्य कर सकता है। निष्पादन प्रक्रिया के दौरान, क्लाउड एक सामान्य उपयोगकर्ता की तरह स्क्रॉल, क्लिक और अन्य ऑपरेशन करेगा, लेकिन प्रत्येक वास्तविक ऑपरेशन से पहले उपयोगकर्ता की अनुमति आवश्यक है, और उपयोगकर्ता किसी भी समय क्लाउड के व्यवहार को समाप्त कर सकता है।
हालाँकि, हालाँकि चैटबॉट्स को कंप्यूटरों को नियंत्रित करने देना दक्षता की दृष्टि से आकर्षक है, लेकिन यह सुरक्षा और जोखिम नियंत्रण संबंधी चिंताओं को भी बढ़ाता है। विशेषज्ञ बताते हैं कि तथाकथित "एजेंट एआई" का एक बड़ा जोखिम यह है कि यह बहुत कम समय में बड़े पैमाने पर, संभावित रूप से दूरगामी संचालन कर सकता है, और उपयोगकर्ताओं को समय पर इसके बारे में पता नहीं चल सकता है। इसके अलावा, यदि ओपनक्लॉ जैसे "क्लॉ" टूल को दुर्भावनापूर्ण हमलावरों द्वारा हाईजैक कर लिया जाता है, तो वे अनधिकृत कार्यों को करने के लिए उपयोगकर्ताओं के व्यक्तिगत डेटा और सिस्टम का उपयोग कर सकते हैं। इन जोखिमों के जवाब में, एंथ्रोपिक ने कहा कि उसने "प्रॉम्प्ट इंजेक्शन" जैसे हमले के तरीकों के खतरों को कम करने के लिए नई सुविधाओं में कई सुरक्षा तंत्र जोड़े हैं। सिस्टम स्वचालित रूप से संबंधित जोखिमों को स्कैन करेगा और नई कमजोरियां सामने आने पर सुरक्षा को अपडेट करना जारी रखेगा।
इसके बावजूद, एंथ्रोपिक ने अभी भी उत्पाद पृष्ठ पर उपयोगकर्ताओं को एक स्पष्ट चेतावनी जारी की, जिसमें जोर दिया गया कि यह कंप्यूटर नियंत्रण फ़ंक्शन अभी भी अनुसंधान पूर्वावलोकन चरण में है और इसमें त्रुटियां या असामान्य व्यवहार हो सकता है। यह अनुशंसा की जाती है कि उपयोगकर्ता अत्यधिक संवेदनशील डेटा को संभालने वाले अनुप्रयोगों के लिए इसका उपयोग करने से बचें। दरअसल, कंपनी ने दुरुपयोग के जोखिम को कम करने के लिए संवेदनशील जानकारी से जुड़े कुछ ऐप्स को डिफ़ॉल्ट रूप से अक्षम कर दिया है। वर्तमान में, इस सुविधा का अनुसंधान पूर्वावलोकन केवल macOS कंप्यूटरों के लिए खुला है, और केवल क्लाउड प्रो और क्लाउड मैक्स ग्राहकों के लिए परीक्षण उपयोग के लिए उपलब्ध है।
एंथ्रोपिक ने इस बात पर भी जोर दिया कि इस कंप्यूटर नियंत्रण क्षमता और इसके "डिस्पैच" फ़ंक्शन का संयोजन क्लाउड के एप्लिकेशन परिदृश्यों का महत्वपूर्ण रूप से विस्तार करेगा। डिस्पैच उपयोगकर्ताओं को मोबाइल फोन जैसे टर्मिनलों के माध्यम से क्लाउड को कार्य सौंपने की अनुमति देता है, जैसे कि हर सुबह ईमेल की जांच करना, या क्लाउड कोवर्क और क्लाउड कोड जैसे विशिष्ट कार्य सत्र शुरू करना। जब कंप्यूटर नियंत्रण और डिस्पैच एक ही समय में सक्षम होते हैं, तो क्लाउड उपयोगकर्ता के कंप्यूटर के सामने आए बिना अधिक स्वचालित प्रक्रियाओं को पूरा कर सकता है, जैसे सुबह की सूचना ब्रीफिंग तैयार करना, परीक्षण कार्य चलाना आदि।
यह देखते हुए कि कंप्यूटर नियंत्रण क्षमताएं और डिस्पैच दोनों नई लॉन्च की गई विशेषताएं हैं, एंथ्रोपिक यह भी स्वीकार करता है कि कुछ जटिल कार्य वर्तमान चरण में सफलतापूर्वक पूरे नहीं किए जा सकते हैं। कंपनी ने कहा कि इसे "शोध पूर्वावलोकन" के रूप में पहले से खोलने का कारण वास्तविक उपयोगकर्ताओं से जल्द से जल्द प्रतिक्रिया प्राप्त करना और यह समझना है कि वास्तविक उपयोग में सिस्टम को सबसे अधिक सुधार करने की आवश्यकता कहां है, ताकि क्लाउड को अधिक शक्तिशाली और विश्वसनीय उत्पादकता उपकरण में पॉलिश किया जा सके।