पर्प्लेक्सिटी ने हाइब्रिड कंप्यूटिंग क्षमताओं को लॉन्च किया, संवेदनशील कार्यों को स्थानीय एआई प्रोसेसिंग में स्थानांतरित कर दिया

सार:

इस साल फरवरी में, Perplexity ने Perplexity कंप्यूटर लॉन्च किया। यह क्लाउड कोवर्क के समान कृत्रिम बुद्धिमत्ता एजेंट टूल का एक सेट है, जो विभिन्न कार्यों को स्वायत्त रूप से पूरा करने के लिए उपयोगकर्ता के कंप्यूटर पर नेटवर्क और फ़ाइलों और एप्लिकेशन का उपयोग कर सकता है। तब से, प्लेटफ़ॉर्म ने धीरे-धीरे मैक के लिए पर्सनल कंप्यूटर सहित कई उत्पाद विकसित किए हैं। आज, पर्प्लेक्सिटी ने हाइब्रिड कंप्यूट नामक एक नई सुविधा की घोषणा की है।

हाइब्रिड कंप्यूट उपयोगकर्ताओं को संयुक्त प्रसंस्करण के लिए क्लाउड अत्याधुनिक मॉडल और स्थानीय बड़े भाषा मॉडल के बीच एक कार्य को विभाजित करने की अनुमति देता है। क्लाउड मॉडल एक उच्च-प्रदर्शन मॉडल हो सकता है जैसे ओपस 5 या जीपीटी-5.6 सोल, जबकि स्थानीय मॉडल उपयोगकर्ता के अपने कंप्यूटर पर चलता है। मूल विचार यह है कि स्थानीय मॉडल को संवेदनशील जानकारी को संभालने दिया जाए, जिससे यह सुनिश्चित हो सके कि संबंधित डेटा हमेशा डिवाइस पर सुरक्षित रूप से बना रहे।

परप्लेक्सिटी ने कहा कि हाइब्रिड कंप्यूट विभिन्न परिदृश्यों के लिए उपयुक्त है। उदाहरण के लिए, एक वकील मौजूदा उदाहरण के साथ चल रहे मामले की तुलना करते हुए एक कानूनी संक्षिप्त विवरण लिखने के लिए इसका उपयोग कर सकता है। इस प्रक्रिया में, ग्राहक डेटा को स्थानीय रूप से सहेजा जा सकता है और क्लाउड पर अपलोड होने से बचाया जा सकता है। लागत को नियंत्रित करने की चाहत रखने वाले उपयोगकर्ताओं के लिए, हाइब्रिड कंप्यूट अनुमानित खर्चों को कम करने के लिए कुछ काम को आम तौर पर अधिक महंगे अग्रणी-किनारे वाले मॉडल से स्थानीय मॉडल में स्थानांतरित कर सकता है।

"यह सुविधा सीधे मैक ऐप में एकीकृत है। हर बार जब आप कोई फ़ाइल अपलोड करने या संदेश भेजने का प्रयास करते हैं, तो सिस्टम स्वचालित रूप से जांच करता है कि इसमें संवेदनशील सामग्री है या नहीं और पुष्टि करता है कि क्या आप इस डेटा को क्लाउड पर साझा करने के इच्छुक हैं।" जॉन स्टाफ़, पर्प्लेक्सिटी मैक उत्पाद प्रमुख ने कहा। लॉन्च के हिस्से के रूप में, पर्प्लेक्सिटी ने एक नया गोपनीयता क्लासिफायरियर भी प्रशिक्षित किया जो स्वचालित रूप से उन फ़ाइलों और सूचनाओं की अनुशंसा कर सकता है जिन्हें उपयोगकर्ताओं को अपने कंप्यूटर पर स्थानीय रूप से रखना चाहिए।

हाइब्रिड कंप्यूट विभिन्न मॉडलों को कार्य आवंटित करना शुरू करने से पहले, उपयोगकर्ता पहले उन फ़ाइलों को देख सकते हैं जिन्हें सिस्टम अलग करने और स्थानीय रूप से रखने की तैयारी कर रहा है ताकि यह पुष्टि हो सके कि उसने महत्वपूर्ण सामग्री नहीं छोड़ी है। उपयोगकर्ता इस चरण में यह भी तय कर सकता है कि कौन से मॉडल कार्य पूरा करेंगे।

वर्तमान में, स्थानीय मॉडल विकल्पों में जेम्मा ई4बी और क्वेन 3.6 मॉडल के दो संस्करण शामिल हैं, दोनों 35 अरब मापदंडों के साथ। एक संस्करण को पर्प्लेक्सिटी द्वारा पोस्ट-प्रशिक्षित किया गया था। कंपनी का कहना है कि भविष्य में और अधिक स्थानीय मॉडल उपलब्ध होंगे। इससे कोई फर्क नहीं पड़ता कि उपयोगकर्ता कौन सा मॉडल चुनता है, इंस्टॉलेशन प्रक्रिया के लिए मैक टर्मिनल खोलने की आवश्यकता नहीं होती है, पर्प्लेक्सिटी ऐप इंस्टॉलेशन को पूरा करने का ख्याल रखेगा।

जब सिस्टम चल रहा हो, तो उपयोगकर्ता स्थानीय सीपीयू, जीपीयू और मेमोरी उपयोग के बारे में दृश्य जानकारी देख सकते हैं। इसके आगे वाला साइडबार कार्य द्वारा उपभोग किए गए टोकन की संख्या प्रदर्शित करेगा। अपने कंप्यूटर पर स्थानीय मॉडल द्वारा उत्पन्न टोकन का उपयोग करने वाले उपयोगकर्ताओं के लिए कोई शुल्क नहीं है। सिस्टम द्वारा परिणाम उत्पन्न करने के बाद, उपयोगकर्ता सामान्य रूप से बाद के निर्देशों को दर्ज करना जारी रख सकता है, या iPhone के माध्यम से कार्य को कतार में जोड़ सकता है।

यह पूछे जाने पर कि क्या परप्लेक्सिटी ने हाइब्रिड कंप्यूट द्वारा उत्पन्न परिणामों को पूरी तरह से क्लाउड पर निर्भर सिस्टम के मुकाबले बेंचमार्क किया है, स्टाफ ने कहा: "संक्षेप में, यदि आप कच्चे उत्पाद की गुणवत्ता को देखते हैं, तो अत्याधुनिक मॉडल का पूरी तरह से उपयोग करने का आउटपुट लगभग हमेशा बेहतर होता है। इसकी लागत अधिक है, लेकिन इसमें अधिक क्षमताएं भी हैं।"

हालांकि, स्टाफ़ ने कहा कि सभी उपयोगकर्ताओं को काम पूरा करने के लिए सबसे उन्नत और शक्तिशाली एआई मॉडल की आवश्यकता नहीं है। ऐसे मामलों में, डेटा गोपनीयता और लागत मॉडल क्षमताओं से अधिक महत्वपूर्ण हो सकती है।

"मुझे लगता है कि यह एक समायोज्य पैमाना होना चाहिए। उपयोगकर्ता जो विशिष्ट कार्य पूरा करना चाहता है, उसके लिए हम चाहते हैं कि उपयोगकर्ता यह तय करें कि वे इस पैमाने पर कहां हैं। जाहिर है, हम हमारे पास मौजूद संदर्भ के आधार पर सबसे उपयुक्त समाधान की सिफारिश करने का प्रयास करेंगे, लेकिन अंततः यह अभी भी उपयोगकर्ता पर निर्भर है कि वह यह तय करे कि कौन सा समाधान उनकी आवश्यकताओं को पूरा करता है।" स्टाफ ने कहा.

वर्तमान में, हाइब्रिड कंप्यूट केवल Apple सिलिकॉन चिप्स से लैस और macOS 15 चलाने वाले Mac कंप्यूटरों के लिए उपलब्ध है। Perplexity कम से कम 32GB एकीकृत मेमोरी वाले उपकरणों की अनुशंसा करता है। यह सुविधा प्रो और मैक्स ग्राहकों के साथ-साथ पर्प्लेक्सिटी के एंटरप्राइज़ ग्राहकों के लिए उपलब्ध है।