सार:
चीनी एआई कंपनी डार्क साइड ऑफ द मून की सहायक कंपनी किमी K3, हाल ही में फिर से मॉडल डिस्टिलेशन विवाद में शामिल हो गई है। ओपनएआई द्वारा प्रकाशित एक जांच से पता चला है कि उसके मॉडलों की संरक्षित अनुमान सामग्री को लक्षित करने वाला एक समन्वित निष्कर्षण अभियान चंद्रमा के डार्क साइड से जुड़े व्यक्तियों से जुड़ा था। संबंधित गतिविधियों से एक ही दिन में लगभग 16,000 अनुरोध उत्पन्न हुए और 15,000 से अधिक उपयोगकर्ता शामिल हुए।
OpenAI ने कहा कि ये ऑपरेशन उसके एन्क्रिप्शन सिस्टम को नहीं तोड़ते, डेटाबेस पर आक्रमण नहीं करते, या सीधे उपयोगकर्ता की ऐतिहासिक बातचीत प्राप्त नहीं करते, बल्कि सावधानीपूर्वक डिज़ाइन किए गए मल्टी-राउंड मॉडल इंटरैक्शन के माध्यम से, उन्होंने अनुरोधकर्ता को दिखाई देने वाले रूप में मूल रूप से छिपी हुई तर्क प्रक्रिया को पुनर्जीवित करने का प्रयास किया।
OpenAI ने इस घटना को "समन्वित मॉडल आसवन घटना" कहा। तथाकथित मॉडल आसवन का तात्पर्य बड़ी मात्रा में आउटपुट उत्पन्न करने के लिए अधिक सक्षम शिक्षक मॉडल का उपयोग करना है, और फिर इन परिणामों का उपयोग छोटे या कम लागत वाले छात्र मॉडल को प्रशिक्षित करने के लिए करना है, ताकि बाद वाले शिक्षक मॉडल के व्यवहार पैटर्न और क्षमताओं को सीख सकें। मशीन लर्निंग के क्षेत्र में डिस्टिलेशन अपने आप में एक सामान्य तकनीक है, लेकिन यदि व्यावसायिक मॉडल आउटपुट को बिना प्राधिकरण के बड़े पैमाने पर निकाला जाता है और प्रतिस्पर्धी मॉडलों को प्रशिक्षित करने के लिए उपयोग किया जाता है, तो यह सेवा की शर्तों का उल्लंघन कर सकता है और यहां तक कि बौद्धिक संपदा विवाद भी पैदा कर सकता है।
ओपनएआई द्वारा जारी जांच परिणामों के अनुसार, संबंधित गतिविधियां पहली बार 1 जुलाई, 2026 को सामने आईं, जब अनुरोधों की संख्या अभी भी अपेक्षाकृत कम थी। फिर गतिविधि धीरे-धीरे विस्तारित हुई, 24 और 25 जुलाई को स्पष्ट चरम पर। अकेले इन दो दिनों में, ओपनएआई ने 4,000 से अधिक उपयोगकर्ताओं से विशिष्ट निष्कर्षण पैटर्न का उपयोग करके लगभग 16,000 अनुरोधों का पता लगाया।
OpenAI ने आगे कहा कि समान त्वरित शब्द और ऑपरेशन मोड न केवल ऊपर उल्लिखित 4,000 से अधिक उपयोगकर्ताओं के बीच दिखाई देते हैं, बल्कि 15,000 से अधिक उपयोगकर्ताओं वाले एक बड़े उपयोगकर्ता समूह के बीच वितरित किए जाते हैं। इन अनुरोधों के बीच पैटर्न और सहसंबंधों का विश्लेषण करके, कंपनी यह निर्धारित करती है कि वे पूरी तरह से स्वतंत्र सामान्य उपयोगकर्ता व्यवहार नहीं हैं, बल्कि समन्वित विशेषताओं वाली गतिविधि से संबंधित हैं।
एक प्रमुख ऑपरेशन विशेष रुचि का है। ओपनएआई ने कहा कि संबंधित कर्मियों ने पहले एक वार्तालाप से मॉडल द्वारा लौटाई गई एन्क्रिप्टेड अनुमान सामग्री की प्रतिलिपि बनाई, और फिर मॉडल को एक अलग वार्तालाप में छिपी हुई सामग्री को डिक्रिप्ट और ट्रांसक्रिप्ट करने के लिए कहा। दूसरे शब्दों में, उन्होंने तर्क प्रक्रिया की सुरक्षा के लिए ओपनएआई द्वारा उपयोग किए जाने वाले एन्क्रिप्शन तंत्र को सीधे क्रैक नहीं किया, बल्कि मॉडल की अपनी क्षमताओं का उपयोग करने की कोशिश की ताकि मॉडल संरक्षित सामग्री के एक और टुकड़े को संसाधित कर सके, जिससे अप्रत्यक्ष रूप से जानकारी पुनर्प्राप्त हो सके।
OpenAI ने इस बात पर जोर दिया कि इस गतिविधि ने सफलतापूर्वक "एन्क्रिप्शन को नहीं तोड़ा", न ही इसने OpenAI के डेटाबेस को तोड़ा, न ही इसने सर्वर पर संग्रहीत उपयोगकर्ता चैट रिकॉर्ड प्राप्त किए। इसकी सफलता मुख्य रूप से मॉडलों के बीच बातचीत में हेरफेर करने में निहित है ताकि संरक्षित अनुमान जानकारी जो अन्यथा उपयोगकर्ता को सीधे प्रदर्शित नहीं होती वह दूसरे रूप में फिर से प्रकट हो।
OpenAI ने अंततः 28 जुलाई के आसपास इस प्रकार की गतिविधि को पूरी तरह से अवरुद्ध कर दिया। कंपनी ने कहा कि अपनी जांच के दौरान, उसने पाया कि गतिविधि के मुख्य समूहों में से एक चंद्रमा के डार्क साइड से जुड़े लोगों से जुड़ा था। ओपनएआई ने एक सार्वजनिक बयान में कहा कि वह कोर क्लस्टर का श्रेय "किमी डेवलपर डार्क साइड ऑफ द मून से जुड़े व्यक्तियों" को देने में सक्षम था।
डार्क साइड ऑफ द मून एक चीनी एआई कंपनी है जिसके किमी श्रृंखला के मॉडल हाल के वर्षों में तेजी से विकसित हुए हैं। जुलाई 2026 में, कंपनी ने लगभग 2.8 ट्रिलियन मापदंडों के साथ एक ओपन वेट मॉडल किमी K3 जारी किया, और इसे कोड प्रोग्रामिंग, जटिल तर्क और एआई एजेंट कार्यों के लिए एक नई पीढ़ी के मॉडल के रूप में तैनात किया। किमी K3 ने रिलीज़ होने के बाद तेजी से वैश्विक AI डेवलपर्स का ध्यान आकर्षित किया, और इसका प्रदर्शन कुछ तृतीय-पक्ष परीक्षणों में संयुक्त राज्य अमेरिका में अग्रणी क्लोज्ड-सोर्स मॉडल के करीब था।
इस ओपनएआई जांच ने किमी मॉडल के स्रोत के बारे में अमेरिकी सरकार द्वारा उठाए गए पिछले संदेह की ओर भी ध्यान आकर्षित किया है। व्हाइट हाउस ऑफ़िस ऑफ़ साइंस एंड टेक्नोलॉजी पॉलिसी के निदेशक और मुख्य विज्ञान और प्रौद्योगिकी सलाहकार माइकल क्रेट्ज़ियोस ने इस साल जुलाई के अंत में कहा था कि अमेरिकी सरकार के पास प्रासंगिक जानकारी थी और उनका मानना था कि डार्क साइड ऑफ़ द मून ने किमी K3 को डिस्टिल करने के लिए एंथ्रोपिक के मॉडल का उपयोग किया था। डार्क साइड ऑफ़ द मून ने आरोप स्वीकार नहीं किया है।
सरकार के बयान के अलावा, अन्य शोधकर्ताओं ने हाल ही में किमी K3 मॉडल के प्रशिक्षण स्रोतों का विश्लेषण किया है। एक अध्ययन में पाया गया कि किमी K3 में क्लाउड ओपस 4.8 की डिकोडेड तर्क सामग्री का एक हिस्सा इनपुट करने से किमी K3 की बाद की सोच प्रक्रिया और अंतिम उत्तर में महत्वपूर्ण बदलाव आ सकता है, जिससे यह क्लाउड के करीब की अभिव्यक्ति प्रतीत होती है। इसके आधार पर, शोधकर्ताओं का मानना है कि किमी K3 में कुछ क्लाउड और GPT तर्क सामग्री निकालने की कठिनाई अन्य मॉडलों की तुलना में काफी कम है।
हालाँकि, ये अध्ययन अकेले यह साबित नहीं करते हैं कि किमी K3 को समग्र रूप से अनधिकृत तरीकों से अन्य मॉडलों से आसवित किया गया था। बड़े भाषा मॉडलों में समान उत्तर देने के तरीके, तर्क संरचनाएं और ज्ञान अभिव्यक्तियां दिखाई देती हैं, जो सार्वजनिक डेटा, समान प्रशिक्षण उद्देश्यों, सुदृढीकरण सीखने के तरीकों और मॉडल वास्तुकला जैसे विभिन्न कारकों से भी आ सकती हैं। इसलिए, मॉडलों के बीच आंशिक व्यवहारिक समानता का अस्तित्व उनके प्रशिक्षण डेटा के स्रोत में सिद्ध अनियमितताओं के बराबर नहीं है।
किमी K3 में डार्क साइड ऑफ़ द मून द्वारा विकसित तकनीक भी शामिल है। मॉडल को किमी डेल्टा अटेंशन जैसे आर्किटेक्चर का उपयोग करके डिज़ाइन किया गया है और इसे बड़े पैमाने पर अनुमान कार्यों के लिए अनुकूलित किया गया है। डार्क साइड ऑफ़ द मून केवी कैश को कम करके और प्रत्येक टोकन की मेमोरी फ़ुटप्रिंट को अनुकूलित करके अनुमान लागत को भी कम करता है। ये प्रौद्योगिकियां किमी K3 को बड़े पैमाने पर डेटा सेंटर हार्डवेयर पर चलने में सक्षम बनाती हैं।
इस विवाद के बारे में खास बात यह है कि OpenAI द्वारा कथित व्यवहार केवल मॉडल उत्तर की नकल नहीं है, बल्कि सक्रिय रूप से "संरक्षित तर्क" प्राप्त करने का एक प्रयास है जिसे मॉडल आमतौर पर सीधे प्रदर्शित नहीं करता है। जैसे-जैसे अधिक से अधिक एआई कंपनियां छिपे हुए तर्क या एन्क्रिप्टेड तर्क तंत्र को अपनाती हैं, इस प्रकार की जानकारी मॉडल क्षमता सुरक्षा का एक महत्वपूर्ण हिस्सा बन गई है। यदि प्रतिस्पर्धी मॉडल बड़े पैमाने पर स्वचालित अनुरोधों के माध्यम से अपनी सामग्री को पुनर्स्थापित करने में सक्षम हैं, तो प्रशिक्षण परिणामों और अनुमान क्षमताओं की सुरक्षा के लिए मॉडल विक्रेताओं द्वारा उपयोग किए जाने वाले तंत्र को नई चुनौतियों का सामना करना पड़ सकता है।
ओपनएआई ने हाल के वर्षों में कई बार समान मॉडल आसवन व्यवहार के खिलाफ कार्रवाई की है। कंपनी का मानना है कि व्यावसायिक मॉडलों को लागू करने, उनके आउटपुट एकत्र करने और प्रतिस्पर्धी मॉडलों को प्रशिक्षित करने के लिए उनका उपयोग करने के बड़े पैमाने पर स्वचालन से बड़ी मात्रा में कंप्यूटिंग संसाधनों वाली पार्टी को कम लागत पर उन क्षमताओं को दोहराने की अनुमति मिलेगी जो अन्य मॉडलों ने दीर्घकालिक अनुसंधान और विकास के माध्यम से विकसित की हैं।
साथ ही, यह घटना यह भी दर्शाती है कि चीन और संयुक्त राज्य अमेरिका के बीच कृत्रिम बुद्धिमत्ता प्रतियोगिता में एआई मॉडल आसवन एक संवेदनशील मुद्दा बनता जा रहा है। अमेरिकी सरकार ने बार-बार चेतावनी दी है कि चीनी एआई कंपनियां अपने स्वयं के मॉडल विकास में तेजी लाने के लिए अमेरिकी कंपनियों के मॉडल आउटपुट का उपयोग कर सकती हैं, जबकि चीनी कंपनियां स्वतंत्र अनुसंधान और विकास क्षमताओं और खुले वजन वाले मॉडल के महत्व पर जोर देना जारी रखती हैं। वर्तमान सार्वजनिक जानकारी के संबंध में, ओपनएआई ने बड़े पैमाने पर निष्कर्षण गतिविधियों की खोज की पुष्टि की है और कहा है कि इसका मुख्य गतिविधि क्लस्टर चंद्रमा के डार्क साइड से संबंधित लोगों से संबंधित है। हालाँकि, इस विशेषता और क्या संबंधित गतिविधियों का उपयोग अंततः किमी K3 को प्रशिक्षित करने के लिए किया जाता है, इसे साबित करने के लिए अभी भी अधिक सार्वजनिक साक्ष्य की आवश्यकता है।
और जानें:
टिप्पणियाँ