हाल ही में गूगल ने आधिकारिक तौर पर खुलासा कियाइसका प्रमुख एआई मॉडल जेमिनी व्यावसायीकरण-संचालित बड़े पैमाने पर आसवन हमलों से पीड़ित है - जो चैटबॉट्स को बार-बार प्रश्नों के माध्यम से आंतरिक तंत्र को लीक करने के लिए प्रेरित करता है।. Google ने कहा कि हमलावर ने मॉडल क्लोनिंग प्राप्त करने या अपने स्वयं के AI सिस्टम को मजबूत करने के लिए इंजीनियर जेमिनी के आंतरिक तर्क और निर्णय लेने के तंत्र को उलटने के प्रयास में मॉडल को व्यवस्थित रूप से और बार-बार सावधानीपूर्वक डिज़ाइन किए गए त्वरित शब्द (एक ही हमले में 100,000 से अधिक बार) भेजे।
ये हमले मुख्य रूप से "व्यावसायिक रूप से प्रेरित अभिनेताओं" द्वारा किए जाते हैं।Google ने अनुमान लगाया कि इसके पीछे के लोग ज्यादातर AI निजी कंपनियां या अनुसंधान संस्थान थे जो प्रतिस्पर्धात्मक लाभ हासिल करने की उम्मीद कर रहे थे। कंपनी के एक प्रवक्ता ने कहा कि हमले का स्रोत दुनिया भर के कई क्षेत्रों से आया है, लेकिन उन्होंने अधिक जानकारी का खुलासा नहीं किया।.
यह बताया गया है कि आसवन हमला (जिसे ज्ञान आसवन के रूप में भी जाना जाता है) मूल रूप से एक मॉडल संपीड़न तकनीक है जो एक बड़े "शिक्षक मॉडल" के ज्ञान को एक छोटे "छात्र मॉडल" में स्थानांतरित करके मॉडल लाइटवेटिंग प्राप्त करती है।
हमलावर व्यवस्थित और संरचित बड़े प्रश्नों के माध्यम से विभिन्न परिदृश्यों में मॉडल की प्रतिक्रियाओं को एकत्र करता है, प्रतिक्रिया सामग्री, देरी और आत्मविश्वास जैसे सूक्ष्म अंतरों का विश्लेषण करता है, और जेमिनी की निर्णय सीमा और तर्क पथ मानचित्र बनाता है।अंत में, एकत्रित प्रतिक्रिया डेटा का उपयोग जेमिनी की मुख्य क्षमताओं को दोहराने के लिए अपने स्वयं के "छात्र मॉडल" को प्रशिक्षित करने के लिए किया जाता है।.
Google ने कहा कि ऐसे आसवन हमले बौद्धिक संपदा की चोरी हैं, हालांकि प्रमुख निर्माताओं ने ऐसे तंत्र तैनात किए हैं जो आसवन हमलों की पहचान कर सकते हैं और उन्हें रोक सकते हैं।लेकिन क्योंकि मुख्यधारा की बड़ी मॉडल सेवाएँ सभी के लिए खुली हैं, वे अभी भी स्वाभाविक रूप से असुरक्षित हैं।.
