हैकर्स का दावा है कि उन्होंने कई हाई-प्रोफाइल इंस्टाग्राम खातों से सफलतापूर्वक समझौता करने के लिए मेटा के एआई-संचालित चैटबॉट का इस्तेमाल किया और बॉट को सीधे लक्ष्य खाते से जुड़े ईमेल पते को एक नए पते में बदलने के लिए कहा। ये दावे हाल के सोशल मीडिया अकाउंट अधिग्रहणों की एक श्रृंखला के अनुरूप हैं, जिनमें बराक ओबामा के व्हाइट हाउस, अमेरिकी अंतरिक्ष बल के मुख्य मास्टर सार्जेंट और सेफोरा के खाते शामिल हैं।
रिपोर्ट में बताया गया है कि इस घटना ने समर्थन सेवाओं या प्रमुख कार्यों को एआई चैटबॉट्स को सौंपने के बड़े जोखिमों को उजागर किया है। पीड़ितों ने कहा कि उनके खाते चोरी हो जाने के बाद, उनके पास मैन्युअल प्रोसेसिंग पर स्विच करने का लगभग कोई रास्ता नहीं था और वे केवल स्वचालित सिस्टम से ही निपट सकते थे। मेटा ने इस साल मार्च में घोषणा की थी कि वह फेसबुक और इंस्टाग्राम पर सभी खातों के लिए एआई समर्थन शुरू कर रहा है और उन्हें पासवर्ड रीसेट करने और अन्य प्रमुख खाता रखरखाव संचालन करने की क्षमता दे रहा है। उत्पाद पृष्ठ पर यहां तक कहा गया है कि "समाधान, केवल सुझाव नहीं" और "खाता सुरक्षा और पुनर्प्राप्ति।"
पिछले कुछ दिनों से, सुरक्षा शोधकर्ता और हैकर समूह टेलीग्राम पर वीडियो और स्क्रीनशॉट प्रसारित कर रहे हैं, जो खातों को हैक करने की सरल प्रक्रिया को दिखा रहे हैं। एक वीडियो में हैकर को मेटा के एआई-संचालित बॉट से बात करते हुए दिखाया गया है, फिर उसे लक्ष्य खाते को एक नए ईमेल पते से जोड़ने और सीधे लक्ष्य उपयोगकर्ता नाम, सत्यापन कोड कैसे भेजना है और हमलावर का ईमेल पता प्रदान करने के लिए कहा गया है। रिपोर्ट का मानना है कि ऐसे मामले यह दर्शाते हैं कि यदि एआई का उपयोग अत्यधिक संवेदनशील खाता संचालन को संभालने के लिए किया जाता है, तो त्वरित शब्द स्पूफिंग या प्रक्रिया खामियां होने पर परिणाम बहुत गंभीर हो सकते हैं।