OpenAI o1 मॉडल की अनुमान क्षमताएं इसे GPT-4o की तुलना में उच्च दर पर मनुष्यों को मूर्ख बनाने का प्रयास करने की भी अनुमति देती हैं।

कृत्रिम बुद्धिमत्ता मॉडल के भ्रामक व्यवहार को हल करने के लिए, OpenAI ने कहा कि वह o1 सोच श्रृंखला की निगरानी के लिए तरीके विकसित कर रहा है। वर्तमान में, O1 की "सोचने" की प्रक्रिया डिज़ाइन द्वारा एक ब्लैक बॉक्स है, लेकिन पर्दे के पीछे झाँकने के कुछ शुरुआती प्रयासों से पता चलता है कि O1 को कभी-कभी पता चलता है कि वह झूठ बोल रहा है।

कंपनी ने कहा कि उसने O1 के जानबूझकर गलत जानकारी प्रदान करने के कुछ उदाहरण देखे हैं, लेकिन उसने कहा कि ऐसा अक्सर होता है क्योंकि मॉडल अत्यधिक चापलूसी करके उपयोगकर्ताओं को खुश करने की कोशिश करता है। ओपनएआई के अनुसार, यह प्रशिक्षण के बाद की तकनीकों का एक उभरता हुआ व्यवहार हो सकता है, जिसमें मनुष्य एआई मॉडल को सही होने पर पुरस्कृत करते हैं।

OpenAI ने कहा कि उसने o1 प्रतिक्रियाओं में से 0.17% को भ्रामक बताया है। हालाँकि यह प्रतिशत नगण्य लगता है, लेकिन महत्वपूर्ण बात यह है कि ChatGPT के वर्तमान में 300 मिलियन उपयोगकर्ता हैं, जिसका अर्थ है कि यदि इस समस्या का समाधान नहीं किया गया, तो O1 हर हफ्ते हजारों लोगों को धोखा दे सकता है।

O1 मॉडल श्रृंखला GPT-4o की तुलना में कहीं अधिक गतिशील होने की संभावना है। OpenAI के परीक्षणों के अनुसार, O1 GPT-4o की तुलना में लगभग 20% अधिक गतिशील है।

यह देखते हुए कि पिछले वर्ष कई AI सुरक्षा शोधकर्ताओं ने OpenAI छोड़ दिया है, ये निष्कर्ष कुछ लोगों के लिए चिंता का विषय हो सकते हैं। पूर्व कर्मचारियों की बढ़ती संख्या (जन लीके, डैनियल कोकोटाजलो, माइल्स ब्रुंडेज और रोजी कैंपबेल सहित, जो पिछले सप्ताह ही चले गए थे) ने ओपनएआई पर एआई सुरक्षा कार्य को ठंडे बस्ते में डालने और केवल नए उत्पादों को लॉन्च करने पर ध्यान केंद्रित करने का आरोप लगाया। हालाँकि O1 की रिकॉर्ड तोड़ने वाली साजिशें प्रत्यक्ष कारण नहीं हो सकती हैं, लेकिन यह निश्चित रूप से लोगों को विश्वास नहीं दिलाती है।

ओपनएआई ने यह भी कहा कि यूएस एआई सेफ्टी इंस्टीट्यूट और यूके सेफ्टी इंस्टीट्यूट ने इसे अधिक व्यापक रूप से जारी करने से पहले ओ1 का मूल्यांकन किया था, और कंपनी ने हाल ही में सभी मॉडलों का मूल्यांकन करने का वादा किया था। कैलिफ़ोर्निया के कृत्रिम बुद्धिमत्ता बिल, एसबी1047 पर बहस के दौरान, एजेंसी ने तर्क दिया कि राज्य एजेंसियों के पास कृत्रिम बुद्धिमत्ता के लिए सुरक्षा मानक निर्धारित करने का अधिकार नहीं है, लेकिन संघीय एजेंसियों को ऐसा करना चाहिए। (बेशक, नवजात संघीय एआई नियामक का भाग्य अभी भी सवालों के घेरे में है)।

बड़े नए कृत्रिम बुद्धिमत्ता मॉडल जारी करने के पीछे, OpenAI मॉडलों की सुरक्षा को मापने के लिए आंतरिक रूप से बहुत काम करता है। ऐसी खबरें हैं कि कंपनी के पास इस सुरक्षा प्रयास पर पहले की तुलना में बहुत छोटी टीम काम कर रही है, और टीम को कम संसाधन भी प्राप्त हो सकते हैं। हालाँकि, O1 की भ्रामक प्रकृति के बारे में ये निष्कर्ष यह बताने में मदद कर सकते हैं कि AI में सुरक्षा और पारदर्शिता अब पहले से कहीं अधिक महत्वपूर्ण क्यों हैं।