13 मई को, बिजनेस इनसाइडर ने बताया कि पूर्व ओपनएआई शोधकर्ता और एआई फ्यूचर्स प्रोजेक्ट के वर्तमान प्रमुख डैनियल कोकोटाजलो ने कहा कि एआई उद्योग ऐसे सिस्टम बनाने की दौड़ में है जिसे प्रत्येक कंपनी अभी तक पूरी तरह से समझ या नियंत्रित नहीं कर पाई है।
कैप्शन: कोकोटैलो
पिछले साल मई में "बिजनेस इनसाइडर" रिपोर्टर के साथ एक साक्षात्कार में, कोकोटैलो ने बताया कि एआई कंपनियों के सामने मुख्य मुद्दा "संरेखण" समस्या है, यानी, यह सुनिश्चित करने के प्रयास कि भविष्य के एआई सिस्टम विश्वसनीय रूप से मानवीय निर्देशों और मूल्यों का पालन कर सकते हैं, भले ही कई क्षेत्रों में उनकी क्षमताएं मनुष्यों से आगे निकल गई हों।
उन्होंने कहा कि शोधकर्ता वर्तमान में पूरी तरह से यह नहीं समझ पाए हैं कि उन्नत एआई मॉडल आंतरिक रूप से कैसे निर्णय लेते हैं, और यह अनिश्चितता यह सुनिश्चित करना कठिन बना देती है कि भविष्य की प्रणालियाँ वास्तव में "संरेखित" हों और उन लक्ष्यों को दृढ़ता से पूरा करें जिन्हें मनुष्य पूरा करना चाहते हैं।
एआई संरेखण को लागू करने के बारे में उन्होंने कहा, "यह एक तरह से खुला रहस्य है, लेकिन हमारे पास अभी तक कोई वास्तविक व्यवहार्य समाधान नहीं है।"
2022 से 2024 तक ओपनएआई में काम करने के बाद कोकोटैलो ने कंपनी छोड़ दी और पूर्वानुमानित अनुसंधान पर काम किया, अध्ययन किया कि एआई सिस्टम कितनी तेजी से आगे बढ़ सकता है और कंपनियों द्वारा अधिक शक्तिशाली मॉडल बनाने पर क्या आर्थिक, राजनीतिक और सुरक्षा जोखिम उत्पन्न हो सकते हैं।
आज, अपने गैर-लाभकारी अनुसंधान संगठन, फ्यूचर ऑफ एआई प्रोजेक्ट के माध्यम से, वह इसी तरह के विषयों पर ध्यान केंद्रित करते हैं, यह विश्लेषण करने पर ध्यान केंद्रित करते हैं कि एआई सिस्टम कितनी तेजी से विकसित हो सकता है और अगर कंपनियां गति और प्रतिस्पर्धा को प्राथमिकता देना जारी रखती हैं तो क्या जोखिम पैदा होंगे।
कोकोटैलो ने कहा, "एक बार सुपरइंटेलिजेंस बन जाने के बाद, मनुष्य इस ग्रह का नेता नहीं रहेगा, कम से कम डिफ़ॉल्ट नेता तो नहीं।"
कोकोटैलो ने कहा कि कई लोग अभी भी एआई विकास की गति को कम आंकते हैं क्योंकि चर्चाएं अक्सर विज्ञान कथा की तरह लगती हैं। उनकी चेतावनी तब आई है जब एआई कंपनियां अधिक शक्तिशाली मॉडल और बड़े डेटा केंद्रों में अरबों डॉलर का निवेश करना जारी रख रही हैं।