सार:
ओपनएआई के मुख्य वैज्ञानिक जैकब पचॉकी का प्रस्ताव है कि कृत्रिम बुद्धिमत्ता कंपनियों को तेजी से शक्तिशाली मॉडल के विकास पर सीमाएं निर्धारित करने के लिए सहमत होना चाहिए जब तक कि शोधकर्ताओं के पास इन मॉडलों के व्यवहार को समझने और निगरानी करने के बेहतर तरीके न हों। पचॉकी ने उद्योग-व्यापी मानकों का आह्वान किया जो एआई विकास के लिए सीमाएँ निर्धारित करेंगे, और कंपनियों को विशिष्ट सुरक्षा आवश्यकताओं के पूरा होने तक उन सीमाओं को आगे नहीं बढ़ाने के लिए सहमत होना चाहिए।

'मैं आगे प्रस्ताव करता हूं कि उलझन और अन्य उपायों के आधार पर सामान्य सीमाएं निर्धारित की जाएं, डेवलपर्स इन सीमाओं का उल्लंघन न करें जब तक कि एआई व्यवहार को समझने और निगरानी करने की हमारी क्षमता एक विशिष्ट मील के पत्थर तक नहीं पहुंच जाती,'' पचॉकी ने लिखा। पचॉकी की प्रस्तावित सीमाएँ आंशिक रूप से पर्प्लेक्सिटी नामक तकनीकी मीट्रिक पर आधारित हो सकती हैं, जो पाठ के अगले भाग की भविष्यवाणी करने के लिए एआई मॉडल की क्षमता को मापता है। पचॉकी ने यह नहीं बताया कि प्रारंभिक सीमाएँ किस स्तर पर निर्धारित की जानी चाहिए, या उन्हें कब लागू किया जाएगा।
पचोकी ने चेतावनी दी कि 2027 की शुरुआत में, एआई अपने स्वयं के विकास को तेजी से बढ़ा सकता है, जिससे शोधकर्ता प्रौद्योगिकी की निगरानी और समझने की अपनी क्षमता में सुधार कर सकते हैं।
ओपनएआई के सीईओ ऑल्टमैन ने प्रस्ताव के लिए समर्थन व्यक्त किया और पचॉकी के लेख को "पिछले कुछ समय में ओपनएआई द्वारा जारी की गई सबसे महत्वपूर्ण सामग्री" बताया। एक्स पर एक पोस्ट में उन्होंने कहा कि साझा सीमाओं पर सहमति से "सुरक्षा और नियंत्रण" सुनिश्चित करने में मदद मिलेगी।
टिप्पणियाँ