9 मार्च को, OpenAI ने घोषणा की कि वह कृत्रिम बुद्धिमत्ता सुरक्षा प्लेटफ़ॉर्म Promptfoo का अधिग्रहण करेगा और लेनदेन पूरा होने के बाद कंपनी की तकनीक को OpenAI के एंटरप्राइज़-स्तरीय एजेंट प्लेटफ़ॉर्म OpenAI फ्रंटियर में पूरी तरह से एकीकृत करने की योजना बना रहा है। प्रॉम्प्टफू मुख्य रूप से एंटरप्राइज़ उपयोगकर्ताओं के लिए लक्षित है और एआई सिस्टम के विकास चरण के दौरान विभिन्न सुरक्षा कमजोरियों को पहचानने और ठीक करने में मदद करता है। इसके उपकरण फॉर्च्यून 500 कंपनियों में से एक चौथाई से अधिक द्वारा अपनाए गए हैं और ओपन सोर्स सीएलआई और पुस्तकालयों के माध्यम से बड़े भाषा मॉडल अनुप्रयोगों के मूल्यांकन और रेड टीम परीक्षण का समर्थन करते हैं।
ओपनएआई ने कहा कि चूंकि उद्यम वास्तव में व्यावसायिक प्रक्रियाओं में "एआई सहकर्मियों" को तैनात करते हैं, इसलिए मूल्यांकन, सुरक्षा और अनुपालन बुनियादी आवश्यकताएं बन गए हैं। उद्यमों को न केवल एजेंट के व्यवहार का परीक्षण करने और ऑनलाइन होने से पहले जोखिमों की पहचान करने के लिए एक व्यवस्थित दृष्टिकोण की आवश्यकता है, बल्कि उन्हें पर्यवेक्षण, शासन और जवाबदेही आवश्यकताओं को पूरा करने के लिए दीर्घकालिक संचालन और रखरखाव के दौरान स्पष्ट रिकॉर्ड रखने की भी आवश्यकता है। जबकि OpenAI ने Promptfoo ओपन सोर्स प्रोजेक्ट को जारी रखने की योजना बनाई है, यह एंटरप्राइज़ उपयोगकर्ताओं को अधिक संपूर्ण एकीकृत समाधान प्रदान करने के लिए फ्रंटियर में अपनी क्षमताओं को गहराई से एकीकृत करेगा।
सह-संस्थापक इयान वेबस्टर और माइकल डी'एंजेलो के नेतृत्व में प्रॉम्प्टफू टीम ने बड़े पैमाने पर बड़े मॉडल लागू करते समय कंपनियों को संभावित जोखिमों की पहचान करने में मदद करने के लिए मूल्यांकन और हमले सिमुलेशन (रेड-टीमिंग) के लिए उपकरणों का एक परिपक्व और शक्तिशाली सेट बनाया है। OpenAI ने कहा कि Promptfoo के पास एंटरप्राइज़-स्तरीय AI सिस्टम मूल्यांकन, सुरक्षा और परीक्षण में गहन इंजीनियरिंग संचय है। इसका काम उद्यमों को सुरक्षित और अधिक विश्वसनीय एआई अनुप्रयोगों को तैनात करने में मदद करता है। इन क्षमताओं को सीधे फ्रंटियर में शामिल करने से प्लेटफ़ॉर्म के समग्र सुरक्षा स्तर में उल्लेखनीय सुधार होगा।
ओपनएआई द्वारा जारी की गई जानकारी के अनुसार, भविष्य में फ्रंटियर प्लेटफॉर्म पर एजेंट बनाने वाली कंपनियों को कई मुख्य क्षमताओं में बढ़ाया जाएगा। सबसे पहले, सुरक्षा और सुरक्षा परीक्षण को प्लेटफ़ॉर्म की मूल क्षमताओं के रूप में एम्बेड किया जाएगा: स्वचालित सुरक्षा परीक्षण और रेड टीम हमले की क्षमताएं उद्यमों को त्वरित इंजेक्शन, जेलब्रेकिंग, डेटा रिसाव, टूल दुरुपयोग और नीति के बाहर एजेंट व्यवहार जैसे जोखिमों को पहचानने और कम करने में मदद करेंगी। दूसरे, सुरक्षा और मूल्यांकन क्षमताओं को विकास वर्कफ़्लो में अधिक बारीकी से एकीकृत किया जाएगा, जिससे टीमों को पहले चरण में एजेंट जोखिमों की पहचान करने, समस्या निवारण और मरम्मत करने की अनुमति मिलेगी, जिससे सुरक्षा उद्यम-स्तरीय एआई सिस्टम विकास और संचालन के मुख्य पहलुओं में से एक बन जाएगी। तीसरा, प्लेटफ़ॉर्म संगठनों को परीक्षण प्रक्रियाओं को रिकॉर्ड करने, समय के साथ जोखिम प्रोफाइल की निगरानी करने और तेजी से कठोर शासन, जोखिम और अनुपालन आवश्यकताओं को पूरा करने में मदद करने के लिए रिपोर्टिंग और ट्रेसबिलिटी टूल को एकीकृत करके निरीक्षण और जवाबदेही क्षमताओं को मजबूत करेगा।
प्रॉम्प्टफू के सह-संस्थापक और सीईओ इयान वेबस्टर ने कहा कि प्रॉम्प्टफू का मूल उद्देश्य डेवलपर्स को एआई सिस्टम की सुरक्षा सुनिश्चित करने के लिए एक व्यावहारिक और व्यवहार्य समाधान प्रदान करना था। जैसे-जैसे एआई एजेंट वास्तविक डेटा और प्रमुख प्रणालियों से अधिक निकटता से जुड़ते जा रहे हैं, उनकी सुरक्षा संरक्षण और व्यवस्थित सत्यापन की कठिनाई और महत्व तेजी से बढ़ रहा है। उन्होंने कहा कि ओपनएआई में शामिल होने से प्रॉम्प्टफू को इस दिशा में निवेश में तेजी लाने और वास्तविक दुनिया के एआई सिस्टम का निर्माण करने वाली टीमों के लिए मजबूत सुरक्षा, विश्वसनीयता और शासन क्षमताएं लाने में मदद मिलेगी।
OpenAI ने कहा कि वह Promptfoo टीम में शामिल होने के लिए उत्साहित है और उद्यमों को AI अनुप्रयोगों और एजेंट सिस्टम को सुरक्षित और विश्वसनीय रूप से तैनात करने में मदद करने के लिए प्रासंगिक टूल बनाना जारी रखेगा। अधिग्रहण का पूरा होना प्रथागत समापन शर्तों की संतुष्टि के अधीन है।