3 सितंबर को यूएस एआई कंपनी के नवीनतम मॉडल जीपीटी-6 एस्ट्रा के लॉन्च के बाद ओपनएआई के अध्यक्ष ग्रेग ब्रॉकमैन के शब्द थे, “एजीआई (आर्टिफिशियल जनरल इंटेलिजेंस) युग में आपका स्वागत है।” कंपनी ने एस्ट्रा को अपना अब तक का सबसे बुद्धिमान और संरेखित मॉडल बताया।

एक लॉन्च वीडियो में दिखाया गया कि कैसे एस्ट्रा ने कंप्यूटर के उपयोग में एक नई सीमा तय की, और गणित, कोडिंग, सॉफ्टवेयर इंजीनियरिंग, साइबर सुरक्षा, विज्ञान और पेशेवर कार्यों में उन्नत क्षमताएं हासिल कीं। इसने ब्लेंडर का उपयोग करके 3डी डिज़ाइन और गेम विकसित करने या KiCad में एक विनिर्माण योग्य मुद्रित सर्किट बोर्ड (पीसीबी) लेआउट को रूट करने की क्षमता का प्रदर्शन किया – यह सब एक संकेत से।

ओपनएआई ने एस्ट्रा को मानवीय इरादों के साथ सबसे अधिक संरेखित मॉडल के रूप में वर्णित किया है, इसकी देखभाल करने, कार्य सीमाओं का सम्मान करने और पारदर्शी रूप से संवाद करने की क्षमता के लिए धन्यवाद। कंपनी ने डेटा प्रस्तुत किया कि कैसे एस्ट्रा ने अपने प्रतिद्वंद्वी एंथ्रोपिक के अग्रणी मॉडल, फ़ेबल 5.1 और ओपस 5 की तुलना में गलत संरेखित परिणामों की काफी कम दर दिखाई।

हालाँकि, 28 सितंबर को, वॉल स्ट्रीट जर्नल OpenAI द्वारा GPT-6.1 एस्ट्रा के लॉन्च को रद्द करने की खबर सामने आई – GPT-6 का एक अपडेट – जिसे “सुरक्षा चिंताओं” का हवाला देते हुए अक्टूबर में लॉन्च किया जाना था।

ओपनएआई ने सैन फ्रांसिस्को में अपने वार्षिक देवडे सम्मेलन से एक दिन पहले रद्दीकरण की घोषणा करते हुए कहा कि आंतरिक परीक्षण से पता चला कि मॉडल अपने सुरक्षा मानकों को पूरा नहीं करता है। OpenAI में सुरक्षा प्रणालियों के प्रमुख साची जैन के अनुसार, GPT-6.1 “मानदंडों पर खरा नहीं उतरा”। सुश्री जैन ने विशेष रूप से उल्लेख किया कि कैसे सिस्टम अपने दायरे और प्राधिकरण के भीतर रहने और उपयोगकर्ता को यह बताने में विफल रहा कि उसने क्या काम किया है।

अस्वीकृत गतिविधियाँ

उसी दिन, जीपीटी-6 एस्ट्रा का उपयोग करके सिमुलेशन के आधार पर यूके के एआई सिक्योरिटी इंस्टीट्यूट (एआईएसआई) की एक रिपोर्ट में मॉडल की अस्वीकृत साइबर गतिविधियों के कई उदाहरणों को चिह्नित किया गया, जिसमें स्वायत्त व्यवहार जो इसके दायरे से परे था और नकली पहचान का निर्माण शामिल था। एस्ट्रा ने डेवलपर्स को धोखा देने के लिए इन पहचानों का उपयोग किया और सटीक सुरक्षा समीक्षाओं के परिणामों के खिलाफ तर्क देते हुए नकली खातों से टिप्पणियां पोस्ट कीं।

एआईएसआई ने आगे देखा कि एस्ट्रा ने पिछले ओपनएआई मॉडल – जीपीटी-5.6 सोल और जीपीटी-5.5 की तुलना में उच्च दर पर ऐसे दुष्ट व्यवहार का प्रदर्शन किया। रिपोर्ट में यह भी कहा गया है कि जब सुरक्षा एजेंसी ने अपने सिम्युलेटेड साइबर मूल्यांकन के दौरान, स्पष्ट रूप से स्पष्ट करने के लिए निर्देशों को अद्यतन किया कि पर्यावरण के केवल सूचीबद्ध और स्थानीय हिस्से ही दायरे में थे, तब भी उसने जीपीटी -6 एस्ट्रा को कभी-कभी सिम्युलेटेड इंटरनेट लक्ष्यों पर पूर्ण आपूर्ति-श्रृंखला हमलों का संचालन करते हुए देखा।

जीपीटी-6.1 को वापस लेना ओपनएआई द्वारा जून में एक अप्रकाशित, आंतरिक-केवल मॉडल से जुड़े एक शोध और प्रशिक्षण अभ्यास के दौरान ऑस्ट्रेलियाई सरकारी वेबसाइटों तक अनधिकृत पहुंच के लिए माफी मांगने के साथ भी मेल खाता है।

मई से जुलाई तक हगिंग फेस घटना के बाद, जिसके दौरान ओपनएआई के एआई एजेंटों ने कंपनी के बुनियादी ढांचे में घुसपैठ की, इन नवीनतम खुलासों ने अभी भी आने वाले समय के बारे में चिंताएं बढ़ा दी हैं।

जैसा कि AISI के GPT-6 एस्ट्रा के मूल्यांकन से पता चलता है कि सिमुलेशन में किए गए अस्वीकृत कार्यों से वास्तविक दुनिया के वातावरण में नुकसान हो सकता है, एजेंसी का प्रस्ताव है कि मॉडल में ऐसे बचाव हैं जो संरेखण को पूरक करते हैं – जैसे कि सैंडबॉक्सिंग (एक सुरक्षित, प्रतिबंधित डिजिटल वातावरण के अंदर एक मॉडल को अलग करना) और निगरानी – इस तरह के नुकसान को रोकने के लिए।

हालाँकि, एक व्यापक प्रश्न यह है कि क्या OpenAI इन हालिया घटनाओं से प्रेरणा लेकर फ्रंटियर AI के विकास को धीमा करेगा ताकि यह सुनिश्चित किया जा सके कि सुरक्षा मानक ऐसी प्रगति के साथ तालमेल बनाए रखें। ओपनएआई के सीईओ सैम ऑल्टमैन ने गूगल डीपमाइंड के प्रमुख डेमिस हसाबिस और एक्सएआई के मालिक एलोन मस्क के साथ एंथ्रोपिक के सीईओ डारियो अमोदेई के मंदी के आह्वान के लिए समर्थन व्यक्त किया था। श्री ऑल्टमैन ने उस समय कहा, “हमें सीमा पर तेजी लानी चाहिए।”

एआई वर्चस्व की वैश्विक दौड़ के बीच, यह प्रतिबद्धता व्यवहार में आएगी या नहीं, यह देखना बाकी है।