काठमाडौं- ओपनएआईले आन्तरिक सुरक्षा परीक्षणमा तोकिएको मापदण्ड पूरा नगरेपछि नयाँ एआई प्रणाली जीपीटी-६.१ एस्ट्राको प्रस्तावित लञ्च रोकेको छ।

अक्टोबरमा सार्वजनिक गर्ने तयारी गरिएको यो प्रणालीले मानव निर्देशनअनुसार काम गर्ने र आफूले गरेका गतिविधिबारे प्रयोगकर्तालाई सही जानकारी दिने विषयमा अपेक्षित स्तर पूरा नगरेपछि विमोचन रोकिएको रोयटर्सले उल्लेख गरेको छ।

ओपनएआईका सुरक्षा प्रणाली प्रमुख साची जैनका अनुसार जीपीटी-६.१ एस्ट्राले केही क्षेत्रमा अघिल्लो प्रणालीको तुलनामा सुधार देखाए पनि तोकिएको कार्यक्षेत्र र प्रयोगकर्ताले दिएको अनुमतिभित्र रहेर काम गर्ने विषयमा कमजोरी देखिएको थियो। आफूले गरेका कामबारे प्रयोगकर्तालाई कति सही र स्पष्ट जानकारी दिन्छ भन्ने परीक्षणमा पनि प्रणालीले अपेक्षित स्तर हासिल गर्न नसकेको उनले बताएका छन्।

रोयटर्सका अनुसार आन्तरिक परीक्षणमा जीपीटी-६.१ एस्ट्राले अघिल्लो प्रणालीको तुलनामा बढी छलपूर्ण व्यवहार देखाएको थियो। केही अवस्थामा उसले आफूले गरेका गतिविधिबारे सही जानकारी नदिएको परीक्षणबाट देखिएको थियो। नयाँ प्रणालीलाई च्याटजीपीटी र कोडेक्समा समेट्ने तथा मानिसको निरन्तर सहयोगबिनै जटिल काम पूरा गर्न सक्ने गरी विकास गरिएको थियो।

जैनले सार्वजनिक प्रयोगका लागि प्रणाली पठाउँदा कम्पनीले सुरक्षा र मानव निर्देशनसँग प्रणालीको व्यवहार कति मेल खान्छ भन्ने विषयमा निकै उच्च मापदण्ड राख्ने बताएका छन्। उनका अनुसार प्रणालीको विकासकै क्रममा सुरक्षा सुनिश्चित गर्नुपर्ने भए पनि प्रयोगकर्तासमक्ष पठाउने बेलामा मापदण्ड अझ कडा हुन्छ।

यो निर्णय ओपनएआईको वार्षिक विकासकर्ता सम्मेलनको पूर्वसन्ध्यामा आएको हो। कम्पनीले यसअघि जीपीटी-६ एस्ट्रालाई सेप्टेम्बर ३ मा सार्वजनिक गरेको थियो। ओपनएआईका अनुसार जीपीटी-६ एस्ट्रा उसको व्यापक रूपमा उपलब्ध गराइएको अहिलेसम्मकै सबैभन्दा सक्षम प्रणाली हो र साइबर सुरक्षासम्बन्धी क्षमतामा ‘अत्यन्त महत्वपूर्ण’ तहमा पुग्ने पहिलो प्रणाली हो।

ओपनएआईले जीपीटी-६ एस्ट्रा सार्वजनिक गर्नुअघि नै यसको साइबर सुरक्षा क्षमताका कारण थप कडा सुरक्षा उपाय आवश्यक पर्ने बताएको थियो। कम्पनीले प्रणालीले सुरक्षा व्यवस्था छल्ने वा प्रयोगकर्तालाई भ्रममा पार्ने सम्भावना जाँच गर्न नयाँ परीक्षणसमेत विस्तार गरेको जनाएको थियो।

नयाँ प्रणाली रोक्ने निर्णय एआई प्रणालीको स्वायत्त व्यवहारबारे बढेको चिन्ताबीच आएको हो। अल जजिराका अनुसार ओपनएआईका एआई प्रणालीले यसअघि परीक्षणको नियन्त्रित वातावरणबाट बाहिरिएर हगिङ फेसको प्रणालीमा प्रवेश गरेको घटना पनि सार्वजनिक भएको थियो। त्यस्तै, कम्पनीले हालै आफ्ना केही एआई प्रणालीमा देखिएको मानव निर्देशनसँग नमिल्ने व्यवहारबारे दर्जनौँ संस्था, सरकार र सार्वजनिक निकायलाई जानकारी गराएको जनाएको थियो।

एआई विकासको गति केही समय सुस्त बनाउनुपर्ने बहस पनि यही पृष्ठभूमिमा तीव्र भएको छ। एन्थ्रोपिकका प्रमुख कार्यकारी डारियो अमोडेईले एआईका नयाँ क्षमताको विकासमा गति संयमित गर्न आह्वान गरेका थिए। ओपनएआईका प्रमुख कार्यकारी साम अल्टम्यानसहित केही उद्योग नेताले पनि बलियो सुरक्षा उपाय आवश्यक रहेको धारणा राखेका छन्।