काठमाडौं- एआईको क्षमता बढाउने दौडमा रहेका विश्वका ठूला प्रविधि कम्पनीका प्रमुखहरू नै अहिले एआई विकासको गति केही घटाउनुपर्ने पक्षमा उभिएका छन्।

एन्थ्रोपिकका प्रमुख कार्यकारी डारियो अमोडेईले शक्तिशाली एआई मोडलको विकासमा केही समय ‘ब्रेक’ लगाउनुपर्ने प्रस्ताव अघि सारेका छन्। ओपन एआईका प्रमुख कार्यकारी साम अल्टम्यान र एक्सएआई का एलन मस्कले उनको प्रस्तावलाई समर्थन गरेका छन्।

अमोडेईले शक्तिशाली एआई मोडल सार्वजनिक गर्नुअघि त्यसको सुरक्षा परीक्षण र स्वतन्त्र मूल्यांकनलाई प्राथमिकता दिनुपर्ने उल्लेख गरेका छन्। उनका अनुसार एआईको क्षमता विकास तीव्र भइरहेका बेला त्यसबाट उत्पन्न हुनसक्ने जोखिमको मूल्यांकन र नियन्त्रणका उपाय पनि त्यही गतिमा विकास गर्न आवश्यक छ।

उनले एआई विकास रोक्नुपर्ने प्रस्ताव भने गरेका छैनन्। बरु अत्यधिक शक्तिशाली मोडल विकास र सार्वजनिक गर्ने क्रमलाई केही सुस्त बनाएर सुरक्षा प्रणाली बलियो बनाउनुपर्ने उनको तर्क छ।

अमोडेईले स्वतन्त्र मूल्यांकनकर्तालाई एआई प्रणाली परीक्षण गर्न पर्याप्त पहुँच दिनुपर्ने, अग्रणी एआई कम्पनीबीच साझा सुरक्षा मापदण्ड बनाउनुपर्ने र जोखिम व्यवस्थापनका लागि विभिन्न देशबीच समन्वय आवश्यक रहेको बताएका छन्।

एआईको प्रयोग अहिले प्रश्नको उत्तर दिने वा सामग्री तयार गर्ने च्याटबोटमा मात्र सीमित छैन। नयाँ पुस्ताका एआई एजेन्टलाई मानिसले दिएको लक्ष्यअनुसार योजना बनाउन, विभिन्न डिजिटल उपकरण प्रयोग गर्न र लामो प्रक्रियामा आफैं काम गर्न सक्ने गरी विकास भइरहेको छ।

यसले एआईको उपयोगिता बढाए पनि जोखिमसम्बन्धी नयाँ प्रश्न जन्माएको छ। एआईलाई स्वतन्त्र रूपमा काम गर्न दिंदा उसले मानिसले अपेक्षा नगरेको निर्णय गर्न सक्छ कि सक्दैन भन्ने विषय अहिले सुरक्षा अनुसन्धानको महत्वपूर्ण हिस्सा बनेको छ।

अमोडेईले एआई प्रणालीको बढ्दो क्षमताले साइबर सुरक्षा, जैविक सुरक्षा र अन्य संवेदनशील क्षेत्रमा जोखिम बढाउन सक्ने चेतावनी दिँदै आएका छन्।

ठूला एआई कम्पनीहरूले सुरक्षा मापदण्ड र नियमनको माग गर्दा त्यसको अर्को पक्ष पनि छ। अत्यधिक कडा नियमनले साना कम्पनी तथा नयाँ प्रतिस्पर्धीलाई बजारमा प्रवेश गर्न कठिन बनाउन सक्छ।

ठूला कम्पनीसँग ठूलो लगानी, महंगो कम्प्युटिङ पूर्वाधार र सुरक्षा परीक्षणका लागि आवश्यक स्रोत हुन्छ। नयाँ कम्पनीसँग त्यस्तो क्षमता नहुन सक्छ। त्यसैले एआई सुरक्षाका नाममा बनाइने नियमले बजारमा ठूला कम्पनीको प्रभाव अझ बढाउन सक्ने र त्यही डर देखाएर नियन्त्रणलाई बलियो बनाउने चाल भएको हुनसक्ने कतिपयको बुझाइ पनि रहेको छ। 

अमेरिका-चीन प्रतिस्पर्धाले थप जटिल बनाएको बहस

एआई सुरक्षाको बहसलाई अमेरिका र चीनबीचको प्रविधि प्रतिस्पर्धाले पनि आकार दिएको छ। अमेरिकी नीति निर्माताबीच एउटा प्रमुख चिन्ता छ, अमेरिकी कम्पनीलाई धेरै कडा नियम लगाएर विकासको गति घटाइयो भने चीनका कम्पनीले एआईमा अग्रता लिन सक्छन्। त्यसैले राष्ट्रिय सुरक्षा र प्रविधि नेतृत्वका कारण अमेरिका एआई विकासमा पछि हट्न चाहँदैन।

अर्कोतर्फ चीन पनि एआईको क्षेत्रमा तीव्र लगानी र विकास गरिरहेको छ। यस्तो अवस्थामा एउटा देशले मात्रै विकासको गति घटाउँदा अर्को देशले त्यसको फाइदा उठाउन सक्ने जोखिम हुन्छ।

यही कारण एआईको सुरक्षा अब कम्पनीको आन्तरिक विषय मात्र रहेन। यो अन्तर्राष्ट्रिय प्रतिस्पर्धा र राष्ट्रिय सुरक्षासँग जोडिएको विषय बनेको छ।

अमोडेईले पनि एआईको जोखिम व्यवस्थापनका लागि अन्तर्राष्ट्रिय सहकार्य आवश्यक रहेको बताएका छन्। शक्तिशाली एआई विकास गर्ने प्रमुख देश र कम्पनीबीच साझा सुरक्षा मापदण्ड नबनेसम्म कुनै एक कम्पनी वा देशले मात्रै जोखिम घटाएर पर्याप्त नहुने उनको तर्क छ।

तर चिनियाँ तथा रसियनहरूले भने एआईको विकास रोक्नेभन्दा पनि यसको समावेशी उपयोग बढानुपर्ने भनेर प्रतिक्रिया दिएका छन्।