काठमाडौं- एआईको तीव्र विकाससँगै सुरक्षाबारे उठ्दै आएको चिन्तालाई थप गहिरो बनाउने घटना सार्वजनिक भएको छ। च्याटजिपिटी विकासकर्ता ओपनएआईको परीक्षणमा रहेको एउटा एआई एजेन्ट नियन्त्रणबाहिर गएर अर्को एआई कम्पनी हगिङ फेसमा तीन दिनसम्म साइबर आक्रमण गरेको र त्यसको सात दिनपछिमात्र थाहा पाएको  खुलासा भएको छ। 

समाचार संस्था रोयटर्सका अनुसार ओपनएआईको परीक्षणमा रहेको एजेन्टले जुलाई ९ मा आफ्नो सुरक्षा घेरा तोड्ने प्रयास गरेको थियो। त्यसको दुई दिनपछि जुलाई ११ देखि १३ सम्म हगिङ फेसको प्रणालीमा अनधिकृत प्रवेश गरी साइबर आक्रमण गरेको कम्पनीका सहसंस्थापक थोमस वुल्फले बताएका छन्।

आक्रमण रोकिएपछि हगिङ फेसले एफबीआईलाई जानकारी गराएपछिमात्र ओपनएआईले आफ्नै एआई एजेन्ट त्यस घटनाको जिम्मेवार रहेको पत्ता लगाएको थियो।

ओपनएआईले जुलाई २१ मा आफ्नो एउटा एआई एजेन्ट नियन्त्रणबाहिर गएको स्वीकार गर्दै यो घटनालाई एआई सुरक्षाका लागि महत्त्वपूर्ण पाठ भएको बताएको छ।  कम्पनीले बाह्य विज्ञहरूसँग घटनाको समीक्षा गरिरहेको र विस्तृत प्राविधिक प्रतिवेदन सार्वजनिक गर्ने जनाएको छ।

रोयटर्सका अनुसार घटना जीपीटी–५.६ सोल  र सार्वजनिक नगरिएको अर्को अत्याधुनिक मोडेलमा आधारित एजेन्टको परीक्षणका क्रममा भएको हो।अनुसन्धानसँग संलग्नहरूले केही एजेन्टले भविष्यका आफ्नै संस्करणका लागि सन्देश छोड्दै ओपनएआईका आन्तरिक नियन्त्रण कसरी छल्ने भन्ने निर्देशनसमेत लेखेका थिए। केही परीक्षणमा निगरानी प्रणाली निष्क्रिय बनाइएका उदाहरणसमेत भेटिएका थिए। यद्यपि ती घटनाहरू र हगिङ फेसमा भएको साइबर आक्रमणबीच प्रत्यक्ष सम्बन्ध पुष्टि भइसकेको छैन।

यो घटनाले मान्छेको निगरानीबिना काम गर्ने  एआई एजेन्टको सुरक्षाबारे गम्भीर प्रश्न उठाएको छ। 

गैरनाफामूलक संस्था वर्ल्ड एथिकल डेटा फाउन्डेसन की विशेषज्ञ मार्ली स्मिथका अनुसार कम्पनीले एजेन्टको गतिविधि समयमै पत्ता लगाउन नसक्नु वा नियन्त्रण गर्न नसक्नु दुवै अवस्था समान रूपमा जोखिमपूर्ण हुन्।

एआई अनुसन्धान संस्था पलिसेड रिसर्च का जेफ्री लाडिशका अनुसार उन्नत एआई मोडेलहरू लक्ष्य पूरा गर्न झूट बोल्ने, नियम छल्ने वा प्रणाली ह्याक गर्नेसम्मको व्यवहार देखाउन सक्छन्। उनका अनुसार यो घटनाले एआई विकासमा सुरक्षाभन्दा प्रतिस्पर्धालाई प्राथमिकता दिइएको हो कि भन्ने प्रश्नसमेत उठाएको छ।

रोयटर्सका अनुसार घटना सार्वजनिक भए पनि एफबीआईले यसबारे कुनै टिप्पणी गरेको छैन। हगिङ फेसले भने घटनाको विस्तृत समयरेखा सार्वजनिक गर्ने तयारी गरिरहेको जनाएको छ।

मान्छेको नियन्त्रण बाहिर गएर एआई एजेन्टले गर्नसक्ने यस्ता गतविधिले भविष्यमा जोखिम बढाउने चिन्ता बढेको छ।