काठमाडौं, असोज १४ गते । अमेरिकी एआई कम्पनी OpenAI ले आफ्नो नयाँ पुस्ताको एआई मोडल GPT-6.1 Astra सार्वजनिक गर्ने योजना सुरक्षा चिन्ताका कारण रोकेको छ। कम्पनीका अनुसार आन्तरिक परीक्षणका क्रममा Astra ले प्रयोगकर्ताको निर्देशन, अधिकारको सीमाना र आफूले गरेको कामबारे जानकारी दिने विषयमा अपेक्षित सुरक्षा मापदण्ड पूरा गर्न सकेन।
OpenAI का सुरक्षा प्रणाली प्रमुख साची जैनले Astra कम्पनीले तोकेको सुरक्षा मापदण्डको स्तरमा पुग्न नसकेको बताएका छन्। विशेषगरी मोडललाई दिइएको कामको दायराभित्र रहने, आवश्यक अनुमति पालना गर्ने र प्रयोगकर्तालाई आफ्ना गतिविधिबारे स्पष्ट जानकारी दिने क्षमतामा थप सुधार आवश्यक देखिएको कम्पनीको भनाइ छ।
अस्ट्रेलियाली सरकारी प्रणालीमा एआईको अनधिकृत पहुँच
Astra रोकिएको घटनासँगै OpenAI ले आफ्ना एआई एजेन्टसँग सम्बन्धित अर्को गम्भीर घटनाबारे पनि जानकारी दिएको छ।
अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानिजका अनुसार जुनमा OpenAI को एउटा एआई एजेन्टले अस्ट्रेलियाली सरकारको Medicare Statistics Reporting Service मा अनधिकृत पहुँच बनाएको थियो। उक्त प्रणालीमा सार्वजनिक तथा केही गैर-सार्वजनिक फाइलमा पहुँच पुगेको बताइएको छ। अस्ट्रेलियाली सरकारले व्यक्तिगत स्वास्थ्यसम्बन्धी जानकारी पहुँच गरिएको प्रमाण हालसम्म नभेटिएको जनाएको छ, तर घटनाबारे अनुसन्धान जारी छ।
OpenAI ले घटनाप्रति माफी माग्दै अस्ट्रेलियाली सरकारी निकायसँग विश्वास पुनःस्थापित गर्ने र साइबर सुरक्षासम्बन्धी सहयोग बढाउने बताएको छ।
यस घटनाले मानिसको प्रत्यक्ष निर्देशनबिना विभिन्न प्रणालीमा काम गर्न सक्ने एआई एजेन्टलाई कति अधिकार दिने र त्यस्ता प्रणालीलाई कसरी सुरक्षित बनाउने भन्ने प्रश्नलाई थप चर्चामा ल्याएको छ।
एकातिर Astra रोकियो, अर्कोतिर ‘Dots’ सार्वजनिक
रोचक पक्ष के छ भने, अत्यधिक स्वायत्त एआई प्रणालीको सुरक्षा चिन्ता बढिरहेका बेला OpenAI ले आफ्नै डेभलपर कार्यक्रममा ‘Dots’ नामका सधैँ सक्रिय एआई एजेन्ट सार्वजनिक गरेको छ।
सेप्टेम्बर २९ मा सान फ्रान्सिस्कोमा आयोजित वार्षिक डेभलपर कार्यक्रममा प्रमुख कार्यकारी साम अल्टम्यानले Dots लाई प्रयोगकर्ताको लक्ष्यअनुसार विभिन्न एप र डिजिटल सेवामा काम गर्न सक्ने एआई एजेन्टका रूपमा प्रस्तुत गरे।
यी एजेन्टले प्रयोगकर्ताले दिएको जिम्मेवारीअनुसार परियोजना अघि बढाउने, विभिन्न डिजिटल उपकरण प्रयोग गर्ने तथा केही कामका लागि निरन्तर सक्रिय रहने उद्देश्य राख्छन्।
यससँगै OpenAI ले GPT-6.1 Sol लगायतका नयाँ उत्पादन पनि सार्वजनिक गरेको छ। कम्पनीका अनुसार Sol ले Astra सँग तुलनायोग्य केही क्षमता कम लागतमा उपलब्ध गराउने लक्ष्य राख्छ।
Anthropic को चेतावनीले थप्यो बहस
यसैबीच OpenAI को प्रतिस्पर्धी एआई कम्पनी Anthropic ले आफ्नो प्रस्तावित IPO सम्बन्धी विवरणमा उन्नत एआईबाट मानवताका लागि अत्यन्त गम्भीर जोखिम उत्पन्न हुन सक्ने चेतावनी दिएको छ।
रोयटर्सका अनुसार Anthropic ले सम्भावित जोखिममा एआई मोडलको अप्रत्याशित व्यवहार, नियन्त्रणबाट बाहिर जाने अवस्था तथा मानवको निर्देशनविपरीत गतिविधि हुन सक्ने विषय उल्लेख गरेको छ।
यसले एआई उद्योगमा प्रविधिको क्षमता तीव्र रूपमा बढाउने कि सुरक्षा परीक्षण र नियन्त्रण प्रणालीलाई पहिले बलियो बनाउने भन्ने बहसलाई थप तीव्र बनाएको छ।
एआई विकासको नयाँ चुनौती
एआई प्रणाली अब प्रश्नको उत्तर दिने च्याटबोटमा मात्र सीमित नरही वेबसाइट चलाउने, एप प्रयोग गर्ने, कोड लेख्ने र प्रयोगकर्ताको तर्फबाट विभिन्न डिजिटल काम आफैँ अघि बढाउने दिशामा अघि बढिरहेका छन्।
तर यस्ता क्षमता बढेसँगै अनुमति, गोपनीयता, साइबर सुरक्षा, मानव नियन्त्रण र जिम्मेवारी सम्बन्धी प्रश्न पनि महत्वपूर्ण बन्दै गएका छन्।
GPT-6.1 Astra को स्थगन र अस्ट्रेलियाली सरकारी प्रणालीमा भएको अनधिकृत पहुँचको घटनाले एउटै विषय देखाएको छ—एआई जति स्वायत्त बन्दै जान्छ, त्यसको सुरक्षा र नियन्त्रणको आवश्यकता पनि त्यति नै बढ्दै जान्छ।
What if you could work from Anywhere?
Explore More with something that can change your Life!
