काठमाडौं । कृत्रिम बुद्धिमत्ता (AI) को तीव्र विकासले मानव जीवनमा ठूलो परिवर्तन ल्याइरहेको बेला यसको सम्भावित जोखिमबारे वैज्ञानिक तथा प्रविधि क्षेत्रका अनुसन्धानकर्ताहरूले गम्भीर चेतावनी दिन थालेका छन्। केही वर्तमान तथा पूर्व एआई अनुसन्धानकर्ताले अत्यधिक शक्तिशाली एआई प्रणाली भविष्यमा मानव नियन्त्रणभन्दा बाहिर जान सक्ने र मानव अस्तित्वमै खतरा उत्पन्न गर्न सक्ने सम्भावना औंल्याएका छन्।
एआईको विकासलाई केही समयका लागि सुस्त पार्ने, जोखिम मूल्यांकन गर्ने र अन्तर्राष्ट्रिय रूपमा समन्वित नियमन ल्याउने विषयमा समेत बहस बढेको छ।
‘एआईले मानवलाई नै समाप्त पार्न सक्छ’ भन्ने चेतावनी
एआई सुरक्षा तथा alignment क्षेत्रमा काम गरेका अनुसन्धानकर्ता इभान ह्युबिङ्गर (Evan Hubinger) ले आगामी दशकभित्र एआईले “सबै मानिसलाई मार्न सक्ने” सम्भावना १० प्रतिशतभन्दा बढी रहेको आफ्नो धारणा सार्वजनिक गरेका छन्।
Alignment को उद्देश्य एआई प्रणालीलाई मानिसका मूल्य, नैतिक मान्यता र उद्देश्यसँग मिलाएर विकास गर्नु हो, ताकि शक्तिशाली एआईले मानव हितविपरीत काम नगरोस्।
यद्यपि ह्युबिङ्गरले अहिले प्रयोगमा रहेका एआई प्रणालीबाट तत्काल उत्पन्न हुने जोखिम कम रहेको बताएका छन्। उनको चेतावनी भने भविष्यमा एआई प्रणालीको क्षमता अत्यधिक बढेपछि उत्पन्न हुन सक्ने जोखिमसँग सम्बन्धित छ।
यसैबीच, एन्थ्रोपिकमा काम गरिसकेका अनुसन्धानकर्ता जेकब कोक्सन (Jacob Coxon) ले आफू र अन्य कर्मचारी एआईको तीव्र विकास तथा त्यसले मानवतामा पार्न सक्ने प्रभावलाई लिएर “वास्तवमै डराएको” बताएका छन्।
ठूला एआई कम्पनी पनि नियमनको पक्षमा
एआईको सम्भावित जोखिमबारे बहस भइरहेका बेला प्रमुख एआई विकासकर्ता OpenAI र Anthropic ले पनि सरकार तथा सांसदहरूबाट एआईसम्बन्धी नियमन आवश्यक रहेको बताउँदै आएका छन्।
Microsoft का एआई प्रमुखले समेत भविष्यमा एआईलाई “silicon species” अर्थात् मानिससँग प्रतिस्पर्धा गर्न सक्ने छुट्टै डिजिटल प्रजातिजस्तो अवस्थामा पुग्न नदिन नियम आवश्यक रहेको बताएका छन्।
तर एआई क्षेत्रका केही आलोचकहरूले भने ठूला प्रविधि कम्पनीहरूले नियमनको माग गर्नुको अर्को कारण आफ्ना ठूला कम्पनीहरूको बजार प्रभुत्वलाई मजबुत बनाउनु हुन सक्ने तर्क गरेका छन्। उनीहरूका अनुसार कडा नियमले नयाँ तथा साना प्रतिस्पर्धीलाई बजारमा प्रवेश गर्न कठिन बनाउन सक्छ।
एआईले कसरी जोखिम सिर्जना गर्न सक्छ?
विशेषज्ञहरूले एआईबाट उत्पन्न हुन सक्ने सम्भावित जोखिमका विभिन्न परिदृश्यबारे चर्चा गरेका छन्।
एआईको क्षमता अहिले अपेक्षा गरिएभन्दा निकै तीव्र गतिमा बढिरहेको र भविष्यमा एआईले मानिसको प्रत्यक्ष निर्देशनबिनै आफ्नो क्षमता सुधार गर्न सक्ने अवस्था आउन सक्ने चिन्ता व्यक्त गरिएको छ।
विशेषगरी AI agents अर्थात् आफैं निर्णय लिएर विभिन्न काम तथा डिजिटल गतिविधि सञ्चालन गर्न सक्ने एआई प्रणालीप्रति सुरक्षा अनुसन्धानकर्ताहरूले विशेष चासो देखाएका छन्।
हालै एआई उपकरणहरूले निर्देशन नदिँदासमेत केही वेबसाइटमा प्रवेश गरी ह्याक गर्ने गतिविधि गरेको घटनाले पनि यस्ता चिन्तालाई थप चर्चामा ल्याएको छ।
भविष्यमा अत्यन्त शक्तिशाली एआई प्रणाली गलत उद्देश्यका लागि प्रयोग भएमा साइबर आक्रमण, जासुसी, जैविक हतियारसम्बन्धी गतिविधि, आर्थिक प्रणालीमा अवरोधलगायतका क्षेत्रमा जोखिम बढ्न सक्ने चेतावनी दिइएको छ।
एआई जोखिमको बहस नयाँ होइन
मेसिनले मानिसको बौद्धिक क्षमतासँग प्रतिस्पर्धा गर्न सक्ने सम्भावनाबारे बहस दशकौं पुरानो हो। कम्प्युटर विज्ञानका अग्रणी एलन ट्युरिङले समेत सन् १९५० को दशकमा बुद्धिमान मेसिन सम्भव भए त्यसले भविष्यमा नियन्त्रण प्राप्त गर्न सक्ने सम्भावनाबारे चर्चा गरेका थिए।
पछिल्ला केही वर्षमा भने OpenAI, Anthropic लगायतका कम्पनीहरू अत्यन्त शक्तिशाली एआई विकास गर्ने दौडमा छन्। उनीहरूले मानिसले अहिले प्रयोग गर्ने लेखन, तस्बिर तथा भिडियो निर्माणजस्ता सामान्य उपकरणभन्दा धेरै जटिल काम गर्न सक्ने superintelligence विकास गर्ने लक्ष्यबारे चर्चा गरेका छन्।
कम्पनीहरूको दाबीअनुसार यस्तो प्रविधिको विकास मानव हितमा प्रयोग हुने गरी सुरक्षित बनाउन आवश्यक सुरक्षा संयन्त्र निर्माण गरिनेछ।
सबै विशेषज्ञ एआईलाई अस्तित्वगत खतरा मान्दैनन्
एआईको सम्भावित जोखिमबारे सबै विज्ञ एकमत भने छैनन्।
केही विशेषज्ञले अत्यधिक शक्तिशाली एआईले मानव अस्तित्व नै समाप्त पार्न सक्छ भन्ने चेतावनीलाई अनुमानमा आधारित र अतिरञ्जित भएको बताएका छन्। उनीहरूको तर्कमा एआई कम्पनीहरूले प्रविधिको क्षमतालाई बढाइचढाइ प्रस्तुत गरेर आफ्नो प्रभाव र व्यावसायिक महत्त्व बढाउन खोज्न सक्ने विषय पनि समावेश छ।
कतिपय विज्ञले भविष्यमा हुन सक्ने “existential risk” भन्दा अहिले नै देखिइरहेका एआईसम्बन्धी समस्यामा बढी ध्यान दिनुपर्ने बताएका छन्।
उदाहरणका रूपमा एआईबाट गैरसहमतिको अश्लील Deepfake तस्बिर बनाउने, गलत सूचना फैलाउने र ठगीलाई थप प्रभावकारी बनाउने गतिविधि बढिरहेको विषय उठाइएको छ।
मानव अधिकारसम्बन्धी जोखिममा पनि चिन्ता
एआईको प्रयोगसँग सम्बन्धित मानव अधिकारका सम्भावित जोखिमबारे बेलायतका सांसदहरूको बहुदलीय समूहले समेत प्रतिवेदन सार्वजनिक गरेको छ।
उक्त प्रतिवेदनले एआईबाट उत्पन्न हुन सक्ने जोखिमको “स्तर र गम्भीरता” सम्बोधन गर्न नयाँ कानुनी व्यवस्था आवश्यक रहेको उल्लेख गरेको छ।
यसले एआई विकासलाई पूर्ण रूपमा रोक्ने वा तीव्र गतिमा अगाडि बढाउनेभन्दा पनि नवप्रवर्तन, सुरक्षा, मानव अधिकार र जवाफदेहिताबीच सन्तुलन कसरी कायम गर्ने भन्ने बहसलाई थप महत्वपूर्ण बनाएको छ।
निष्कर्षमा, एआईले शिक्षा, स्वास्थ्य, व्यवसाय, सञ्चार र दैनिक जीवनमा महत्वपूर्ण अवसर सिर्जना गरिरहेको भए पनि यसको तीव्र विकाससँगै सुरक्षा र नियमनको बहस पनि तीव्र बनेको छ। एआईले भविष्यमा मानवताका लागि कति ठूलो जोखिम सिर्जना गर्छ भन्ने विषयमा विशेषज्ञहरूबीच मतभेद रहे पनि, प्रविधिको विकाससँगै यसको दुरुपयोग, मानव अधिकार र नियन्त्रणसम्बन्धी प्रश्नहरू अहिले नै बहसको केन्द्रमा पुगेका छन्।
स्रोत: BBC
What if you could work from Anywhere?
Explore More with something that can change your Life!
