एआईको तीव्र विकासले मानवजाति जोखिममा पर्न सक्ने चेतावनी

काठमाडौं । कृत्रिम बौद्धिकता (एआई)को तीव्र विकासले मानवजातिको अस्तित्वमै गम्भीर जोखिम निम्त्याउन सक्ने चेतावनी एआई कम्पनी एन्थ्रोपिकका पूर्वअनुसन्धानकर्ता ज्याकोब कक्सनले दिएका छन् ।

बीबीसीसँग कुरा गर्दै कक्सनले एआई विकासको वर्तमान गति नियन्त्रण नगरिए निकट भविष्यमै ठूलो विनाशकारी जोखिम आउन सक्ने बताएका हुन् । उनले एआईको विकासको गति सुस्त बनाउनुपर्नेमा जोड दिएका छन् ।

“यदि हामीले वर्तमान प्रगतिको दरलाई सुस्त बनाएनौँ भने निकट भविष्यमा हामी सबैको मृत्यु हुन सक्ने बलियो सम्भावना छ,” कक्सनले भने ।

उनका अनुसार एआई क्षेत्रमा काम गर्ने केही व्यक्तिसमेत यसको सम्भावित परिणामलाई लिएर गम्भीर चिन्तामा छन् । केही कर्मचारीले अबको दुई वर्षभित्रै ठूलो जोखिम उत्पन्न हुन सक्ने आशंका गरेको उनको दाबी छ ।

एन्थ्रोपिकका प्रमुख डारियो अमोदेईले पनि शक्तिशाली एआई प्रणालीबाट उत्पन्न हुन सक्ने जोखिमलाई ध्यानमा राख्दै विकासको गति केही सुस्त बनाउनुपर्ने बताउँदै आएका छन् । उनका अनुसार शक्तिशाली एआईले इन्टरनेटमाथि व्यापक नियन्त्रण कायम गर्न सक्ने जोखिम छ ।

कक्सनले यस्तो जोखिम अबको ६ महिनादेखि एक वर्षभित्रै देखिन सक्ने दाबी गरेका छन् । उनले एआई विकासलाई सुरक्षित बनाउन अमेरिका, चीनलगायत प्रमुख देशबीच सहकार्य आवश्यक रहेको बताए ।

तर, एआईको विकास पूर्ण रूपमा रोक्नुपर्ने पक्षमा आफू नरहेको कक्सनको भनाइ छ । उनका अनुसार एआईले रोगको उपचार खोज्न तथा मानव जीवन सुधारमा महत्वपूर्ण योगदान पुर्‍याउन सक्छ ।

कक्सनको चेतावनीप्रति एन्थ्रोपिकले एआईबाट ठूलो लाभसँगै अभूतपूर्व जोखिमसमेत आउन सक्ने स्वीकार गरेको छ । कम्पनीले आफ्ना एआई मोडलको कडा परीक्षण, सुरक्षा अनुसन्धान तथा सम्भावित जोखिम न्यूनीकरणमा निरन्तर काम गरिरहेको जनाएको छ ।

यद्यपि एआई उद्योगका केही व्यक्तिले यस्ता चेतावनीले अनावश्यक डर र ‘हाइप’ सिर्जना गर्न सक्ने बताएका छन् । एआई प्लेटफर्म हगिङ फेसका प्रमुख कार्यकारी अधिकृत क्लेमेन्ट डेल्यांगले कक्सनको दाबीमाथि प्रश्न उठाएका छन् ।

एनभिडियाका प्रमुख जेन्सेन हुआङले पनि एआईका कारण मानवजातिको अन्त्य हुन सक्ने दाबी अस्वीकार गरेका छन् । उनले यसअघि पनि एआईले मानवजातिको अन्त्य गर्ने धारणा ‘बकवास’ भएको बताएका थिए ।

यसैबीच, एन्थ्रोपिकका वैज्ञानिक इभान हबिंगरले भने कक्सनको चिन्तासँग सहमति जनाएका छन् । उनले एआईले सबै मानवलाई मार्न सक्ने सम्भावनालाई गम्भीरतापूर्वक लिनुपर्ने भन्दै आउँदो दशकभित्र यस्तो जोखिम उत्पन्न हुने सम्भावना १० प्रतिशतभन्दा बढी रहेको व्यक्तिगत अनुमान सार्वजनिक गरेका छन् ।

शक्तिशाली एआई मोडल तीव्र रूपमा विकास भइरहेका बेला तिनलाई सुरक्षित रूपमा नियन्त्रण गर्ने र सम्भावित जोखिम न्यूनीकरण गर्ने विषय एआई उद्योगको प्रमुख बहसमध्ये एक बनेको छ ।