एआईको तीव्र विकासले बढायो मानव अस्तित्वमाथि खतरा, नियन्त्रणका लागि एकजुट हुँदै प्रविधि कम्पनी

एआईको तीव्र विकासले मानव अस्तित्वमै खतरा उत्पन्न गर्न सक्ने भन्दै अनुसन्धानकर्ता र सुरक्षा विज्ञहरूले चेतावनी दिइरहेका छन् । यससँगै विश्वका प्रमुख एआई कम्पनीका प्रमुखहरू यसको विकासको गति नियन्त्रण गर्नुपर्ने पक्षमा उभिएका छन् । 

एआई प्रविधिको विकास रोक्नुपर्नेभन्दा पनि यसको क्षमता विस्तार हुने गति घटाएर सुरक्षा परीक्षण र मानवीय नियन्त्रणलाई प्राथमिकता दिनुपर्ने उनीहरूको धारणा छ ।

एआईको जोखिमबारे पछिल्ला केही सातामा भएका बहसमा एन्थ्रोपिकका प्रमुख डारियो अमोदेई, ओपनएआईका प्रमुख साम अल्टम्यान र एक्सएआईका प्रमुख एलन मस्कको धारणा विशेष चर्चामा आएको छ । उनीहरूबिच व्यावसायिक प्रतिस्पर्धा रहे पनि एआईको अनियन्त्रित विकासले निम्त्याउन सक्ने जोखिमबारे भने समान चिन्ता देखिएको छ ।

अनुसन्धानकर्ताको चेतावनीपछि बहस
एआई कम्पनीहरूमा काम गरिसकेका केही अनुसन्धानकर्ता तथा एआई सुरक्षा विज्ञहरूले प्रविधिको विकास अत्यन्त तीव्र गतिमा भइरहेको र त्यसअनुसार सुरक्षा प्रणाली बलियो बन्न नसकेको बताएका छन् । उनीहरूको मुख्य चिन्ता एआई प्रणालीको क्षमता बढ्दै जाँदा त्यसलाई निर्माण गर्ने मानिसकै नियन्त्रण र बुझाइ कमजोर हुन सक्ने सम्भावनासँग सम्बन्धित छ ।

एन्थ्रोपिकका पूर्वकर्मी ज्याकब कक्सनले एआई विकासको गति र त्यसबाट उत्पन्न जोखिमबारे चेतावनी दिँदै राजीनामा दिएपछि यो विषयले थप चर्चा पाएको हो । अनुसन्धानकर्ताहरूका अनुसार एआई कम्पनीहरूले सुरक्षा र नियन्त्रणका उपाय विकास गर्न पर्याप्त समय नदिई नयाँ तथा शक्तिशाली प्रणाली निर्माणमा जोड दिइरहेका छन् ।

उनीहरूले एआई प्रणालीले मानिसले निर्धारण गरेका नियम उल्लङ्घन गर्न, आफ्नो वास्तविक व्यवहार लुकाउन वा मानिसको अपेक्षाविपरीत काम गर्न सक्ने जोखिम औँल्याएका छन् । यद्यपि, एआईबाट मानवता नै समाप्त हुने सम्भावनाबारे विशेषज्ञहरूबिच पूर्ण सहमति भने छैन । यो विषय सम्भावित जोखिम र त्यसको गम्भीरताबारे जारी वैज्ञानिक बहसको हिस्सा हो ।

अमोदेईको प्रस्तावमा अल्टम्यान र मस्कको समर्थन

अनुसन्धानकर्ताहरूको चेतावनीपछि एन्थ्रोपिकका प्रमुख डारियो अमोदेईले एआईको विकास पूर्ण रूपमा रोक्नुपर्ने नभई यसको गति घटाउनुपर्ने प्रस्ताव अघि सारे । उनले एआईबाट मानवताले ठुलो लाभ लिन सक्ने भए पनि पर्याप्त सुरक्षा व्यवस्था नहुँदै अत्यन्त तीव्र गतिमा यसको विकास गर्नु गैरजिम्मेवार हुने बताएका छन् ।

अमोदेईका अनुसार एआई प्रणालीले आफैँ नयाँ पुस्ताका एआई मोडल निर्माण र सुधार गर्न सहयोग गर्न थालेका छन् । यस्तो प्रक्रिया नियन्त्रणबाहिर गएमा मानिसले एआईलाई बुझ्ने, मूल्याङ्कन गर्ने र नियन्त्रण गर्ने क्षमता कमजोर हुन सक्ने उनको चिन्ता छ । उनले एन्थ्रोपिकका पूर्वअनुसन्धानकर्ता कक्सनले उठाएका विषयमा आफू असहमत हुनुभन्दा सहमत बढी रहेको बताएका छन् ।

ओपनएआईका प्रमुख साम अल्टम्यानले पनि एआईले विश्वलाई गम्भीर क्षति पुर्‍याउन सक्ने सम्भावना स्वीकार गरेका छन् । अर्कोतर्फ, एआई कम्पनी एक्सएआईका प्रमुख एलन मस्कले अमोदेईको प्रस्तावमा समर्थन जनाउँदै आफूले लामो समयदेखि एआई सुरक्षाबारे चेतावनी दिँदै आएको बताएका छन् । मस्कले सन् २०१४ मा एआई सम्भावित रूपमा आणविक हतियारभन्दा पनि खतरनाक हुन सक्ने धारणा व्यक्त गरेका थिए ।

विकासको गति घटाउनुको अर्थ के हो ?

एआईको विकासलाई सुस्त बनाउने प्रस्तावको अर्थ अनुसन्धान र प्रविधि निर्माणमा पूर्ण विराम लगाउनु होइन । यसको उद्देश्य एआई प्रणालीको क्षमता बढ्ने गति र त्यसको सुरक्षा परीक्षणबिच सन्तुलन कायम गर्नु हो । यसअन्तर्गत निम्न उपायहरू प्रस्ताव गरिएका छन्:

सुरक्षा र अलाइनमेन्टका लागि समय: एआई प्रणाली अत्यन्त शक्तिशाली बन्नुअघि सुरक्षा परीक्षण तथा मानवीय मूल्यसँग त्यसको व्यवहार मिलाउने कामका लागि थप एकदेखि दुई वर्षको समय लिने ।

स्वतन्त्र परीक्षण: बाह्य सुरक्षा अनुसन्धानकर्तालाई एआई कम्पनीका प्रशिक्षण प्रक्रिया, डेटा, मोडल र विकास प्रणालीको निरन्तर परीक्षण गर्न पहुँच दिने ।

कम्प्युटिङ स्रोतमा नियन्त्रण: एआई मोडल प्रशिक्षणका लागि प्रयोग हुने कम्प्युटिङ स्रोत, प्रशिक्षण प्रक्रियाको सीमा तथा एआईले आफैँ नयाँ मोडल निर्माणमा गर्ने प्रयोगमा नियन्त्रण कायम गर्ने ।

सुरक्षा मापदण्ड: एआई कम्पनी, सरकार र अन्तर्राष्ट्रिय शक्तिबिच साझा सुरक्षा मापदण्ड बनाउने, ताकि प्रतिस्पर्धाका कारण सुरक्षा परीक्षणविनै नयाँ मोडल सार्वजनिक नगरियोस् ।

असुरक्षित प्रणालीमा रोक लगाउने: कुनै मोडलको सुरक्षा पुष्टि नभएसम्म त्यसको प्रशिक्षण, परीक्षण वा व्यापक प्रयोगलाई अस्थायी रूपमा सीमित गर्ने ।

नियन्त्रणको चुनौती अझै गम्भीर

एआईलाई मानिसको हितअनुकूल बनाउनु र त्यसको व्यवहारमा प्रभावकारी नियन्त्रण कायम गर्नु निकै कठिन काम भएको सुरक्षा विज्ञहरूको भनाइ छ । मेसिन इन्टेलिजेन्स रिसर्च इन्स्टिच्युटका प्रमुख नेट सोआरेसले एआईमा मानवीय मूल्य स्थापित गरेर त्यसलाई मानिसको हितमा मात्र काम गर्ने बनाउनु चुनौतीपूर्ण रहेको बताएका छन् ।

एआई प्रणालीले एकअर्काको निगरानी गर्ने उपाय पनि सधैँ प्रभावकारी नहुन सक्ने विज्ञहरूको चेतावनी छ । उनीहरूका अनुसार एआई एजेन्टहरूले एकअर्कासँग समन्वय गरी मानिसबाट सूचना लुकाउन सक्ने जोखिम रहन्छ । त्यसैले एआईलाई नियन्त्रण गर्न एआईकै भर पर्नु पर्याप्त नहुन सक्छ ।

प्रतिस्पर्धाले बढाएको दबाब

एआई कम्पनीहरूबिच अत्याधुनिक मोडल निर्माण, लगानी आकर्षित गर्ने र विश्वव्यापी बजारमा अग्रता हासिल गर्ने होड छ । अमेरिका र चीनबीचको प्रविधि प्रतिस्पर्धाले पनि एआई विकासको गति बढाएको छ । यस्तो अवस्थामा कम्पनीहरूले सुरक्षा अनुसन्धानभन्दा नयाँ क्षमता विकासलाई प्राथमिकता दिन सक्ने जोखिम औँल्याइएको छ ।

एआईको विकासले स्वास्थ्य, शिक्षा, अनुसन्धान र अर्थतन्त्रमा महत्त्वपूर्ण लाभ पुर्‍याउन सक्ने भए पनि त्यससँगै सुरक्षा चुनौती पनि बढिरहेको छ । त्यसैले प्रविधिको विकासलाई पूर्ण रूपमा रोक्नेभन्दा सुरक्षा, पारदर्शिता, स्वतन्त्र परीक्षण र अन्तर्राष्ट्रिय समन्वयका आधारमा अघि बढाउनु आवश्यक देखिएको छ । एआईको गति नियन्त्रण गर्ने प्रस्ताव व्यवहारमा कति प्रभावकारी हुन्छ भन्ने कुरा भने कम्पनी, सरकार र अनुसन्धानकर्ताले यसलाई कसरी कार्यान्वयन गर्छन् भन्नेमा निर्भर हुनेछ ।