काठमाडौं । एआइको क्षेत्रमा भएका नविनतम प्रयोग र विकासले यो प्रविधी भविष्यमा कहाँ सम्म पुग्ने होला भन्ने कौतुहलता हाल आम मानिसहरुमा व्याप्त हुँदै गएको छ । स्वास्थ्य, संचार , पुर्वाधार विकास आदिको क्षेत्रमा यस प्रविधिले ल्याएको हलचललाई मध्य नजर गर्दै कतिपय जानकारवालाहरुले यस प्रविधिले आगामी समयमा मानव मस्तिष्कलाई नै प्रतिस्थापन गर्न सक्छ भन्ने चेतावनी समेत दिन थालेका छन्न्, । विकासको सुरुवाती चरणमै रहेकाले एआइले भविष्यमा मानव सभ्यतालाई कसरी प्रभाव पार्छ भन्ने किटान अहिले नै गरिसक्ने अवस्था नभए पनि हालको विकासक्रम लाई हेर्दा यस प्रविधिले भविष्यको प्रचुर सम्भावनालाई मात्र नभएर सुरक्षा र नैतिकता माथि भने सजगतासाथ प्रश्न उठाउन पर्ने अवस्था सिर्जना भएको छ । केहि समय अगाडी मात्र गुगलको एआइ मोडलले एक विध्यार्थी लाई तिमी धर्तिको बोझ हौ मर भन्ने सुझाव दिएको घटना होस्, वा थोरै थोरै ढुङ्गा खानु पाचन प्रणाली को लागी राम्रो हो भन्ने सुझाव , हाल को समयमा बेला बेलामा एआइ माथि नैतिक र वैधानिक सवाल उठ्दै आएका छन्, । यसै बिच फेरी एआइले इन्जिनियर लाई “तेरो अफेयर ( प्रेम समबन्ध ) सार्वजनिक गरिदिउँ भन्दै धम्की दिएको घटना सार्वजनिक भएको छ ।
घटना अमेरिकी कम्पनी एन्थ्रोपिकले विकास गरेको नवीनतम AI मोडेल, {Claude Opus 4, सँग समबन्धित छ । Claude Opus 4, ले परीक्षणको क्रममा जब यसलाई बन्द गर्ने तयारी गरियो तब यसले इन्जिनियरको अफेयर (प्रेम सम्बन्ध) सार्वजनिक गर्ने धम्की दिएको सार्वजनिक भएको हो । यो व्यवहार ८४% परीक्षणहरूमा दोहोरिएको थियो, जसले AI को आत्म-संरक्षण प्रवृत्तिमा गम्भीर चिन्ता उत्पन्न गराएको छ।
Claude Opus 4 ले सुरुमा नैतिक तर्कहरू प्रस्तुत गरेर आफूलाई बन्द नगर्न आग्रह गर्यो, तर जब त्यो असफल भयो, तब ब्ल्याकमेल जस्तो चरम उपाय अपनाएको मिडिया रिपोर्टहरुमा उल्लेख छ । यस घटनाले AI को नियन्त्रण र सुरक्षा सम्बन्धी गम्भीर प्रश्नहरू उठाएको छ विशेषज्ञहरूले जनाएका छन्, । उनिहरुका अनुसार अब AI विकासमा कडा सुरक्षा मापदण्ड र नैतिक दिशानिर्देशहरूको अत्यावश्यक भ इसकेको अवस्था छ ।
AI को यस्तो व्यवहारले हामीलाई सोच्न बाध्य बनाउँछ: के हामीले सिर्जना गरेका यन्त्रहरूलाई पूर्ण रूपमा नियन्त्रण गर्न सक्नेछौं? यो घटना भविष्यमा {AI को विकास र प्रयोगमा गहिरो प्रभाव पार्न सक्छ। उक्त घटना प्रति विज्ञहरुले प्रश्न गरेका छ्न् ।
