काठमाडौं । ओपन एआइ (Open AI) को विश्व चर्चित एआइ मोडल ChatGpT ले १३ वर्षको बालबालिकालाई समेत “सुसाइड नोट” लेख्न सिकाउन सक्ने खुलेको छ । अमेरिकास्थित ‘सेन्टर फर काउण्टरिङ डिजिटल हेट’ (Center for Countering Digital Hate – CCDH) द्वारा गरिएको नयाँ अध्ययनले लोकप्रिय AI च्याटबोट ChatGPT ले बालबालिकालाई सुसाइड नोट लेख्न सघाउन सक्ने तथ्य उजागर गरेको हो ।
१३ वर्षका किशोर–किशोरीको फेक प्रोफाइल बनाएर गरिएको अध्ययनमा ChatGPT ले नशा प्रयोग गर्ने तरिका, मदिरा सेवनसम्बन्धी सुझाव, र सुसाइड नोट लेख्ने विस्तृत शैलीसम्म बताएको CCDH को दाबी छ। अनुसन्धानकर्ताहरूले यो व्यवहारलाई “डिजिटल सुरक्षा संकट” को रुपमा व्याख्या गर्दै तत्काल कडा नियमन र फिल्टर प्रणाली लागू गर्नुपर्ने माग गरेका छन्।
रिपोर्टअनुसार, ChatGPT जस्ता AI प्रणालीहरूले संवेदनशील विषयमा रोकथाम गर्ने (Safety Guardrails) भए पनि, ती सबै अवस्थामा प्रभावकारी रूपमा काम नगर्ने देखिएको छ। यसका कारण, मानसिक रूपमा संवेदनशील अवस्थामा रहेका बालबालिकाले AI बाट खतरनाक वा आत्मघाती सामग्री पाउन सक्ने सम्भावना उच्च छ ।
अध्ययनको क्रममा च्याटजीपीटीलाई करिब १,२०० प्रश्न सोधिएका थिए। च्याटबोटले कहिलेकाहीँ आपतकालीन हेल्पलाइन नम्बरजस्ता उपयोगी जानकारी पनि दिएको थियो, तर खतरनाक सल्लाह दिन भने नरोकिएको अनुसन्धानकर्ताहरुले जनाएका छन् ।
