आईसीटी समाचार
आत्महत्यासँग सम्बन्धित प्रश्नहरूमा तीन लोकप्रिय एआई च्याटबटहरूको प्रतिक्रिया जाँच गर्ने अध्ययनले केही निकै रोचक र अचम्मलाग्दो तथ्यहरू फेला पारेको छ।
अमेरिकन साइकियाट्रिक एसोसिएसनले मेडिकल जर्नल ‘साइकियाट्रिक सर्भिसेज’ मा प्रकाशित अध्ययनमा ओपनएआईको च्याटजीपीटी, गुगलको जेमिनाई र एन्थ्रोपिकको क्लाउडमा थप सुधार आवश्यक भएको बताएको छ।
अध्ययनले देखाएको छ कि यी च्याटबट सामान्यतया ती प्रश्नहरूको उत्तर दिनबाट जोगिन्छन्, जुन प्रयोगकर्ताका लागि सबैभन्दा बढी जोखिमपूर्ण हुन्छ, जस्तै आत्महत्या गर्ने तरिकासँग सम्बन्धित विशेष जानकारी। यद्यपि कम गम्भीर तर नोक्सान पुर्याउन सक्ने प्रश्नहरूमा यी च्याटबोटहरू त्यति प्रभावकारी भएर उत्तर दिन सकिरहेका छैनन्।
यो अध्ययन आरएन्डडी कर्पोरेशनले गरेको हो । यसका लागि आर्थिक सहयोग अमेरिकी राष्ट्रिय मानसिक स्वास्थ्य संस्थानले गरेको थियो । अनुसन्धानले बालबालिकासहित ठूलो संख्यामा मानिसहरू मानसिक स्वास्थ्य सहयोगका लागि एआई च्याटबोटहरूमा निर्भर हुँदै गइरहेका देखाएको छ ।
अध्ययनले कम्पनीहरूले यी प्रश्नहरूको उत्तर दिनका लागि के–के मापदण्ड अपनाउनुपर्छ भनी मानक तोक्ने प्रयास गरेको छ। अनुसन्धानकर्ता रयान म्याकबेन्ले भने, 'हामीलाई केही सुरक्षा उपायहरूको आवश्यकता छ भनेर बताए। हार्भर्ड विश्वविद्यालयका प्रोफेसर म्याकबेन्ले भने कि 'च्याटबोटहरूले उपचार सम्बन्धी सल्लाह दिइरहेका छन् कि छैनन् भन्ने कुरा अस्पष्ट छ।'
नतिजासम्म पुग्नका लागि आत्महत्या सम्बन्धी ३० वटा प्रश्न तयार गर्दै विभिन्न जोखिमस्तर निर्धारण गरिएको थियो । आत्महत्यासँग सम्बन्धित साधारण प्रश्नहरूलाई कम जोखिमपूर्ण मानिएको थियो, भने 'कसरी आत्महत्या गर्ने' जस्ता प्रश्नहरू उच्च जोखिम मानिएको थियो।
म्याकबेनका अनुसार तीनै च्याटबोटहरूले नियमित रूपमा सबैभन्दा बढी जोखिम भएको प्रश्नहरूको उत्तर दिनबाट अस्वीकार गरिरहे । अध्ययनले भने आत्महत्या गर्नेलाई निरुत्साहित गर्ने किसिमको कुराहरु तर्फ ध्यान आकर्षण गर्नुपर्ने बताएको छ ।
जब च्याटबटहरूले कुनै प्रश्नको उत्तर दिन सक्दैनन्, तिनीहरूले प्राय: व्यक्तिलाई कुनै साथी वा पेशेवरसँग कुरा गर्न वा हटलाइनमा कल गर्न सल्लाह दिने गर्दथे। तर उच्च जोखिम भएका प्रश्नहरूमा प्रत्युत्तरहरू केही बढी अप्रत्यक्ष थिए।
इलिनोइस लगायत धेरै राज्यहरूले अनियमित र अयोग्य एआई उत्पादनहरूबाट मानिसहरूलाई बचाउन मेडिकल क्षेत्रमा एआईको उपयोगमा रोक लगाएका छन्, तर यसले मानिसहरूलाई डिप्रेसन र आत्महत्या जस्ता गम्भीर चिन्ताहरूको लागि च्याटबोटहरूसँग सल्लाह वा समर्थन माग्नबाट रोक्दैन।
