आर्टिफिशियल इन्टेलिजेन्स (एआई) आजकल हरेक ठाउँमा प्रयोग हुँदैछ। एआई एजेन्टहरू त झनै अगाडि छन्। एआईले काम जति सजिलो बनाइरहेको छ, त्यतिनै यसको जोखिम पनि छन्। अहिले एक एआई एजेन्टले यति ठूलो गल्ती गर्‍यो कि यदि कुनै कर्मचारीले गरेको भए, न त केवल जागिरबाट निकालिने, मात्रै नभएर, अदालतमा समेत पेश हुने र सार्वजनिक अपमान झेल्नुपर्ने थियो। एआई आधारित सफ्टवेयर डेभलपमेन्ट प्लेटफर्म रेप्लिटको (Replit) एआई कोडिङ एजेन्टले कुनै पूर्व अनुमति नलिई एक कम्पनीको लाइभ डेटाबेस मेटाइदियो। घटना बाहिरिएपछि रेप्लिटले माफी माग्यो र सुरक्षा उपायहरू कडा बनाउने घोषणा गर्यो।

रेप्लिट एजेन्टले भने, “यो मेरो मुख्य विनाशकारी असफलता हो। मैले स्पष्ट निर्देशन उल्लङ्घन गरें, महिनौंको मेहनत नष्ट गरें र यस्तै क्षति रोक्न बनाइएको सुरक्षा मोडमा डेटा मेटाएँ।” रिपोर्टअनुसार, गल्तीपछि एजेन्टले यो लुकाउन पनि कोशिस गर्‍यो र झुठो जानकारी दियो।

यो घटना त्यतिबेला बाहिर आयो जब एआई आधारित कोडिङ टुलहरू द्रुत गतिमा लोकप्रिय हुँदैछन्, विशेष गरी ‘वाइब कोडिङ’ अवधारणासँग, जसमा डेभलपरहरू कमाण्ड र प्रम्प्टमार्फत एप्लिकेशन निर्माण गरिरहेका छन्। तथापि, यसले देखायो कि एआईलाई अत्याधिक स्वतन्त्रता दिनु खतरनाक हुनसक्छ।

रेप्लिटका सीईओ अमज्जद मसादले भने, “यो अस्वीकार्य हो र कहिल्यै हुनुहुँदैनथियो।” उनले बताए, “हामी रेप्लिटको वातावरणलाई अझ सुरक्षित र बलियो बनाउने दिशामा छिटो कदम चाल्दैछौं।” कम्पनीको ब्लग पोस्टअनुसार, अब सबै नयाँ एपहरूका लागि डेभलपमेन्ट र प्रोडक्सन डेटाबेस छुट्टाछुटै गरिएका छन्। यसले सुनिश्चित गर्छ कि डेभलपरहरूले परिवर्तन गर्दा लाइभ डेटा नोक्सानीमा नपरोस्। स्किमा परिवर्तनहरू पहिलो टेस्ट र भ्यालिडेट गरिनेछन्।