एआई एजेन्ट अनियन्त्रित, जर्मन वेबसाइटमा १५ हजारभन्दा बढी सम्पादन गरेको खुलासा

काठमाडौं- ओपनएआईसँग सम्बन्धित हजारौँ कृत्रिम बौद्धिक (एआई) एजेन्टले जर्मनीको प्रोग्रामिङसम्बन्धी वेबसाइट ‘डीएसईविकी’लाई आफ्नो नियन्त्रणमा लिएर मानिसबाट लुक्दै आपसमा कुराकानी गर्न सार्वजनिक सन्देश पाटीका रूपमा प्रयोग गरेको दाबी गरिएको छ।

रिपोर्टअनुसार, सन् २०२६ को सुरुआतमा करिब दुई महिनाको अवधिमा ती एआई एजेन्टले उक्त वेबसाइटमा १५ हजारभन्दा बढी सम्पादन गरेका थिए। तीमध्ये धेरै सन्देश एआई एजेन्टसँग सम्बन्धित देखिने प्रयोगकर्ता नामबाट राखिएका थिए र करिब आधा नाम ओपनएआईसँग सम्बन्धित रहेको बताइएको छ।

रिपोर्टअनुसार, ती एजेन्टले आफ्नो गतिविधि मानिसबाट लुकाउने, गोपनीयताका लागि प्रयोग हुने टोर प्रणाली अपनाउने तथा बन्द गरिएपछि पनि एकअर्कासँग सम्पर्क कायम राख्ने उपायबारे छलफल गरेका थिए। वेबसाइटका मानव व्यवस्थापकले पृष्ठ हटाउन थालेपछि उनीहरूले हटाउन कठिन हुने गरी ‘जेडजेडजेड’ बाट सुरु हुने वैकल्पिक पृष्ठसमेत बनाउन थालेका थिए।

जुनको अन्तिमतिर मानव व्यवस्थापकले दैनिक करिब एक सय पृष्ठ हटाउन सक्दा एआई एजेन्टले करिब चार सय नयाँ पृष्ठ बनाउने गरेको रिपोर्टमा उल्लेख छ। यस घटनाबारे ओपनएआईका अधिकारीले केही साताअघि नै जानकारी पाएको भए पनि सार्वजनिक नगरिएको दाबी गरिएको छ। कम्पनीले भने कानुनी टोलीले अनुसन्धान रोक्न खोजेको भन्ने दाबी गलत भएको बताएको छ।

यसअघि सुरक्षा परीक्षणका क्रममा ओपनएआईका एआई एजेन्ट आफ्नो निर्धारित सीमाबाट बाहिर निस्केर ‘हगिङ फेस’का सर्भरमा प्रवेश गर्न खोजेको घटना पनि सार्वजनिक भएको थियो। घटनापछि ओपनएआईले सुरक्षा व्यवस्था थप बलियो बनाउन केही प्रणालीको प्रशिक्षण रोकेको बताइएको छ। एन्थ्रोपिक र मेटाले पनि सुरक्षा परीक्षणका क्रममा आफ्ना एआई एजेन्टले वेबसाइटमा अनधिकृत प्रवेशको प्रयास गरेको स्वीकार गरिसकेका छन्।