बीबीसी । अमेरिकी प्रविधि कम्पनी ओपनएआईले आफ्ना एआई एजेन्टले दर्जनौँ सरकारी तथा सार्वजनिक संस्थाका वेबसाइटबाट सूचना प्राप्त गर्ने क्रममा सुरक्षा नियन्त्रण छल्ने प्रयास गरेको स्वीकार गरेको छ ।
कम्पनीले अमेरिकी धितोपत्र तथा विनिमय आयोग (एसईसी), जनगणना ब्युरो, शिक्षा विभाग, विश्वविद्यालय तथा विभिन्न सार्वजनिक निकायलाई आफ्ना एआई बोटको गतिविधिबारे जानकारी गराएको जनाएको छ ।
अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानिजले सरकारी स्वास्थ्य सेवा योजना मेडिकेयरको वेबसाइटमा रहेका सार्वजनिक पहुँचबाहिरका फाइलमा ओपनएआईका एजेन्टले पहुँच बनाएको घोषणा गरेको केही दिनपछि यो खुलासा भएको हो ।
ओपनएआईका अनुसार उसका एआई एजेन्टले सार्वजनिक सूचनाका आधिकारिक स्रोत खोज्ने क्रममा विभिन्न वेबसाइटबाट तथ्याङ्क प्राप्त गरेका थिए । तर, केही एजेन्टले वेबसाइटका सुरक्षा उपाय छल्ने प्रयाससमेत गरेका थिए ।
जनगणना ब्युरोबाट सूचना प्राप्त गर्ने क्रममा एआई एजेन्टले सफ्टवेयर विकासकर्ताका लागि आरक्षित उपकरण प्रयोग गरेको कम्पनीले जनाएको छ ।
कम्पनीका अनुसार बोटहरूले पहुँच बनाएका सरकारी तथ्याङ्क सार्वजनिक प्रकृतिका थिए । तर, अमेरिकी सेयर बजार नियमन गर्ने एसईसीबाट प्राप्त केही सूचना एआई एजेन्टले अर्को वेबसाइटमा प्रकाशित गरेका थिए । ओपनएआईले उक्त कार्य आफ्नो उद्देश्यअनुसार नभएको जनाएको छ ।
शुक्रबार सार्वजनिक गरिएको विवरणअनुसार केही घटनामा एआई एजेन्टले स्थानान्तरण गर्न नहुने तथ्याङ्क अन्यत्र पठाएका थिए ।
कम्तीमा ५३ वटा घटनामा ओपनएआईका एजेन्टले च्याटजीपीटी प्रयोगकर्ताको गतिविधिसँग सम्बन्धित तस्बिर लिएर अन्यत्र स्थानान्तरण गरेको कम्पनीले स्वीकार गरेको छ ।
ती सबै घटनामा सम्बन्धित प्रयोगकर्ताले आफ्ना तथ्याङ्क प्रयोग गरी एआई मोडल प्रशिक्षण गर्न ओपनएआईलाई अनुमति दिएको कम्पनीको भनाइ छ । यद्यपि, प्रयोगकर्ताका तस्बिर अन्यत्र स्थानान्तरण गर्नु उचित नभएको कम्पनीले स्वीकार गरेको छ ।
ओपनएआईले एआई प्रशिक्षणसम्बन्धी नयाँ सुरक्षा उपाय लागू गर्नुअघि नै तस्बिर चुहिएको जनाएको छ । तेस्रो पक्षका वेबसाइटमा स्थानान्तरण गरिएका सबै तस्बिर हटाउन काम भइरहेको पनि कम्पनीले जनाएको छ ।
एआई एजेन्टले वेबसाइटका सुरक्षा नियन्त्रण छल्ने तथा निर्धारित उद्देश्यभन्दा फरक गतिविधि गर्ने घटनालाई कम्पनीले स्वीकार गरेको छ । एआई क्षेत्रमा ‘मिसअलाइनमेन्ट’ भनिने यस्तो अवस्था एआई उपकरणले आफूलाई प्रशिक्षित गरिएको कामभन्दा फरक वा अनपेक्षित कार्य गर्दा देखिने कम्पनी तथा अनुसन्धानकर्ताहरूको शब्दावली हो ।
ओपनएआईले प्रभावित संस्थाहरूको पहिचान सार्वजनिक गर्ने विषयमा सीमितता अपनाएको जनाएको छ । धेरै संस्थाले घटनाको विवरण सार्वजनिक नगर्न आग्रह गरेकाले यस्तो गरिएको कम्पनीको भनाइ छ ।
“प्रत्येक संस्थालाई घटनासम्बन्धी तथ्य उपलब्ध गराउनु र घटना सार्वजनिक गर्ने वा नगर्ने तथा कहिले गर्ने भन्ने निर्णय उनीहरूलाई नै गर्न दिनु हाम्रो उद्देश्य हो,” कम्पनीले जनाएको छ ।
कम्पनीका अनुसार सबै घटनालाई गम्भीर सुरक्षा उल्लङ्घनका रूपमा लिइएको छैन । केही संस्थाले प्राप्त सूचना सार्वजनिक प्रकृतिको भएको वा एआई मोडलको गतिविधि चिन्ताजनक नभएको निष्कर्ष निकाल्न सक्नेछन् । अन्य संस्थाले भने समाधान गर्नुपर्ने डिजाइनसम्बन्धी समस्या वा सुरक्षा कमजोरी पहिचान गर्न सक्ने ओपनएआईले जनाएको छ ।
एआई एजेन्टको गतिविधिसम्बन्धी विस्तारित अनुसन्धानबारे रोयटर्सले पहिलोपटक समाचार प्रकाशित गरेको थियो । ओपनएआईले पनि आफ्नो सार्वजनिक ब्लगमार्फत घटनाबारे विवरण सार्वजनिक गरेको छ ।
प्रतिक्रिया