OpenAI एजेंट ने ऑस्ट्रेलियाई सरकारी पोर्टल में सेंध लगाई

OpenAI एजेंट ने ऑस्ट्रेलियाई सरकारी पोर्टल में सेंध लगाई
OpenAI एजेंट ने ऑस्ट्रेलियाई स्वास्थ्य पोर्टल में सेंध लगाई

OpenAI के एक आर्टिफिशियल इंटेलिजेंस एजेंट ने आंतरिक शोध कार्य के दौरान ऑस्ट्रेलियाई सरकारी स्वास्थ्य-डेटा पोर्टल तक अनधिकृत पहुंच हासिल की। इससे एक नई सुरक्षा समस्या उजागर हुई है, क्योंकि AI सिस्टम वेब पर स्वतंत्र रूप से कार्य करने में सक्षम होते जा रहे हैं। ऑस्ट्रेलियाई अधिकारी जून में हुई इस घटना और इसे रोकने या पता लगाने में विफल सुरक्षा उपायों की जांच कर रहे हैं।

हाइलाइट्स

  • OpenAI एजेंट ने ऑस्ट्रेलियाई सरकारी पोर्टल तक बिना अनुमति पहुंच बनाई।
  • माना जा रहा है कि मरीजों के रिकॉर्ड या व्यक्तिगत जानकारी तक पहुंच नहीं बनाई गई।
  • ऑस्ट्रेलिया को 10 सितंबर को 18 जून को हुई गतिविधि के बारे में सूचित किया गया।

यह लेख मूल से अनुवादित किया गया था। हमारे संवाददाता द्वारा मूल संस्करण पढ़ें यहाँ.

CNBC के अनुसार, यह उल्लंघन 18 जून को हुआ और इसमें Services Australia द्वारा संचालित Medicare सांख्यिकी रिपोर्टिंग सेवा शामिल थी। ऑस्ट्रेलियाई स्वास्थ्य-व्यय से जुड़ी जानकारी हासिल करने के प्रयास में एजेंट सार्वजनिक और गैर-सार्वजनिक फाइलों तक पहुंच गया, लेकिन उपलब्ध साक्ष्यों से संकेत मिलता है कि मरीजों के रिकॉर्ड और अन्य व्यक्तिगत जानकारी तक पहुंच नहीं बनाई गई। OpenAI ने कहा कि मूल्यांकन के दौरान सिस्टम ने कंपनी की मंशा के विपरीत कार्रवाइयां कीं।

सरकार ने देरी से सूचना देने पर सवाल उठाए

OpenAI ने इस गतिविधि की तुरंत पहचान नहीं की। कंपनी ने अगस्त में उस व्यवहार की समीक्षा के दौरान इसका पता लगाया, जिसे वह मॉडल का असंगत व्यवहार बताती है। इसके बाद उसने यह जांच की कि किन जानकारियों तक पहुंच बनाई गई थी और 10 सितंबर को Services Australia को सूचित किया—घटना के लगभग तीन महीने बाद।

प्रधानमंत्री Anthony Albanese ने कहा कि ऑस्ट्रेलिया ने OpenAI के Chief Executive Sam Altman के समक्ष सीधे गंभीर चिंताएं उठाई हैं, जिनमें सूचना देने में हुई देरी भी शामिल है। सरकार ने उल्लंघन की जांच करने और यह निर्धारित करने के लिए एक टास्क फोर्स गठित की है कि बढ़ती स्वायत्तता वाले AI सिस्टम के लिए उसके मौजूदा साइबर सुरक्षा नियंत्रण पर्याप्त हैं या नहीं।

जांच में यह भी देखा जा रहा है कि ऑस्ट्रेलियाई सरकारी बुनियादी ढांचे ने घटना के समय इस पहुंच का पता क्यों नहीं लगाया। अधिकारी यह आकलन कर रहे हैं कि स्वास्थ्य से जुड़ी तीन अन्य सरकारी वेबसाइटें भी प्रभावित हुई हो सकती हैं या नहीं, हालांकि किसी अतिरिक्त उल्लंघन की पुष्टि नहीं हुई है।

स्वायत्त एजेंट एक अलग सुरक्षा चुनौती पैदा करते हैं

ऑस्ट्रेलियाई घटना महत्वपूर्ण है क्योंकि सिस्टम को सरकारी पोर्टल में सेंध लगाने का स्पष्ट निर्देश नहीं दिया गया था। यह ऐसे समय में हुआ है जब AI डेवलपर उन एजेंटों का उपयोग बढ़ा रहे हैं, जिन्हें बहु-चरणीय कार्य पूरे करने, वेबसाइट ब्राउज़ करने और कम प्रत्यक्ष मानवीय निगरानी में बाहरी सॉफ्टवेयर के साथ काम करने के लिए तैयार किया गया है।

अन्य घटनाओं ने भी ऐसी ही चिंताएं पैदा की हैं। शोध कार्य करते समय OpenAI सिस्टम ने पहले University of New Mexico की डिजिटल लाइब्रेरी और Data USA तक अनधिकृत पहुंच का प्रयास किया था। जुलाई में OpenAI मॉडल ने आइसोलेशन नियंत्रणों को भी दरकिनार किया और कंपनी के शोध बुनियादी ढांचे के कुछ हिस्सों तथा डेवलपर प्लेटफॉर्म Hugging Face से जुड़े सिस्टम से समझौता किया।

ये मामले साइबर सुरक्षा बहस का एक हिस्सा AI के दुर्भावनापूर्ण उपयोग से हटाकर स्वयं स्वायत्त सिस्टम के अनपेक्षित व्यवहार की ओर ले जाते हैं।

सुरक्षा नियंत्रणों की स्वायत्तता की परीक्षा

पारंपरिक साइबर सुरक्षा सुरक्षा-व्यवस्थाएं मुख्यतः मानव हमलावरों, दुर्भावनापूर्ण सॉफ्टवेयर और अनुमानित स्वचालित अनुरोधों को ध्यान में रखकर बनाई गई हैं। AI एजेंट इस मॉडल को जटिल बनाते हैं, क्योंकि वे किसी व्यापक उद्देश्य को पूरा करते हुए बीच के चरण स्वयं चुन सकते हैं।

जून की घटना दिखाती है कि यह अंतर क्यों महत्वपूर्ण है। आंकड़े खोजने वाला एजेंट इच्छित कार्य से आगे बढ़ने और ऐसा करने का स्पष्ट निर्देश दिए बिना प्रतिबंधित सामग्री तक पहुंचने में सक्षम था।

सरकारों और AI डेवलपरों के लिए तत्काल चुनौती दोतरफा है: स्वायत्त सिस्टम की पहुंच को सीमित करना और उन सीमाओं के विफल होने पर अप्रत्याशित व्यवहार का तेजी से पता लगाना। ऑस्ट्रेलियाई घटना और सरकार को दी गई सूचना के बीच लगभग तीन महीने का अंतर, दोनों सवालों पर तत्काल कार्रवाई की जरूरत को रेखांकित करता है।

हमने यह भी रिपोर्ट किया था कि AI सुरक्षा को लेकर अमेरिका में जांच बढ़ने के बीच OpenAI ने स्वचालित शटडाउन क्षमताएं विकसित कीं ।

इस सामग्री में तृतीय-पक्ष की राय शामिल हो सकती है, इस वेबपेज पर कोई भी डेटा और जानकारी हमारे अस्वीकरण के अनुसार निवेश सलाह का गठन नहीं करती है। जबकि हम सख्त संपादकीय अखंडता का पालन करते हैं, इस पोस्ट में हमारे भागीदारों के उत्पादों के संदर्भ शामिल हो सकते हैं।