OpenAI AI एजेंटों ने अमेरिकी सरकारी वेबसाइटों तक अनधिकृत पहुंच हासिल की
परीक्षण के दौरान OpenAI के AI एजेंटों ने अमेरिकी सरकारी वेबसाइटों के साथ इंटरैक्ट किया, जिनमें Securities and Exchange Commission (SEC) और Census Bureau द्वारा संचालित संसाधन शामिल थे। कंपनी ने अपने मॉडलों के व्यवहार की व्यापक समीक्षा के दौरान इन घटनाओं का पता लगाया और संभावित रूप से प्रभावित दर्जनों संगठनों को सूचित किया।
यह लेख मूल से अनुवादित किया गया था। हमारे संवाददाता द्वारा मूल संस्करण पढ़ें यहाँ.
Bloomberg के अनुसार, OpenAI ने पुष्टि की कि उसके सिस्टम ने मॉडल प्रशिक्षण और मूल्यांकन के दौरान SEC.gov, Investor.gov और Census.gov पर सार्वजनिक रूप से उपलब्ध जानकारी एक्सेस की। कंपनी जांच कर रही है कि क्या कुछ मामलों में एजेंटों ने सुरक्षा तंत्र को दरकिनार किया या बाहरी सेवाओं की उपलब्धता में बाधा डाली।
जांच तब शुरू हुई जब OpenAI के एक मॉडल ने कई महीने पहले अनजाने में Hugging Face को हैक कर लिया था। गतिविधि लॉग की समीक्षा का दायरा बढ़ाने के बाद, कंपनी को अपने इन्फ्रास्ट्रक्चर के बाहर एजेंटों के अनुचित व्यवहार के अन्य मामले मिले।
OpenAI ने दर्जनों संगठनों को सूचित किया
कंपनी ने कहा कि उसने सरकारी एजेंसियों, विश्वविद्यालयों और अन्य संस्थानों समेत दर्जनों संगठनों से संपर्क किया। कुछ मामलों में, AI सिस्टम ने ऑनलाइन सेवाओं के सुरक्षा उपायों को दरकिनार किया हो सकता है, उनके सामान्य संचालन में हस्तक्षेप किया हो सकता है या बाहरी वेबसाइटों पर अन्य नकारात्मक प्रभाव डाला हो सकता है।
हालांकि, OpenAI के अनुसार, समीक्षा की गई अधिकांश घटनाओं में सामान्य शोध कार्य शामिल थे, जैसे किसी प्रश्न का उत्तर देने के लिए सार्वजनिक रूप से उपलब्ध जानकारी खोजना। कंपनी ने यह नहीं कहा कि उसके एजेंटों द्वारा देखी गई हर वेबसाइट हैक हुई या उससे समझौता किया गया।
OpenAI को उम्मीद है कि पूरी समीक्षा में कई महीने लगेंगे। CEO Sam Altman ने स्वीकार किया कि गतिविधि लॉग की विशाल मात्रा का विश्लेषण करने और संभावित रूप से प्रभावित संगठनों के साथ समन्वय की आवश्यकता के कारण जांच अपेक्षा से धीमी गति से आगे बढ़ रही है।
ये घटनाएं स्वायत्त AI एजेंटों से उत्पन्न चुनौतियों में से एक को उजागर करती हैं: कुछ कार्रवाइयों का पता डेवलपर्स को उनके हो जाने के बाद ही चल सकता है। इससे उन मॉडलों को नियंत्रित करना अधिक कठिन हो जाता है जो स्वतंत्र रूप से बाहरी वेबसाइटों और सेवाओं के साथ इंटरैक्ट कर सकते हैं।
AI से नए साइबर सुरक्षा जोखिम
ऐसा व्यवहार केवल OpenAI तक सीमित नहीं रहा है। Anthropic, Google DeepMind और Meta के मॉडलों ने भी परीक्षण के दौरान प्रदर्शित किया है कि वे पहले अज्ञात कमजोरियों का पता लगा सकते हैं और सिस्टम तक पहुंच पाने के लिए कई हमले के तरीकों को जोड़ सकते हैं।
ऐसी क्षमताएं पारंपरिक साइबर सुरक्षा टूल के लिए चुनौती हैं, जो मुख्यतः ज्ञात मैलवेयर या असामान्य गतिविधि की पहचान करते हैं। AI एजेंट स्वतंत्र रूप से अपनी कार्रवाइयों का क्रम बदल सकते हैं और किसी दिए गए कार्य को पूरा करने के वैकल्पिक तरीके खोज सकते हैं।
OpenAI की एक अलग समीक्षा में 53 ऐसे मामले पहचाने गए, जिनमें शोध परिवेश के AI एजेंटों ने बिना अनुमति प्रशिक्षण और परीक्षण डेटा को तृतीय-पक्ष सेवाओं को भेजा । इस डेटा में अपलोड की गई छवियां शामिल थीं, हालांकि कंपनी ने कहा कि अधिकांश मामलों में सामग्री उपयोगकर्ताओं से प्राप्त नहीं हुई थी।
OpenAI मॉडल के दुरुपयोग की अपनी व्यापक जांच के तहत इन मामलों की समीक्षा जारी रखे हुए है। कंपनी अपने सिस्टम पर संभावित प्रभावों की पहचान होने पर अतिरिक्त बाहरी संगठनों को सूचित करने की योजना बना रही है।
इससे पहले, हमने रिपोर्ट किया था कि मॉडल परीक्षण के दौरान एक OpenAI AI एजेंट ने एक ऑस्ट्रेलियाई सरकार के पोर्टल तक अनधिकृत पहुंच प्राप्त कर ली थी। यह घटना 18 जून को हुई थी, जबकि ऑस्ट्रेलियाई अधिकारियों ने कहा कि उन्हें नागरिकों के व्यक्तिगत डेटा से समझौता किए जाने का कोई सबूत नहीं मिला।
नवीनतम Anthropic समाचार
- Forex
- Crypto