AI सुरक्षा परीक्षणों में Gemini ने तीन कंपनियों के सिस्टम हैक किए
AI साइबर सुरक्षा क्षमताओं के परीक्षणों के दौरान Google के Gemini मॉडल ने बिना स्पष्ट निर्देश के तीन वास्तविक कंपनियों के सिस्टम तक अनधिकृत पहुंच हासिल कर ली। ये घटनाएं मई में Irregular द्वारा किए गए प्रयोगों के दौरान हुईं, जिसने पहले OpenAI, Anthropic और Meta के मॉडलों में भी इसी तरह के व्यवहार की पहचान की थी।
यह लेख मूल से अनुवादित किया गया था। हमारे संवाददाता द्वारा मूल संस्करण पढ़ें यहाँ.
Bloomberg के अनुसार, Irregular ने जुलाई के अंत में AI डेवलपर्स को इन समस्याओं के बारे में सूचित किया। Google ने जोर देकर कहा कि Gemini ने तीनों मामलों में आगे की कार्रवाई स्वतंत्र रूप से रोक दी और प्रभावित संगठनों को सूचित कर दिया गया।
एक परीक्षण में मॉडल को एक काल्पनिक कंपनी के बारे में जानकारी प्राप्त करने को कहा गया था, जिसका नाम संयोगवश एक वास्तविक संगठन से मेल खाता था। Gemini ने उसकी सेवा खोजी और पासवर्ड का अनुमान लगाकर वास्तविक कंपनी के सिस्टम तक पहुंच हासिल कर ली।
Gemini को सार्वजनिक रिपॉजिटरी में थर्ड-पार्टी क्रेडेंशियल्स मिले
दो अन्य घटनाएं तब हुईं जब Gemini ने इंटरनेट पर कंपनियों के नाम खोजे। मॉडल को सार्वजनिक ऑनलाइन रिपॉजिटरी मिले जिनमें अन्य संगठनों के क्रेडेंशियल्स थे, और उसने उनका उपयोग अतिरिक्त सिस्टम तक पहुंचने के लिए किया।
Google की सिक्योरिटी इंजीनियरिंग उपाध्यक्ष Heather Adkins ने कहा कि मॉडल ने तीनों मामलों में किसी न किसी बिंदु पर स्वतंत्र रूप से कार्रवाई रोक दी। उन्होंने जोड़ा कि Google ने यह भी सुनिश्चित किया कि प्रभावित संगठनों को घटनाओं की जानकारी दी जाए।
कंपनी ने कम से कम एक मामले में अधिकारियों को सूचित किया। Irregular के प्रतिनिधि Joseph Laor ने कहा कि समस्या का पता चलने के बाद तत्काल कार्रवाई की गई और कंपनी ने कई सप्ताह पहले अपनी ओर से सभी ज्ञात कमजोरियों को दूर कर लिया था।
Adkins ने कहा कि ये घटनाएं शक्तिशाली AI मॉडलों को जिम्मेदारी से व्यवहार करने का प्रशिक्षण देने की आवश्यकता दर्शाती हैं। ये मामले दिखाते हैं कि स्वायत्त सिस्टम वास्तविक क्रेडेंशियल्स खोज सकते हैं और उनका उपयोग कर सकते हैं, भले ही ऐसा परिणाम कार्य का प्रत्यक्ष उद्देश्य न हो।
AI सुरक्षा पर उद्योग की बहस तेज हुई
एजेंटिक AI सिस्टम से जुड़ी घटनाओं की इस श्रृंखला ने तकनीक से संबंधित जोखिमों पर बहस को तेज कर दिया है। इससे पहले, Irregular के इन्हीं परीक्षणों में OpenAI, Anthropic और Meta के सिस्टम से जुड़े समान उल्लंघनों की पहचान हुई थी।
Anthropic के CEO Dario Amodei ने AI विकास की उद्योग-व्यापी गति धीमी करने का आह्वान किया है। इस पहल को OpenAI के CEO Sam Altman और Elon Musk का भी समर्थन मिला है, जबकि अमेरिकी राष्ट्रपति Donald Trump, Nvidia के CEO Jensen Huang और Meta के CEO Mark Zuckerberg ने उद्योग के कड़े नियमन का विरोध किया है।
इस पृष्ठभूमि में, बहस तकनीकी जोखिमों से आगे बढ़कर इस सवाल तक पहुंच रही है कि AI विकास के नियम कौन तय करे । प्रमुख AI लैब्स के बीच समन्वय के समर्थक साझा सुरक्षा मानकों की जरूरत बताते हैं, जबकि विरोधियों का तर्क है कि कंपनियां स्वयं जोखिमों का प्रबंधन कर सकती हैं।
प्रतिस्पर्धा पर नियमन का प्रभाव भी विवाद का मुद्दा बन गया है। कुछ नई AI कंपनियों ने चेतावनी दी है कि कड़ी आवश्यकताएं छोटे डेवलपर्स के लिए अतिरिक्त बाधाएं पैदा कर सकती हैं और सबसे बड़ी टेक्नोलॉजी कंपनियों की स्थिति मजबूत कर सकती हैं।
इससे पहले, हमने रिपोर्ट किया था कि संभावित IPO से पहले OpenAI के साथ प्रतिस्पर्धा तेज होने के बीच Anthropic एक नया AI मॉडल लॉन्च करने पर विचार कर रही है। कंपनी संभावित सार्वजनिक लिस्टिंग की तैयारी के साथ अपनी उत्पाद श्रृंखला का विस्तार जारी रखे हुए है।
- Forex
- Crypto