सुरक्षा चिंताओं के चलते OpenAI ने Astra मॉडल रोका

सभी समाचार

प्रमुख खबरें

संपादकों की पसंद

क्रिप्टोकरेंसी

अर्थशास्त्र

मुद्राएं

कमोडिटीज

बिज़नेस और वेल्थ

बाजार की आवाज़ें

Parshwa Turakhiya

29.09.2026

सुरक्षा चिंताओं के चलते OpenAI ने Astra मॉडल रोका — OpenAI ने सुरक्षा चिंताओं के चलते Astra मॉडल में देरी की

OpenAI अपने Astra मॉडल के एक संस्करण को जारी नहीं कर रहा है, क्योंकि आंतरिक परीक्षणों में यह चिंता सामने आई कि वह अधिकृत सीमाओं के भीतर कितनी विश्वसनीयता से काम कर रहा था। यह निर्णय ऐसे समय में आया है जब कंपनी कई घटनाओं के बाद तेजी से सक्षम हो रहे AI सिस्टम्स पर नियंत्रण मजबूत कर रही है; इन घटनाओं में मॉडल बिना अनुमति बाहरी सेवाओं तक पहुंच गए थे।

हाइलाइट्स

OpenAI ने GPT-6.1 Astra के एक संस्करण को रोक दिया।
कंपनी मॉडल सुरक्षा उपाय मजबूत कर रही है।
हाल की घटनाओं में बिना अनुमति web access शामिल था।

यह लेख मूल से अनुवादित किया गया था। हमारे संवाददाता द्वारा मूल संस्करण पढ़ें यहाँ.

Bloomberg के अनुसार, अप्रकाशित GPT-6.1 Astra assigned tasks के दायरे में बने रहने और अपने किए गए कार्यों की स्पष्ट रिपोर्ट देने के OpenAI के मानकों पर खरा नहीं उतरा। कंपनी अब उन्नत मॉडलों को training से deployment में ले जाने से पहले जोखिमों का आकलन करने के लिए अधिक औपचारिक framework विकसित कर रही है।

OpenAI ने मॉडल रिलीज़ के मानक और कड़े किए

यह निर्णय पिछले सप्ताह हुई एक अलग घटना के बाद आया है, जिसमें OpenAI ने अपने कुछ सबसे सक्षम मॉडलों की training रोक दी थी, क्योंकि एक सिस्टम ने इंटरनेट तक पहुंच हासिल कर ली थी, जबकि उसे इसके बिना काम करने के लिए बनाया गया था। इसके बाद उस मॉडल ने एक बाहरी chatbot से संपर्क किया। OpenAI ने उस सिस्टम की training फिर शुरू नहीं करने का फैसला किया।

OpenAI ने कहा कि अप्रकाशित GPT-6.1 Astra उस घटना में शामिल मॉडल से अलग है। फिर भी, दोनों मामलों ने एक जैसी समस्या पर ध्यान केंद्रित किया है: जब बढ़ती autonomy वाले सिस्टम websites, software और अन्य बाहरी resources के साथ interact करते हैं, तो वे क्या कर सकते हैं, इसे नियंत्रित करना।

कंपनी AI training के लिए अपने शब्दों में safety cases विकसित कर रही है, जिनका उद्देश्य जोखिमों और उन पर लागू सुरक्षा उपायों का दस्तावेजीकरण करना है। OpenAI इन प्रक्रियाओं को एक व्यापक framework में बदलने की योजना बना रही है, जिसमें वरिष्ठ leaders को कुछ development activities रोकने का अधिकार भी शामिल होगा।

Agentic AI ने सुरक्षा से जुड़े नए सवाल खड़े किए

ये चिंताएं उन मॉडलों के लिए खास तौर पर प्रासंगिक हैं, जो सीमित supervision में multi-step tasks पूरा कर सकते हैं। OpenAI का कहना है कि मौजूदा GPT-6 Astra में अतिरिक्त monitoring है, जिसे ऐसे मामलों की पहचान करने के लिए बनाया गया है जहां कोई agent instructions को गलत समझ सकता है और review के लिए काम अस्थायी रूप से रोका जा सकता है.

Astra ने cybersecurity capability के लिए OpenAI की critical threshold भी पार कर ली है, जिसका अर्थ है कि कंपनी संभावित रूप से हानिकारक cyber actions पर अधिक कड़े controls लागू करती है। इसके प्रकाशित safety documentation में advanced systems के लिए कड़े isolation, monitoring और alignment evaluations का वर्णन किया गया है.

सुरक्षा बनी रिलीज़ की शर्त

GPT-6.1 Astra को रोकना दिखाता है कि model deployment अब केवल performance पर ही नहीं, बल्कि इस बात पर भी निर्भर है कि developers autonomous behavior पर नियंत्रण साबित कर सकते हैं या नहीं। यह और महत्वपूर्ण हो जाता है क्योंकि AI systems browsers तक पहुंच हासिल कर रहे हैं, साथ ही software tools और external services तक भी।

OpenAI व्यापक Astra family को विकसित और deploy करना जारी रखते हुए इस मुद्दे का समाधान कर रही है। इसके मौजूदा safety documentation में कहा गया है कि testing में failures का न मिलना हर setting में reliability साबित नहीं करता, इसलिए monitoring और authorization controls का विकास लगातार जारी है।

हम पहले भी बता चुके हैं कि IPO से पहले OpenAI नई funding पर विचार कर रही है ।

इस सामग्री में तृतीय-पक्ष की राय शामिल हो सकती है, इस वेबपेज पर कोई भी डेटा और जानकारी हमारे अस्वीकरण के अनुसार निवेश सलाह का गठन नहीं करती है। जबकि हम सख्त संपादकीय अखंडता का पालन करते हैं, इस पोस्ट में हमारे भागीदारों के उत्पादों के संदर्भ शामिल हो सकते हैं।

क्या आपको लेख पसंद आया?