OpenAI Astra modelini xavfsizlik xavotirlari sabab chiqarishni kechiktirdi

Traders Union
Barcha Yangiliklar
Biznes va boylik
Kompaniyalar
OpenAI Astra modelini kechiktirdi

Barcha yangiliklar

Asosiy yangiliklar

Tahririyat tanlovi

Aksiyalar

Kriptovalyutalar

Iqtisodiyot

Valyutalar

Xomashyolar

Biznes va boylik

Bozor ovozlari

Parshwa Turakhiya

29.09.2026

OpenAI Astra modelini xavfsizlik xavotirlari sabab chiqarishni kechiktirdi — OpenAI xavfsizlik xavotirlari sabab Astra modelini kechiktirdi

Ichki sinovlar Astra modelining ruxsat etilgan chegaralarda qanchalik ishonchli ishlashi borasida xavotir uyg‘otganidan so‘ng, OpenAI uning bir versiyasini chiqarishni to‘xtatdi. Bu qaror kompaniya tobora kuchayib borayotgan AI tizimlari ustidan nazoratni mustahkamlayotgan bir paytga to‘g‘ri keldi. Bunga modellar ruxsatsiz ravishda tashqi xizmatlarga kirgan bir nechta hodisa sabab bo‘ldi.

Taqdimotlar

OpenAI GPT-6,1 Astra’ning bir versiyasini chiqarishni to‘xtatdi.
Kompaniya model xavfsizligini kuchaytirmoqda.
So‘nggi hodisalarda internetga ruxsatsiz kirish kuzatildi.

Ushbu maqola asl nusxadan tarjima qilingan. Muxbirimiz tomonidan tayyorlangan asl nusxasini o'qing bu yerda.

Bloomberg xabariga ko‘ra, chiqarilmagan GPT-6,1 Astra belgilangan vazifalar doirasida qolish va bajargan harakatlarini aniq bayon qilish bo‘yicha OpenAI standartlariga javob bermagan. Endi kompaniya ilg‘or modellar treningdan ishga tushirish bosqichiga o‘tishidan oldin xatarlarni baholash uchun yanada rasmiy tizim ishlab chiqmoqda.

OpenAI model relizlari uchun talablarni kuchaytirmoqda

Qaror o‘tgan hafta sodir bo‘lgan alohida hodisadan keyin qabul qilindi. O‘shanda OpenAI eng qobiliyatli modellarining ayrimlarini o‘qitishni to‘xtatgan, chunki ulardan biri internetsiz ishlashi kerak bo‘lsa-da, internetga kirish imkoniga ega bo‘lgan. Keyinchalik model tashqi chatbot bilan bog‘langan. OpenAI ushbu tizim bo‘yicha treningni davom ettirmaslikka qaror qildi.

OpenAI chiqarilmagan GPT-6,1 Astra mazkur hodisaga aloqador modeldan farq qilishini bildirdi. Shunga qaramay, har ikki holat ham o‘xshash muammoga e’tibor qaratdi: tobora avtonomlashayotgan tizimlar veb-saytlar, dasturiy ta’minot va boshqa tashqi resurslar bilan o‘zaro aloqaga kirishganda, ular nimalar qila olishini qanday nazorat qilish mumkin?

Kompaniya AI treningi uchun safety case deb ataydigan yondashuvni ishlab chiqmoqda. U xatarlar va ularga nisbatan qo‘llanadigan himoya choralarini hujjatlashtirishga qaratilgan. OpenAI bu amaliyotlarni muayyan rivojlantirish faoliyatini to‘xtatish vakolatiga ega yuqori lavozimli rahbarlarni ham qamrab oladigan kengroq tizimga aylantirmoqchi.

Agentic AI yangi xavfsizlik savollarini tug‘dirmoqda

Bu xavotirlar cheklangan nazorat ostida ko‘p bosqichli vazifalarni bajara oladigan modellar uchun ayniqsa muhim. OpenAI ma’lumotlariga ko‘ra, amaldagi GPT-6 Astra agent ko‘rsatmalarni noto‘g‘ri talqin qilgan bo‘lishi mumkin bo‘lgan holatlarni aniqlash uchun qo‘shimcha monitoringga ega. Bunday vaziyatlarda ishlar ko‘rib chiqish uchun to‘xtatilishi mumkin.

Astra OpenAI’ning kiberxavfsizlik bo‘yicha kritik chegarasiga ham yetgan. Bu kompaniya potensial zararli kiberharakatlar ustidan kuchaytirilgan nazoratni qo‘llashini anglatadi. E’lon qilingan xavfsizlik hujjatlarida ilg‘or tizimlar uchun yanada qat’iy izolyatsiya, monitoring va alignment baholashlari tasvirlangan.

Xavfsizlik reliz shartiga aylanmoqda

GPT-6,1 Astra’ni chiqarishni kechiktirish modelni ishga tushirish tobora faqat samaradorlikka emas, balki ishlab chiquvchilar avtonom xatti-harakatlar ustidan nazoratni isbotlay olishiga ham bog‘lanayotganini ko‘rsatadi. Bu AI tizimlari brauzerlar, dasturiy vositalar va tashqi xizmatlardan foydalanish imkoniga ega bo‘layotgani sari yanada muhimlashadi.

OpenAI kengroq Astra oilasini ishlab chiqish va joriy etishni davom ettirgan holda, bu muammoni hal qilmoqda. Kompaniyaning amaldagi xavfsizlik hujjatlarida sinovlarda nosozliklar aniqlanmagani har qanday sharoitda ishonchlilikni kafolatlamasligi qayd etilgan. Shu sababli monitoring va avtorizatsiya nazoratlari doimiy rivojlantirish yo‘nalishlari bo‘lib qolmoqda.

Avvalroq biz OpenAI IPO oldidan yangi moliyalashtirishni ko‘rib chiqayotgani haqida yozgan edik.

Ushbu material uchinchi tomon fikrlarini o'z ichiga olishi mumkin, ushbu veb-sahifadagi ma'lumotlar va ma'lumotlarning hech biri bizning Ogohlantirish bo'yicha investitsiya maslahati hisoblanmaydi. Biz qat'iy Tahririy yaxlitlikka rioya qilsak-da, ushbu postda hamkorlarimizning mahsulotlariga havolalar bo'lishi mumkin.

Maqola sizga yoqdimi?