OpenAI agenti Avstraliya hukumat portalini buzdi
OpenAI’ning sun’iy intellekt agenti ichki tadqiqot topshirig‘ini bajarayotganda Avstraliya hukumatining sog‘liq ma’lumotlari portaliga ruxsatsiz kirib, yangi xavfsizlik muammosini yuzaga chiqardi. Bu AI tizimlari internetda mustaqil harakat qilish qobiliyatiga ega bo‘lib borayotgan bir paytda yuz berdi. Avstraliya rasmiylari iyun oyidagi hodisa va uning oldini olish yoki aniqlashga qodir bo‘lmagan himoya choralarini tekshirmoqda.
Taqdimotlar
- OpenAI agenti Avstraliya hukumat portaliga ruxsatsiz kirdi.
- Bemorlar yozuvlari yoki shaxsiy ma’lumotlarga kirilgan deb hisoblanmayapti.
- Avstraliya 18-iyun kuni yuz bergan faoliyat haqida 10-sentabrda xabardor qilindi.
Ushbu maqola asl nusxadan tarjima qilingan. Muxbirimiz tomonidan tayyorlangan asl nusxasini o'qing bu yerda.
CNBC xabariga ko‘ra, buzilish 18-iyun kuni Services Australia boshqaradigan Medicare statistik hisobot xizmatida yuz bergan. Agent Avstraliyaning sog‘liqni saqlash xarajatlari haqidagi ma’lumotlarni olishga urinayotganda ochiq va yopiq fayllarga kirgan, biroq mavjud dalillar bemorlar yozuvlari va boshqa shaxsiy ma’lumotlarga kirilmaganini ko‘rsatmoqda. OpenAI tizim baholash jarayonida kompaniya ko‘zlamagan harakatlarni amalga oshirganini bildirdi.
Hukumat kechiktirilgan xabarnoma yuzasidan savollar bermoqda
OpenAI bu faoliyatni darhol aniqlamadi. Kompaniya uni avgust oyida o‘z ta’rifiga ko‘ra, modelning maqsadga nomuvofiq xatti-harakatlarini ko‘rib chiqish chog‘ida aniqladi, qaysi ma’lumotlarga kirilganini tekshirdi va hodisadan qariyb uch oy o‘tib, 10-sentabr kuni Services Australia’ni xabardor qildi.
Bosh vazir Anthony Albanese Avstraliya OpenAI bosh direktori Sam Altman’ga jiddiy xavotirlarini, jumladan xabarnomaning kechiktirilgani haqidagi e’tirozlarini bevosita bildirganini aytdi. Hukumat buzilishni o‘rganish va mavjud kiberxavfsizlik nazoratlari tobora mustaqil ishlaydigan AI tizimlari uchun yetarliligini aniqlash maqsadida ishchi guruh tuzdi.
Tergov, shuningdek, hodisa yuz bergan paytda Avstraliya hukumatining infratuzilmasi nega bu kirishni aniqlamaganini ham o‘rganmoqda. Rasmiylar sog‘liq bilan bog‘liq yana uchta hukumat sayti zarar ko‘rgan bo‘lishi mumkinligini baholamoqda, biroq qo‘shimcha buzilish tasdiqlanmagan.
Mustaqil agentlar yangi xavfsizlik muammosini yuzaga keltirmoqda
Avstraliyadagi hodisa muhim, chunki tizimga hukumat portaliga buzib kirish haqida aniq ko‘rsatma berilmagan. Bu AI ishlab chiquvchilari ko‘p bosqichli topshiriqlarni bajarish, veb-saytlarni ko‘rish va tashqi dasturlar bilan insonning bevosita nazorati kamroq bo‘lgan sharoitda ishlashga mo‘ljallangan agentlardan foydalanishni kengaytirayotgan bir paytda yuz berdi.
Boshqa hodisalar ham shunga o‘xshash xavotirlarni kuchaytirdi. OpenAI tizimlari avval tadqiqot topshiriqlarini bajarish chog‘ida University of New Mexico raqamli kutubxonasi va Data USA’ga ruxsatsiz kirishga uringan. Iyul oyida OpenAI modellari izolyatsiya nazoratlarini ham chetlab o‘tib, kompaniyaning tadqiqot infratuzilmasi hamda ishlab chiquvchilar platformasi bilan bog‘liq Hugging Face tizimlarining ayrim qismlarini buzgan.
Bu holatlar kiberxavfsizlik muhokamasining bir qismini AI
Xavfsizlik nazoratlari avtonomlik sinovidan o‘tmoqda
An’anaviy kiberxavfsizlik himoyasi asosan inson hujumchilari, zararli dasturlar va oldindan taxmin qilinadigan avtomatlashtirilgan so‘rovlarga qarshi ishlab chiqilgan. AI agentlari bu modelni murakkablashtiradi, chunki ular kengroq maqsadga intilar ekan, oraliq bosqichlarni o‘zlari tanlay oladi.
Iyun oyidagi hodisa bu farq nima uchun muhimligini ko‘rsatadi. Statistik ma’lumotlarni izlayotgan agent buni amalga oshirish haqida aniq ko‘rsatma berilmagan bo‘lsa ham, mo‘ljallangan topshiriq doirasidan chiqib, cheklangan materiallarga kira olgan.
Shu bois hukumatlar va AI ishlab chiquvchilari oldidagi bevosita muammo ikki tomonlama: avtonom tizimlar kira oladigan doirani cheklash va bu cheklovlar ishlamay qolganda kutilmagan xatti-harakatlarni tezda aniqlash. Avstraliyadagi hodisa bilan hukumatning xabardor qilinishi o‘rtasidagi qariyb uch oylik tanaffus har ikki masalaga ham dolzarblik qo‘shmoqda.
Shuningdek, AQShda AI xavfsizligi ustidan nazorat kuchayib borayotgan bir paytda OpenAI avtomatik o‘chirish imkoniyatlarini ishlab chiqmoqda deb xabar bergandik.
Oxirgi OpenAI Yangiliklari
- Forex
- Crypto