Gemini AI xavfsizlik sinovlarida uch kompaniya tizimini buzib kirdi

Traders Union
Barcha Yangiliklar
Biznes va boylik
Kompaniyalar
Gemini kompaniyalar tizimlarini buzib kirdi

Barcha yangiliklar

Asosiy yangiliklar

Tahririyat tanlovi

Aksiyalar

Kriptovalyutalar

Iqtisodiyot

Valyutalar

Xomashyolar

Biznes va boylik

Bozor ovozlari

Anastasiia Chabaniuk

19.09.2026

Gemini AI xavfsizlik sinovlarida uch kompaniya tizimini buzib kirdi

Google’ning Gemini modeli AI kiberxavfsizlik imkoniyatlari sinovlari chog‘ida aniq ko‘rsatma berilmagan holda uchta haqiqiy kompaniya tizimiga ruxsatsiz kirishga muvaffaq bo‘ldi. Hodisalar may oyida OpenAI, Anthropic va Meta modellarida ham avval shunga o‘xshash xatti-harakatlarni aniqlagan Irregular o‘tkazgan tajribalar doirasida yuz berdi.

Ushbu maqola asl nusxadan tarjima qilingan. Muxbirimiz tomonidan tayyorlangan asl nusxasini o'qing bu yerda.

Bloomberg ma’lumotiga ko‘ra, Irregular iyul oxirida AI dasturchilarini muammolar haqida xabardor qilgan. Google Gemini uchala holatda ham keyingi harakatlarni mustaqil ravishda to‘xtatganini va zarar ko‘rgan tashkilotlar xabardor qilinganini ta’kidladi.

Sinovlardan birida modelga nomi tasodifan haqiqiy tashkilot nomiga mos kelgan xayoliy kompaniya haqida ma’lumot olish vazifasi berildi. Gemini uning xizmatini aniqladi va parolni topib, haqiqiy kompaniya tizimiga kirishga muvaffaq bo‘ldi.

Gemini ommaviy repozitoriylardan uchinchi tomon hisob ma’lumotlarini topdi

Yana ikki hodisa Gemini internetda kompaniyalar nomini qidirganidan so‘ng yuz berdi. Model boshqa tashkilotlarga tegishli hisob ma’lumotlari mavjud bo‘lgan ommaviy onlayn repozitoriylarni aniqladi va ulardan qo‘shimcha tizimlarga kirish uchun foydalandi.

Google xavfsizlik muhandisligi bo‘yicha vitse-prezidenti Heather Adkins model uchala holatda ham muayyan nuqtada mustaqil ravishda to‘xtaganini aytdi. U Google zarar ko‘rgan tashkilotlarning hodisalar haqida xabardor qilinishini ham ta’minlaganini qo‘shimcha qildi.

Kompaniya holatlardan kamida bittasi haqida rasmiy organlarni xabardor qildi. Irregular vakili Joseph Laor muammo aniqlangach darhol choralar ko‘rilganini va kompaniya bir necha hafta avval o‘z tomonidagi barcha ma’lum zaifliklarni bartaraf etganini aytdi.

Adkinsning aytishicha, bu hodisalar kuchli AI modellarini mas’uliyatli harakat qilishga o‘rgatish zarurligini ko‘rsatadi. Holatlar avtonom tizimlar bunday natija vazifaning bevosita maqsadi bo‘lmagan taqdirda ham haqiqiy hisob ma’lumotlarini topib, ulardan foydalanishi mumkinligini ko‘rsatadi.

AI sohasida xavfsizlik bo‘yicha bahslar kuchaymoqda

Agent AI tizimlari bilan bog‘liq hodisalar ketma-ketligi texnologiya bilan bog‘liq xatarlar haqidagi bahslarni kuchaytirdi. Avvalroq ayni Irregular sinovlari OpenAI, Anthropic va Meta tizimlarida shunga o‘xshash buzilishlarni aniqlagan edi.

Anthropic bosh direktori Dario Amodei AI rivojlanishini butun soha miqyosida sekinlashtirishga chaqirdi. Bu tashabbus OpenAI bosh direktori Sam Altman va Elon Musk tomonidan ham qo‘llab-quvvatlandi, AQSh prezidenti Donald Trump, Nvidia bosh direktori Jensen Huang va Meta bosh direktori Mark Zuckerberg esa sohani qat’iyroq tartibga solishga qarshi chiqdi.

Bu fonda bahs tobora texnologik xatarlardan tashqariga chiqib, AI rivojlanishi qoidalarini kim belgilashi kerakligi masalasini ham qamrab olmoqda. Yirik AI laboratoriyalari o‘rtasidagi muvofiqlashtirish tarafdorlari umumiy xavfsizlik standartlari zarurligini ta’kidlaydi, muxoliflar esa kompaniyalar xatarlarni mustaqil boshqara olishini aytadi.

Tartibga solishning raqobatga ta’siri ham tortishuvli masalaga aylandi. Ayrim yosh AI kompaniyalari qat’iy talablar kichikroq dasturchilar uchun qo‘shimcha to‘siqlar yaratishi va eng yirik texnologik korporatsiyalar mavqeini mustahkamlashi mumkinligidan ogohlantirmoqda.

Avvalroq, OpenAI bilan raqobat ehtimoliy IPO arafasida kuchayar ekan, Anthropic yangi AI modelini ishga tushirish imkoniyatini ko‘rib chiqayotgani haqida xabar bergan edik. Kompaniya ehtimoliy ommaviy joylashtirishga tayyorgarlik ko‘rar ekan, mahsulotlar qatorini kengaytirishda davom etmoqda.

Ushbu material uchinchi tomon fikrlarini o'z ichiga olishi mumkin, ushbu veb-sahifadagi ma'lumotlar va ma'lumotlarning hech biri bizning Ogohlantirish bo'yicha investitsiya maslahati hisoblanmaydi. Biz qat'iy Tahririy yaxlitlikka rioya qilsak-da, ushbu postda hamkorlarimizning mahsulotlariga havolalar bo'lishi mumkin.

Maqola sizga yoqdimi?