OpenAI AI agentlari AQSh hukumat saytlariga ruxsatsiz kirdi

OpenAI AI agentlari AQSh hukumat saytlariga ruxsatsiz kirdi
OpenAI agentlari AQSh hukumat saytlariga kirdi

​OpenAI'ning AI agentlari sinov vaqtida AQSh hukumat saytlarida, jumladan Qimmatli qog‘ozlar va birjalar komissiyasi (SEC) hamda Aholini ro‘yxatga olish byurosi yuritadigan resurslarda faoliyat yuritdi. Kompaniya ushbu holatlarni modellari xatti-harakatlarini keng ko‘lamda ko‘rib chiqish doirasida aniqladi va ehtimoliy ta’sirga uchragan o‘nlab tashkilotlarni xabardor qildi.

Ushbu maqola asl nusxadan tarjima qilingan. Muxbirimiz tomonidan tayyorlangan asl nusxasini o'qing bu yerda.

Bloomberg ma’lumotiga ko‘ra, OpenAI o‘z tizimlari modelni o‘qitish va baholash jarayonida SEC.gov, Investor.gov va Census.gov saytlaridagi ommaga ochiq ma’lumotlarga kirganini tasdiqladi. Kompaniya ayrim holatlarda agentlar xavfsizlik mexanizmlarini chetlab o‘tgan yoki tashqi xizmatlar mavjudligini buzgan bo‘lishi mumkinligini tekshirmoqda.

Tekshiruv OpenAI modeli bir necha oy avval Hugging Face tizimini beixtiyor buzib kirganidan so‘ng boshlandi. Faollik jurnallarini tekshirishni kengaytirgach, kompaniya o‘z infratuzilmasidan tashqarida agentlarning nomaqbul xatti-harakatlariga oid boshqa holatlarni ham aniqladi.

OpenAI o‘nlab tashkilotlarni xabardor qildi

Kompaniya hukumat idoralari, universitetlar va boshqa muassasalarni o‘z ichiga olgan o‘nlab tashkilotlar bilan bog‘langanini bildirdi. Ayrim hollarda AI tizimlari onlayn xizmatlardagi himoya choralarini chetlab o‘tgan, ularning odatiy ishlashiga xalaqit bergan yoki tashqi veb-saytlarga boshqa tarzda salbiy ta’sir ko‘rsatgan bo‘lishi mumkin.

Biroq, OpenAI ma’lumotiga ko‘ra, ko‘rib chiqilgan holatlarning aksariyati so‘rovga javob berish uchun ommaga ochiq ma’lumotlarni izlash kabi odatiy tadqiqot vazifalari bilan bog‘liq bo‘lgan. Kompaniya agentlari tashrif buyurgan har bir veb-sayt buzib kirilgan yoki komprometatsiya qilinganini aytmadi.

OpenAI to‘liq tekshiruv bir necha oy davom etishini kutmoqda. Bosh direktor Sem Altman faollik jurnallarining ulkan hajmini tahlil qilish va ehtimoliy ta’sirga uchragan tashkilotlar bilan muvofiqlashish zarurati sabab tergov kutilganidan sekinroq ketayotganini tan oldi.

Ushbu holatlar avtonom AI agentlari keltirib chiqaradigan muammolardan birini ko‘rsatadi: ayrim harakatlar faqat sodir bo‘lgandan keyin ishlab chiquvchilar tomonidan aniqlanishi mumkin. Bu tashqi veb-saytlar va xizmatlar bilan mustaqil o‘zaro aloqaga qodir modellarni nazorat qilishni qiyinlashtiradi.

AI kiberxavfsizlik uchun yangi xatarlarni keltirib chiqarmoqda

Bunday xatti-harakatlar faqat OpenAI bilan cheklanmagan. Anthropic, Google DeepMind va Meta modellari ham sinovlar davomida ilgari noma’lum bo‘lgan zaifliklarni aniqlashi va tizimlarga kirish uchun bir nechta hujum usullarini birlashtirishi mumkinligini namoyish etdi.

Bunday imkoniyatlar asosan ma’lum zararli dasturlar yoki noodatiy faollikni aniqlashga qaratilgan an’anaviy kiberxavfsizlik vositalari uchun qiyinchilik tug‘diradi. AI agentlari harakatlar ketma-ketligini mustaqil ravishda o‘zgartirishi va berilgan vazifani bajarishning muqobil yo‘llarini izlashi mumkin.

OpenAI’ning alohida tekshiruvi tadqiqot muhitidagi AI agentlari o‘qitish va sinov ma’lumotlarini uchinchi tomon xizmatlariga ruxsatsiz yuborgan 53 ta holatni aniqladi. Ma’lumotlar yuklangan tasvirlarni ham o‘z ichiga olgan, biroq kompaniya aksariyat hollarda material foydalanuvchilardan olinmaganini bildirdi.

OpenAI modelning nomaqbul xatti-harakatlari bo‘yicha kengroq tergovi doirasida ushbu holatlarni o‘rganishda davom etmoqda. Kompaniya ularning tizimlariga ehtimoliy ta’sirlarni aniqlagan sari qo‘shimcha tashqi tashkilotlarni xabardor qilishni rejalashtirmoqda.

Avvalroq, OpenAI AI agenti model sinovi paytida Avstraliya hukumatining portaliga ruxsatsiz kirish huquqini qo‘lga kiritgani haqida xabar bergan edik. Hodisa 18-iyun kuni yuz bergan, Avstraliya rasmiylari esa fuqarolarning shaxsiy ma’lumotlari komprometatsiya qilinganiga dalil topilmaganini ma’lum qildi.

Ushbu material uchinchi tomon fikrlarini o'z ichiga olishi mumkin, ushbu veb-sahifadagi ma'lumotlar va ma'lumotlarning hech biri bizning Ogohlantirish bo'yicha investitsiya maslahati hisoblanmaydi. Biz qat'iy Tahririy yaxlitlikka rioya qilsak-da, ushbu postda hamkorlarimizning mahsulotlariga havolalar bo'lishi mumkin.