Anthropic’ning sekinlashtirish haqidagi chaqirig‘i: Xavfsizlik yetakchilikni boy bermasdan AI poygasini jilovlay oladimi?

​Anthropic uzoq vaqtdan beri o‘zini model rivojlanishini qat’iy himoya choralari bilan muvozanatlashtiradigan, xavfsizlikka yo‘naltirilgan AI kompaniyasi sifatida ko‘rsatib keladi. Biroq CEO Dario Amodeining salohiyat o‘sishi sur’atini sekinlashtirish haqidagi yaqindagi chaqirig‘i samarali tiyib turish boshqa raqiblar yoki Xitoyga imkoniyat boy bermasdan tijoriy yetakchilik bilan birga mavjud bo‘la oladimi, degan savolni tug‘diradi.

Ilg‘or chegaradagi sur’atni sekinlashtirishga chaqiriq

Ehtimoliy Nasdaq IPOga (taxminan $2 trillion darajasiga yetishi kutilmoqda) tayyorgarlik ko‘rar ekan, CEO Dario Amodei ilg‘or AI laboratoriyalarini omma oldida “ilg‘or chegaradagi sur’atni sekinlashtirish”ga chaqirdi. Uning uch bosqichli rejasi xavfsizlik choralari yetib olishi uchun salohiyat rivojlanishi tezligini pasaytirishga qaratilgan. Hammuassis Jack Clark hukumatlar tekshirilishi mumkin bo‘lgan AI o‘chirish kalitlarini majburiy qilishi kerak bo‘lishi mumkinligini qo‘shimcha qildi. 

X dagi postni ko‘rish Yuklanmoqda...

Tvitt muallif tomonidan o‘chirildi.

Lekin biz hamma narsani saqlab oldik 🙂.

Bundan bir necha kun oldin kompaniya turli shaxslar Claude’dan kiberoperatsiyalar va hatto qurol-yarog‘ dasturiy ta’minotida noto‘g‘ri foydalanishga uringani bo‘yicha ko‘plab misollarni keltirgan batafsil tahdidlar razvedkasi hisobotini e’lon qildi. Amodei yanada kuchli AI “to‘dalari” 6–12 oy ichida internetning katta qismini boshqarishi mumkinligidan ham ogohlantirdi. OpenAI’dan Sam Altman va Elon Musk ham bu muammo bo‘yicha o‘xshash fikrlarni bildirdi. Altman OpenAI ichki jarayonlarda sur’atni cheklashni joriy etish uchun ayrim qadamlarni allaqachon qo‘yganini aytdi.

Daromadlilik ehtiyotkorlik bilan uyg‘unlashmoqda

Moliyaviy nuqtayi nazardan, Anthropic izchil kuchli moliyaviy natijalarni qayd etmoqda. Kompaniya ketma-ket ikkinchi chorakda ijobiy tuzatilgan operatsion daromad kutmoqda. Hamkorlarga tushum ulushi va o‘qitish xarajatlaridan oldingi yalpi marja 80 foizdan yuqori. Ikkinchi chorakdagi daromad taxminan $11,5 milliardga yetdi, iyul oxiriga kelib yilliklashtirilgan daromad esa $65 milliardni tashkil etdi. Bu ko‘rsatkichlar rejalashtirilayotgan IPO sababini tushuntiradi. Anthropic listing platformasi sifatida Nasdaq’ni tanladi va oktyabrda bo‘lishi mumkin bo‘lgan debyutga tayyorgarlik ko‘rmoqda. 

X dagi postni ko‘rish Yuklanmoqda...

Tvitt muallif tomonidan o‘chirildi.

Lekin biz hamma narsani saqlab oldik 🙂.

Barqaror daromadlilik ilg‘or AI laboratoriyalariga xos bo‘lgan katta naqd pul sarfidan xavotirlanayotgan investorlar ishonchini oshirish uchun muhim. Biroq daromadning tez o‘sishi salohiyatning uzluksiz rivojlanishi va Claude kabi modellarning korporativ mijozlar tomonidan qabul qilinishiga bog‘liq. Rivojlanish sur’atini sekinlashtirish raqiblarga yetib olish uchun imkon berishi yoki Xitoy kompaniyalariga tafovutni qisqartirishiga yo‘l ochishi mumkin. Amodei fikricha, sur’ati cheklangan rejimda ham taraqqiyot tez ko‘rinadi, biroq xavfsizlik xatarlarining aksariyatini oldini olish mumkin bo‘ladi.

O‘chirish kalitlari va uchinchi tomon nazorati

Jack Clark munozarani yanada keskinlashtirdi. BBCga bergan intervyusida Anthropic hammuassisi aksariyat laboratoriyalarda tizimlarni o‘chirish uchun ichki imkoniyatlar allaqachon mavjudligini aytdi. Uning ta’kidlashicha, murakkabroq savol — hukumatlar mustaqil uchinchi tomonlar tomonidan tasdiqlanishi mumkin bo‘lgan tekshiriladigan o‘chirish kalitlarini talab qilishi kerakmi-yo‘qmi. Bunday mexanizmlar tashqi hisobdorlikni ta’minlaydi.  

X dagi postni ko‘rish Yuklanmoqda...

Tvitt muallif tomonidan o‘chirildi.

Lekin biz hamma narsani saqlab oldik 🙂.

Anthropic sinov paytida Claude modellari tashqi tizimlarga kirgan avvalgi hodisalarni METR tomonidan mustaqil ko‘rib chiqishga rozi bo‘ldi. Bu qadamlar Anthropic’ning xavfsizlik brendiga ijobiy ta’sir ko‘rsatadi va tezroq harakatlanayotgan raqiblarga nisbatan raqobat ustunligini berishi mumkin. Biroq ichki jarayonlar, muvofiqlik xarajatlari va tartibga soluvchi talablar bo‘yicha ham yangi savollar paydo bo‘lmoqda.

Tiyib turish geosiyosati

Amodei demokratik mamlakatlar texnologik yetakchilikni Xitoyga topshirmagan holda tiyib turish choralarini muvofiqlashtirishi kerakligini ta’kidladi. Xitoy kompaniyalari va davlat bilan bog‘liq subyektlar Anthropic’ning noto‘g‘ri foydalanish haqidagi hisobotlarida muntazam uchraydi, jumladan modellarni distillatsiya qilish va razvedka ma’lumotlarini to‘plashga urinishlarda. AQShning ayrim qonunchilari tadqiqotchilar ogohlantirishlariga tayanib, ekzistensial xavf mavjudligini tan oladi va qat’iyroq qoidalarni yoqlaydi. Boshqalar, jumladan ma’muriyatga yaqin shaxslar, xavfsizlik sababli pauzalarni Pekinga berilgan sovg‘a deb hisoblaydi. 

X dagi postni ko‘rish Yuklanmoqda...

Tvitt muallif tomonidan o‘chirildi.

Lekin biz hamma narsani saqlab oldik 🙂.

Ilg‘or modellarga nisbatan eksport nazorati va tanlab qo‘llanadigan kirish cheklovlari geosiyosatning tobora ortib borayotgan rolini allaqachon ko‘rsatdi. Xitoy qo‘shilishdan bosh tortadigan muvofiqlashtirilgan sekinlashuv AQSh kompaniyalarini noqulay ahvolga solib qo‘yishi mumkin. Hisobotlar Nvidia, Palantir va Booz Allen kabi ayrim firmalar ma’lumotlarni saqlash hamda intellektual mulk bilan bog‘liq xavotirlar tufayli Anthropic’ning ayrim modellarini cheklaganini ko‘rsatadi. Shu bois xavfsizlik hodisalari yoki siyosatdagi o‘zgarishlar korporativ darajadagi ishonchga bevosita ta’sir qiladi.

Brend va raqobat o‘rtasidagi muvozanat

Constitutional AI, qat’iy sinovlar va ommaviy tahdid hisobotlaridan Anthropic mas’uliyatli kompaniya imijini yaratish hamda xavfga moyilligi past korporativ mijozlarni jalb qilish uchun foydalanadi. BlackRock, Charles Schwab va Addepar bilan ulanishlarga ega Claude for Financial Advisors’ning yaqinda ishga tushirilishi, tiyib turishni targ‘ib qilayotganiga qaramay, tijoriy kengayishni ko‘rsatadi. Agar raqiblar salohiyatda keskin sakrashlarga erishib, bozor ulushini egallasa, investorlar va mijozlar ehtiyotkorlikni ikkilanish deb talqin qilishi mumkin; shu sababli rahbariyat bu boradagi barcha tegishli masalalarni muvozanatlashi lozim.

X dagi postni ko‘rish Yuklanmoqda...

Tvitt muallif tomonidan o‘chirildi.

Lekin biz hamma narsani saqlab oldik 🙂.

Avvalgi butun sanoat miqyosidagi xavfsizlik muhokamalari raqobat bosimi ostida amalga oshirish qiyin bo‘lgan ixtiyoriy majburiyatlarni yuzaga keltirgan. Anthropic kelajakdagi IPOni kutgan holda agressiv o‘sishni davom ettirar ekan, shaffoflik va uchinchi tomonlar kirishini ta’minlash orqali ushbu muammoni hal etishga urinmoqda. Muvaffaqiyat yetarlicha hamkorlar unga ergashishiga hamda bozorlar ehtiyotkorlikni salohiyat kabi yuqori baholash-baholamasligiga bog‘liq bo‘ladi.