Anthropicu üleskutse aeglustada: kas ohutus saab AI-võidujooksu pidurdada, loovutamata liidripositsiooni?

​Anthropic on pikka aega positsioneerinud end ohutusele keskenduva AI-ettevõttena, mis tasakaalustab mudelite arengut rangete kaitsemeetmetega. Kuid tegevjuhi Dario Amodei hiljutine üleskutse võimekuse kasvu tempot aeglustada tõstatab küsimuse, kas tõhus vaoshoitus saab eksisteerida koos ärilise liidripositsiooniga, loovutamata positsiooni teistele rivaalidele või Hiinale.

Üleskutse tempot maha võtta

Valmistudes võimalikuks Nasdaqi IPO-ks (mille väärtus võib ulatuda umbes 2 triljoni dollarini), kutsus tegevjuht Dario Amodei avalikult AI arendamise eesliini laboreid üles „eesliinil tempot maha võtma“. Tema kolmeastmeline plaan on suunatud võimekuse arengu tempo aeglustamisele, et ohutusmeetmed suudaksid sammu pidada. Kaasasutaja Jack Clark lisas, et valitsustel võib olla vaja kehtestada kontrollitavad AI hädaväljalülitid. 

Vaata postitust X-is Laadimine...

Autor on selle säutsu kustutanud.

Aga me salvestasime kõik 🙂.

Vaid mõned päevad varem avaldas ettevõte üksikasjaliku ohuluure raporti, milles toodi arvukalt näiteid selle kohta, kuidas eri inimesed olid püüdnud Claude’i kuritarvitada küberoperatsioonideks ja isegi relvatarkvara loomiseks. Amodei hoiatas ka, et võimekamad AI „parved“ võiksid 6–12 kuu jooksul potentsiaalselt kontrollida suurt osa internetist. OpenAI Sam Altman ja Elon Musk väljendasid probleemist samuti sarnaseid seisukohti. Altman ütles, et OpenAI on juba astunud samme tempo sisemiseks reguleerimiseks.

Kasumlikkus kohtub ettevaatlikkusega

Finantsperspektiivist vaadatuna teatab Anthropic järjepidevalt tugevatest finantstulemustest. Ettevõte ootab teist järjestikust positiivse korrigeeritud ärikasumiga kvartalit. Brutokasumimarginaal ületab 80 protsenti enne partnerite tulude osakaalu ja koolituskulusid. Teise kvartali tulu ulatus ligikaudu 11,5 miljardi dollarini ning juuli lõpuks jõudis aastapõhine tulu 65 miljardi dollarini. Need näitajad selgitavad kavandatavat IPO-t. Anthropic on valinud noteerimisplatvormiks Nasdaqi ja valmistub võimalikuks debüüdiks oktoobris. 

Vaata postitust X-is Laadimine...

Autor on selle säutsu kustutanud.

Aga me salvestasime kõik 🙂.

Püsiv kasumlikkus on oluline investorite usalduse suurendamiseks, sest neid teeb murelikuks AI arendamise eesliini laboritele tüüpiline kiire rahapõletamine. Kiire tulukasv sõltub aga võimekuse jätkuvast arengust ja selliste mudelite nagu Claude kasutuselevõtust ettevõtetes. Arendustempo aeglustamine võib anda konkurentidele võimaluse järele jõuda või võimaldada Hiina ettevõtetel vahet vähendada. Amodei usub, et ka reguleeritud tempo korral näiks areng kiire, kuid enamikku ohutusriskidest oleks võimalik ennetada.

Hädaväljalülitid ja sõltumatu järelevalve

Jack Clark teravdas arutelu veelgi. BBC-le rääkides ütles Anthropicu kaasasutaja, et enamikul laboritel on juba ettevõttesisesed võimalused süsteeme välja lülitada. Tema väitel on keerulisem küsimus, kas valitsused peaksid nõudma kontrollitavaid hädaväljalüliteid, mida sõltumatud kolmandad osapooled saaksid kinnitada. Sellised mehhanismid tagaksid välise vastutuse.  

Vaata postitust X-is Laadimine...

Autor on selle säutsu kustutanud.

Aga me salvestasime kõik 🙂.

Anthropic nõustus, et METR teostab sõltumatu ülevaatuse varasematest juhtumitest, kus Claude’i mudelid said testimise ajal juurdepääsu välistele süsteemidele. Need sammud mõjuvad positiivselt Anthropicu ohutusbrändile ja võivad anda talle konkurentsieelise kiiremini liikuvate rivaalide ees. Kuid need tõstatavad ka uusi küsimusi siseprotsesside, nõuete täitmise kulude ja regulatiivsete nõuete kohta.

Vaoshoituse geopoliitika

Amodei rõhutas, et demokraatlikud riigid peaksid vaoshoitust koordineerima, loovutamata tehnoloogilist liidripositsiooni Hiinale. Hiina ettevõtted ja riigiga seotud osalejad esinevad süstemaatiliselt Anthropicu väärkasutuse raportites, sealhulgas mudelite destilleerimise ja luureandmete kogumise katsetes. Mõned USA seadusandjad on viidanud teadlaste hoiatustele, nõustuvad eksistentsiaalse riski hinnanguga ning toetavad rangemaid reegleid. Teised, sealhulgas administratsioonile lähedased isikud, peavad ohutusest ajendatud pause kingituseks Pekingile. 

Vaata postitust X-is Laadimine...

Autor on selle säutsu kustutanud.

Aga me salvestasime kõik 🙂.

Ekspordikontrollid ja arenenud mudelite kasutamise valikulised piirangud on juba näidanud geopoliitika kasvavat rolli geopoliitikas. Koordineeritud aeglustumine, millega Hiina ei ühine, võib seada USA ettevõtted ebasoodsasse olukorda. Raportid näitavad, et mõned ettevõtted, nagu Nvidia, Palantir ja Booz Allen, on andmete säilitamise ja intellektuaalomandiga seotud murede tõttu piiranud teatud Anthropicu mudelite kasutamist. Seega mõjutavad ohutusjuhtumid või poliitikamuudatused otseselt usaldust ettevõtte tasandil.

Brändi ja konkurentsi tasakaalustamine

Anthropic kasutab Constitutional AI-d, ranget testimist ja avalikke ohuraporteid, et kujundada vastutustundliku ettevõtte mainet ning aidata meelitada riskikartlikke ärikliente. Claude for Financial Advisorsi hiljutine turuletoomine koos BlackRocki, Charles Schwabi ja Addepari ühendustega viitab ärilisele laienemisele isegi siis, kui ettevõte propageerib vaoshoitust. Kui konkurendid teevad võimekuses suuri hüppeid ja haaravad turuosa, võivad investorid ja kliendid tõlgendada ettevaatlikkust kõhklusena, mistõttu juhtkond peaks selles küsimuses tasakaalustama kõiki asjakohaseid kaalutlusi.

Vaata postitust X-is Laadimine...

Autor on selle säutsu kustutanud.

Aga me salvestasime kõik 🙂.

Varasemad kogu tööstusharu hõlmavad ohutusalased arutelud on toonud kaasa vabatahtlikke kohustusi, mida osutus konkurentsisurve all raskeks jõustada. Anthropic püüab seda probleemi lahendada, juhtides läbipaistvuse ja kolmandate osapoolte juurdepääsuga, taotledes samal ajal tulevase IPO ootuses agressiivset kasvu. Edu sõltub sellest, kas piisavalt palju konkurente järgib eeskuju ning kas turud hindavad ettevaatlikkust sama kõrgelt kui võimekust.