Anthropic paljastaa tekoälyn ”eksistentiaaliset riskit” ennen listautumisantia
Anthropic varoitti sijoittajia ensimmäistä kertaa virallisesti, että sen teknologia voi aiheuttaa ”eksistentiaalisia riskejä ihmiskunnalle”. Varoitus sisältyy yhtiön listautumisannin esitteeseen, jota on viime päivinä jaettu rajoitetulle joukolle kumppaneita.
Tämä artikkeli on käännetty alkuperäisestä tekstistä. Lue kirjeenvaihtajamme alkuperäinen versio täältä.
Dario Amodein johtama ja lähes 1 biljoonan dollarin arvoinen yhtiö omisti pitkän asiakirjan riskeille lähes kolmanneksen. Anthropic mainitsee muun muassa mahdollisuuden, että yhä kehittyneemmät tekoälymallit voivat manipuloida ihmisiä, käyttää kiristystä ja osoittaa muuta ennalta arvaamatonta toimintaa, kertoo Financial Times.
Asiakirjassa tuodaan esiin myös sijoittajille tavanomaisempia riskejä. Yksi niistä on yhtiön voimakas riippuvuus pienestä asiakasjoukosta. Esitteen tuntevien henkilöiden mukaan vain kaksi asiakasta vastasi viime vuonna lähes neljänneksestä Anthropicin liikevaihdosta.
Anthropic valmistautuu listautumisantiin
Tällaiset varoitukset voivat vaikeuttaa yhtiön arvonmääritystä ennen pörssidebyyttiä. Anthropic in odotetaan toteuttavan arvon mukaan historian suurimman listautumisannin.
Claude-kehittäjä kertoi myös lisää huippuluokan tekoälymallien rakentamisen vaatimista kustannuksista. Yhtiön odotetaan listautuvan Nasdaqiin tänä syksynä.
Anthropic kertoi sijoittajille suunnittelevansa tulevina vuosina 518 miljardin dollarin käyttöä pilvi-infrastruktuuriin, laskentatehoon ja muihin nopean kasvun tukemiseen tarvittaviin velvoitteisiin.
Yhtiön taustavoimat odottavat Anthropicin listautuvan yli 2 biljoonan dollarin arvostuksella. Se olisi yli kaksinkertainen taso sen toukokuussa toteutetun viimeisimmän rahoituskierroksen arvoon verrattuna ja korkeampi kuin SpaceX:n kesäkuussa saavuttama 1,78 biljoonan dollarin arvostus. Sijoittajien optimismia vauhdittaa suurelta osin yhtiön nopea kasvu.
Tekoälyn turvallisuuteen liittyvät huolet ovat kuitenkin nousseet yhä näkyvämmiksi. Nykyiset ja entiset Anthropicin työntekijät ovat viime aikoina varoittaneet julkisesti, että tekoälyn hallitsematon kehitys voisi teoriassa uhata ihmiskuntaa seuraavan vuosikymmenen aikana.
Viime viikolla Amodei kertoi YK:n turvallisuusneuvostolle, että tekoäly voi uhata ihmiskuntaa ja on ”tärkein maailmaa tällä hetkellä kohtaava globaali turvallisuuskysymys”.
Tässä kuussa Anthropicin toimitusjohtaja vaati myös kehittyneimpien tekoälyjärjestelmien kehityksen hidastamista. OpenAI:n toimitusjohtaja Sam Altman ja Elon Musk tukivat hänen ehdotuksiaan alan tiiviimmästä yhteistyöstä ja vahvemmista turvatoimista.
Huolet ovat voimistuneet useiden paljon huomiota saaneiden kyberturvallisuusincidenttien jälkeen. Niissä tekoälyagentit pääsivät käsiksi ulkoisiin järjestelmiin. OpenAI kertoi viime viikolla, että sen työkalut olivat hakkeroineet ”kymmeniä” ulkoisia verkkosivustoja, mukaan lukien viranomaissivustoja.
OpenAI perui maanantaina myös suunnitelmat julkaista uusin mallinsa ensi kuussa vedoten turvallisuushuoliin.
Liikevaihdon kasvu tuo mukanaan valtavat kustannukset
Anthropicin listautumisannin esite paljasti myös uusia tietoja yhtiön taloudellisesta tuloksesta. Viime vuonna sen liiketappio ylitti 8 miljardia dollaria, kun laskentatehoon käytetyt menot kasvoivat jyrkästi.
Liikevaihto kasvoi kaksitoistakertaiseksi lähes 4,6 miljardiin dollariin. Samalla mallien kouluttamisen ja käytön kustannukset nostivat liiketoiminnan kulut lähes 13 miljardiin dollariin.
Tarvitsemansa laskentatehon varmistamiseksi Anthropic on solminut sopimuksia Googlen, SpaceX:n ja useiden pienempien yhtiöiden kanssa.
Sekä liikevaihto että menot ovat jatkaneet jyrkkää kasvuaan tänä vuonna. Anthropic kirjasi toisella neljänneksellä 11,5 miljardin dollarin liikevaihdon ja on saavuttamassa toisen peräkkäisen liiketulosvoitollisen neljänneksen, tosin vain oikaistuna.
Miksi Anthropic tarvitsee listautumisannin
Pörssiin listautuminen antaisi Anthropicille uuden pääomalähteen aikana, jolloin kehittyneiden tekoälymallien kehittäminen vaatii valtavia investointeja. Yhtiö on jo kertonut sijoittajille, että sen pilvi-infrastruktuuria, laskentatehoa ja muita resursseja koskevat velvoitteet nousevat tulevina vuosina 518 miljardiin dollariin.
Listautumisanti auttaisi Anthropicia myös vähentämään riippuvuuttaan yksityisistä rahoituskierroksista ja antaisi varhaisille sijoittajille mahdollisuuden myydä omistusosuuksiaan vähitellen julkisilla markkinoilla. Nopea liikevaihdon kasvu tukee korkeaa arvostusta, mutta listautumisen jälkeen yhtiön on säännöllisesti osoitettava sijoittajille, että liiketoiminnan kasvu voi kattaa laskennan ja infrastruktuurin valtavat kustannukset.
Anthropic on hiljattain julkaissut myös edullisemman tekoälymallin.
Viimeisimmät Anthropic uutiset
- Forex
- Crypto