Anthropic dezvăluie „riscurile existențiale” ale AI înaintea IPO-ului

Anthropic dezvăluie „riscurile existențiale” ale AI înaintea IPO-ului
Cum amenință AI lumea?

​Anthropic a avertizat oficial investitorii, pentru prima dată, că tehnologia sa ar putea prezenta „riscuri existențiale pentru omenire”. Avertismentul apare în prospectul IPO al companiei, care a fost distribuit unui grup restrâns de parteneri în ultimele zile.

Acest articol a fost tradus din original. Citiți versiunea originală a corespondentului nostru aici.

Compania, condusă de Dario Amodei și evaluată la aproape 1T $, a dedicat aproape o treime din documentul amplu factorilor de risc. Printre aceștia, Anthropic enumeră posibilitatea ca modelele AI tot mai avansate să manipuleze oamenii, să recurgă la șantaj și să manifeste alte comportamente imprevizibile, potrivit Financial Times.

Documentul prezintă și riscuri mai convenționale pentru investitori. Unul dintre acestea este dependența puternică a companiei de un grup restrâns de clienți. Potrivit unor persoane familiarizate cu prospectul, doar doi clienți au generat aproape un sfert din veniturile Anthropic anul trecut.

Anthropic se pregătește pentru IPO

Astfel de avertismente ar putea complica evaluarea companiei înaintea debutului bursier. Anthropic urmează să lanseze ceea ce ar putea deveni cel mai mare IPO din istorie după evaluare.

Dezvoltatorul Claude a dezvăluit și mai multe informații despre costurile necesare pentru construirea modelelor AI de ultimă generație. Compania este așteptată să se listeze pe Nasdaq în această toamnă.

Anthropic le-a transmis investitorilor că intenționează să cheltuiască 518B $ în următorii ani pentru infrastructură cloud, putere de calcul și alte obligații necesare susținerii creșterii rapide.

Susținătorii companiei se așteaptă ca Anthropic să se listeze la o evaluare de peste 2T $. Aceasta ar fi mai mult decât dublul nivelului atins la ultima rundă de finanțare, în mai, și peste evaluarea de 1,78T $ a SpaceX, atinsă în iunie. Optimismul investitorilor este alimentat în principal de creșterea rapidă a companiei.

Totuși, preocupările legate de siguranța AI devin tot mai importante. Angajați actuali și foști angajați ai Anthropic au avertizat recent în mod public că dezvoltarea necontrolată a AI ar putea reprezenta, teoretic, o amenințare pentru omenire în următorul deceniu.

Săptămâna trecută, Amodei a declarat în fața Consiliului de Securitate al ONU că AI ar putea amenința omenirea și este „cea mai importantă problemă de securitate globală cu care se confruntă lumea în prezent”.

În această lună, CEO-ul Anthropic a cerut, de asemenea, încetinirea dezvoltării celor mai avansate sisteme AI. Propunerile sale privind o cooperare mai strânsă în industrie și măsuri de siguranță mai stricte au fost susținute de CEO-ul OpenAI, Sam Altman, și de Elon Musk.

Preocupările s-au intensificat după o serie de incidente cibernetice de amploare, în care agenți AI au obținut acces la sisteme externe. Săptămâna trecută, OpenAI a declarat că instrumentele sale au spart „zeci” de site-uri externe, inclusiv site-uri guvernamentale.

Luni, OpenAI a renunțat și la planurile de a lansa cel mai nou model luna viitoare, invocând preocupări legate de siguranță.

Creșterea veniturilor vine cu costuri masive

Prospectul Anthropic a dezvăluit și noi detalii despre performanța financiară a companiei. Anul trecut, pierderea operațională a depășit 8B $, pe fondul creșterii cheltuielilor pentru puterea de calcul.

Veniturile au crescut de 12 ori, până la aproape 4,6B $. În același timp, costurile de instruire și rulare a modelelor au împins cheltuielile operaționale la aproape 13B $.

Pentru a-și asigura puterea de calcul necesară, Anthropic a semnat acorduri cu Google, SpaceX și mai multe companii mai mici.

Atât veniturile, cât și cheltuielile au continuat să crească puternic în acest an. Anthropic a generat venituri de 11,5B $ în al doilea trimestru și se îndreaptă către al doilea trimestru consecutiv cu profit operațional, deși doar pe baza valorilor ajustate.

De ce are Anthropic nevoie de un IPO

Listarea la bursă i-ar oferi Anthropic acces la o nouă sursă de capital într-un moment în care dezvoltarea modelelor AI avansate necesită cheltuieli uriașe. Compania le-a transmis deja investitorilor că obligațiile sale pentru infrastructură cloud, putere de calcul și alte resurse vor ajunge la 518B $ în următorii ani.

Un IPO i-ar permite, de asemenea, Anthropic să-și reducă dependența de rundele private de finanțare și să le ofere investitorilor timpurii posibilitatea de a-și vinde treptat participațiile pe piața publică. Creșterea rapidă a veniturilor ajută compania să justifice o evaluare ridicată, însă, după listare, va trebui să le demonstreze periodic investitorilor că dezvoltarea afacerii poate compensa costurile uriașe ale calculului și infrastructurii.

Anthropic a introdus recent și un model de inteligență artificială cu costuri mai reduse.

Acest material poate conține opinii ale unor terți, niciuna dintre datele și informațiile de pe această pagină web nu constituie sfaturi de investiții conform Declinării noastre de responsabilitate. Deși respectăm o Integritate Editorială strictă, această postare poate conține referințe la produse de la partenerii noștri.