Anthropic rivela i «rischi esistenziali» dell’IA in vista dell’IPO

Anthropic rivela i «rischi esistenziali» dell’IA in vista dell’IPO
In che modo l’IA minaccia il mondo?

​Anthropic ha avvertito formalmente gli investitori per la prima volta che la sua tecnologia potrebbe comportare «rischi esistenziali per l’umanità». L’avvertimento compare nel prospetto per l’IPO della società, che negli ultimi giorni è stato distribuito a un gruppo ristretto di partner.

Questo articolo è stato tradotto dall'originale. Leggi la versione originale del nostro corrispondente qui.

La società, guidata da Dario Amodei e valutata quasi 1,000 miliardi di dollari, ha dedicato quasi un terzo del lungo documento ai fattori di rischio. Tra questi, Anthropic indica la possibilità che modelli di IA sempre più avanzati possano manipolare le persone, ricattarle e mostrare altri comportamenti imprevedibili, secondo il Financial Times.

Il documento illustra anche rischi più convenzionali per gli investitori. Uno di questi è la forte dipendenza della società da un ristretto gruppo di clienti. Secondo persone a conoscenza del prospetto, appena due clienti hanno rappresentato quasi un quarto dei ricavi di Anthropic lo scorso anno.

Anthropic si prepara all’IPO

Tali avvertimenti potrebbero complicare la valutazione della società in vista dell’esordio in Borsa. Anthropic dovrebbe lanciare quella che potrebbe diventare la più grande IPO della storia per valutazione.

Lo sviluppatore di Claude ha inoltre divulgato maggiori informazioni sui costi necessari per sviluppare modelli di IA all’avanguardia. La società dovrebbe quotarsi sul Nasdaq questo autunno.

Anthropic ha comunicato agli investitori di prevedere una spesa di 518 miliardi di dollari nei prossimi anni per infrastrutture cloud, potenza di calcolo e altri impegni necessari a sostenere la sua rapida crescita.

I finanziatori della società si aspettano che Anthropic si quoti a una valutazione superiore a 2,000 miliardi di dollari. Sarebbe più del doppio del livello raggiunto nell’ultimo round di finanziamento di maggio e superiore alla valutazione di SpaceX, pari a 1,780 miliardi di dollari, raggiunta a giugno. L’ottimismo degli investitori è trainato in larga misura dalla rapida crescita della società.

Tuttavia, le preoccupazioni per la sicurezza dell’IA stanno assumendo un rilievo sempre maggiore. Dipendenti attuali ed ex dipendenti di Anthropic hanno recentemente avvertito pubblicamente che uno sviluppo incontrollato dell’IA potrebbe teoricamente rappresentare una minaccia per l’umanità entro il prossimo decennio.

La scorsa settimana, Amodei ha dichiarato al Consiglio di sicurezza delle Nazioni Unite che l’IA potrebbe minacciare l’umanità ed è «la più importante questione di sicurezza globale che il mondo si trova oggi ad affrontare».

Questo mese, il CEO di Anthropic ha inoltre chiesto di rallentare lo sviluppo dei sistemi di IA più avanzati. Le sue proposte per una maggiore cooperazione nel settore e misure di sicurezza più rigorose hanno ricevuto il sostegno del CEO di OpenAI, Sam Altman, e di Elon Musk.

Le preoccupazioni si sono intensificate dopo una serie di incidenti di cybersecurity di alto profilo, nei quali agenti di IA hanno ottenuto accesso a sistemi esterni. La scorsa settimana, OpenAI ha dichiarato che i suoi strumenti avevano violato «decine» di siti web esterni, inclusi siti governativi.

Lunedì, OpenAI ha inoltre abbandonato i piani di rilasciare il suo modello più recente il mese prossimo, citando preoccupazioni relative alla sicurezza.

La crescita dei ricavi comporta costi enormi

Il prospetto di Anthropic ha inoltre rivelato nuovi dettagli sulla performance finanziaria della società. Lo scorso anno, la perdita operativa ha superato gli 8 miliardi di dollari, mentre la spesa per la potenza di calcolo è aumentata vertiginosamente.

I ricavi sono aumentati di dodici volte, raggiungendo quasi 4,6 miliardi di dollari. Allo stesso tempo, il costo dell’addestramento e dell’esecuzione dei suoi modelli ha portato le spese operative a quasi 13 miliardi di dollari.

Per assicurarsi la potenza di calcolo necessaria, Anthropic ha firmato accordi con Google, SpaceX e diverse società più piccole.

Sia i ricavi sia la spesa hanno continuato ad aumentare rapidamente quest’anno. Anthropic ha generato 11,5 miliardi di dollari di ricavi nel secondo trimestre ed è sulla buona strada per registrare il secondo trimestre consecutivo di utile operativo, sebbene solo su base rettificata.

Perché Anthropic ha bisogno di un’IPO

La quotazione in Borsa darebbe ad Anthropic accesso a una nuova fonte di capitale in un momento in cui lo sviluppo di modelli di IA avanzati richiede investimenti enormi. La società ha già comunicato agli investitori che i suoi impegni per infrastrutture cloud, potenza di calcolo e altre risorse raggiungeranno 518 miliardi di dollari nei prossimi anni.

Un’IPO consentirebbe inoltre ad Anthropic di ridurre la dipendenza dai round di finanziamento privati e offrirebbe ai primi investitori l’opportunità di vendere gradualmente le proprie partecipazioni sul mercato pubblico. La rapida crescita dei ricavi aiuta la società a giustificare una valutazione elevata, ma dopo la quotazione dovrà dimostrare regolarmente agli investitori che la crescita del business può compensare gli enormi costi di calcolo e infrastruttura.

Anthropic ha inoltre introdotto di recente un modello di intelligenza artificiale a costi inferiori.

Questo materiale può contenere opinioni di terze parti, nessuno dei dati e delle informazioni su questa pagina web costituisce consulenza sugli investimenti secondo il nostro Disclaimer. Sebbene aderiamo a una rigorosa Integrità Editoriale, questo post può contenere riferimenti a prodotti dei nostri partner.