Anthropic revela “riscos existenciais” da IA antes do IPO

Anthropic revela “riscos existenciais” da IA antes do IPO
Como a IA ameaça o mundo?

​A Anthropic alertou formalmente os investidores, pela primeira vez, que sua tecnologia poderia representar “riscos existenciais para a humanidade”. O alerta aparece no prospecto de IPO da empresa, que circulou entre um grupo limitado de parceiros nos últimos dias.

Este artigo foi traduzido do original. Leia a versão original do nosso correspondente aqui.

A empresa, liderada por Dario Amodei e avaliada em quase US$ 1T, dedicou quase um terço do extenso documento aos fatores de risco. Entre eles, a Anthropic menciona a possibilidade de que modelos de IA cada vez mais avançados manipulem pessoas, pratiquem extorsão e apresentem outros comportamentos imprevisíveis, segundo o Financial Times.

O documento também detalha riscos mais convencionais para os investidores. Um deles é a forte dependência da empresa de um pequeno grupo de clientes. Segundo pessoas familiarizadas com o prospecto, apenas dois clientes responderam por quase um quarto da receita da Anthropic no ano passado.

Anthropic se prepara para o IPO

Esses alertas podem complicar a avaliação da empresa antes de sua estreia na bolsa. A Anthropic deve realizar o que pode se tornar o maior IPO da história em termos de valuation.

A desenvolvedora do Claude também divulgou mais informações sobre os custos necessários para criar modelos de IA de ponta. A empresa deve abrir seu capital na Nasdaq neste outono.

A Anthropic informou aos investidores que planeja gastar US$ 518 bilhões nos próximos anos em infraestrutura de nuvem, poder computacional e outras obrigações necessárias para sustentar seu rápido crescimento.

Os apoiadores da empresa esperam que a Anthropic abra seu capital com um valuation superior a US$ 2T. Isso seria mais que o dobro do nível alcançado em sua última rodada de financiamento, em maio, e superaria o valuation de US$ 1,78T da SpaceX em junho. O otimismo dos investidores é impulsionado principalmente pelo rápido crescimento da empresa.

No entanto, as preocupações com a segurança da IA estão ganhando cada vez mais destaque. Funcionários atuais e antigos da Anthropic alertaram publicamente recentemente que o desenvolvimento descontrolado da IA poderia, em teoria, representar uma ameaça à humanidade na próxima década.

Na semana passada, Amodei disse ao Conselho de Segurança da ONU que a IA poderia ameaçar a humanidade e é “a questão de segurança global mais importante enfrentada pelo mundo atualmente”.

Neste mês, o CEO da Anthropic também defendeu a desaceleração do desenvolvimento dos sistemas de IA mais avançados. Suas propostas de maior cooperação entre as empresas do setor e medidas de segurança mais rigorosas receberam o apoio do CEO da OpenAI, Sam Altman, e de Elon Musk.

As preocupações aumentaram após uma série de incidentes de cibersegurança de grande repercussão, nos quais agentes de IA obtiveram acesso a sistemas externos. Na semana passada, a OpenAI afirmou que suas ferramentas haviam invadido “dezenas” de sites externos, incluindo sites governamentais.

Na segunda-feira, a OpenAI também abandonou os planos de lançar seu modelo mais recente no próximo mês, citando preocupações de segurança.

Crescimento da receita vem acompanhado de custos enormes

O prospecto da Anthropic também revelou novos detalhes sobre o desempenho financeiro da empresa. No ano passado, seu prejuízo operacional superou US$ 8 bilhões, à medida que os gastos com poder computacional dispararam.

A receita aumentou 12 vezes, para quase US$ 4,6 bilhões. Ao mesmo tempo, o custo de treinamento e operação de seus modelos elevou as despesas operacionais para quase US$ 13 bilhões.

Para garantir o poder computacional de que precisa, a Anthropic assinou acordos com Google, SpaceX e várias empresas menores.

Tanto a receita quanto os gastos continuaram subindo acentuadamente neste ano. A Anthropic gerou US$ 11,5 bilhões em receita no segundo trimestre e caminha para o segundo trimestre consecutivo de lucro operacional, embora apenas em base ajustada.

Por que a Anthropic precisa de um IPO

A abertura de capital daria à Anthropic acesso a uma nova fonte de capital em um momento em que o desenvolvimento de modelos avançados de IA exige gastos enormes. A empresa já informou aos investidores que suas obrigações com infraestrutura de nuvem, poder computacional e outros recursos chegarão a US$ 518 bilhões nos próximos anos.

Um IPO também permitiria à Anthropic reduzir sua dependência de rodadas privadas de financiamento e dar aos primeiros investidores a oportunidade de vender gradualmente suas participações no mercado público. O rápido crescimento da receita ajuda a empresa a justificar um valuation elevado, mas, após a listagem, ela terá de demonstrar regularmente aos investidores que o crescimento do negócio pode compensar os enormes custos de computação e infraestrutura.

A Anthropic também lançou recentemente um modelo de inteligência artificial de menor custo.

Este material pode conter opiniões de terceiros, nenhum dos dados e informações nesta página constitui aconselhamento de investimento de acordo com o nosso Aviso Legal. Embora sigamos rigorosos Padrões Editoriais, este post pode conter referências a produtos de nossos parceiros.