O apelo da Anthropic por desaceleração: a segurança pode frear a corrida pela IA sem ceder a liderança?

​A Anthropic há muito se posiciona como a empresa de IA focada em segurança, que equilibra avanços em modelos com salvaguardas rigorosas. Mas o recente apelo do CEO Dario Amodei para moderar os avanços de capacidade levanta a questão de saber se uma contenção eficaz pode coexistir com a liderança comercial sem ceder espaço a outros rivais ou à China.

Um apelo para moderar a fronteira da IA

Enquanto se prepara para uma possível IPO na Nasdaq (que deve atingir cerca de US$ 2 trilhões), o CEO Dario Amodei pediu publicamente aos laboratórios de IA de fronteira que “moderem a fronteira”. Seu plano de três etapas visa desacelerar o ritmo dos avanços de capacidade para que as medidas de segurança possam acompanhar. O cofundador Jack Clark acrescentou que os governos talvez precisem exigir interruptores de emergência de IA verificáveis. 

Ver publicação no X Carregando...

O tweet foi excluído pelo autor.

Mas guardámos tudo 🙂.

Poucos dias antes, a empresa publicou um relatório detalhado de inteligência sobre ameaças que forneceu inúmeros exemplos de como diferentes pessoas tentaram fazer uso indevido do Claude em operações cibernéticas e até em softwares para armas. Amodei também alertou que “enxames” de IA mais capazes poderiam potencialmente controlar uma grande fração da internet em 6–12 meses. Sam Altman, da OpenAI, e Elon Musk também expressaram opiniões semelhantes sobre o problema. Altman disse que a OpenAI já havia tomado algumas medidas para introduzir internamente um ritmo mais moderado.

Rentabilidade encontra cautela

Do ponto de vista financeiro, a Anthropic reporta resultados financeiros consistentemente fortes. A empresa espera um segundo trimestre consecutivo de lucro operacional ajustado positivo. As margens brutas estão acima de 80 por cento antes das participações na receita de parceiros e dos custos de treinamento. A receita do segundo trimestre atingiu aproximadamente US$ 11,5 bilhões, com a receita anualizada chegando a US$ 65 bilhões no fim de julho. Esses números explicam a IPO planejada. A Anthropic selecionou a Nasdaq como plataforma de listagem e está se preparando para uma possível estreia em outubro. 

Ver publicação no X Carregando...

O tweet foi excluído pelo autor.

Mas guardámos tudo 🙂.

A rentabilidade sustentada é importante para aumentar a confiança dos investidores preocupados com a queima de caixa típica dos laboratórios de IA de fronteira. No entanto, o rápido crescimento da receita depende de avanços contínuos de capacidade e da adoção empresarial de modelos como o Claude. Desacelerar o ritmo de desenvolvimento poderia dar margem para os concorrentes alcançarem a empresa ou permitir que companhias chinesas reduzam a diferença. Amodei acredita que o progresso ainda pareceria rápido sob um regime de ritmo moderado, mas seria possível prevenir a maioria dos riscos de segurança.

Interruptores de emergência e supervisão de terceiros

Jack Clark aprofundou ainda mais a discussão. Em entrevista à BBC, o cofundador da Anthropic disse que a maioria dos laboratórios já tem meios internos para desligar sistemas. A questão mais difícil, argumentou ele, é se os governos deveriam exigir interruptores de emergência verificáveis que pudessem ser confirmados por terceiros independentes. Esses mecanismos garantiriam responsabilização externa.  

Ver publicação no X Carregando...

O tweet foi excluído pelo autor.

Mas guardámos tudo 🙂.

A Anthropic concordou com uma revisão independente pela METR de incidentes anteriores nos quais modelos Claude acessaram sistemas externos durante testes. Essas medidas têm um impacto positivo na marca de segurança da Anthropic e podem proporcionar uma vantagem competitiva frente a rivais que avançam mais rapidamente. Mas também surgem novas questões relacionadas aos processos internos, aos custos de conformidade e às exigências regulatórias.

Geopolítica da contenção

Amodei enfatizou que os países democráticos deveriam coordenar a contenção sem entregar a liderança tecnológica à China. Empresas chinesas e atores ligados ao Estado estão sistematicamente presentes nos relatórios de uso indevido da Anthropic, incluindo tentativas de destilação de modelos e coleta de inteligência. Alguns legisladores dos EUA citaram alertas de pesquisadores, concordam com o risco existencial e defendem regras mais rígidas. Outros, incluindo figuras próximas à administração, veem pausas motivadas pela segurança como um presente para Pequim. 

Ver publicação no X Carregando...

O tweet foi excluído pelo autor.

Mas guardámos tudo 🙂.

Os controles de exportação e as restrições seletivas de acesso a modelos avançados já demonstraram o papel crescente da geopolítica na geopolítica. Uma desaceleração coordenada da qual a China se recuse a participar poderia deixar as empresas dos EUA em desvantagem. Relatórios mostram que algumas empresas, como Nvidia, Palantir e Booz Allen, restringiram determinados modelos da Anthropic devido a preocupações com retenção de dados e propriedade intelectual. Assim, incidentes de segurança ou mudanças de política afetam diretamente a confiança no nível corporativo.

Equilibrando marca e concorrência

A IA Constitucional, os testes rigorosos e os relatórios públicos sobre ameaças são usados pela Anthropic para criar a imagem de uma empresa responsável e ajudar a atrair clientes empresariais avessos ao risco. O lançamento recente do Claude para consultores financeiros, com conectores para BlackRock, Charles Schwab e Addepar, indica expansão comercial mesmo enquanto defende a contenção. Se os concorrentes entregarem saltos de capacidade e conquistarem participação de mercado, investidores e clientes poderão interpretar a cautela como hesitação; portanto, a gestão deve equilibrar adequadamente todas as preocupações a esse respeito.

Ver publicação no X Carregando...

O tweet foi excluído pelo autor.

Mas guardámos tudo 🙂.

Discussões anteriores sobre segurança em todo o setor produziram compromissos voluntários que se mostraram difíceis de aplicar sob pressão competitiva. A Anthropic está tentando resolver esse problema ao liderar com transparência e acesso de terceiros, enquanto ainda busca crescimento agressivo com a expectativa de uma futura IPO. O sucesso dependerá de pares suficientes seguirem o exemplo — e de os mercados recompensarem a cautela tanto quanto a capacidade.