O Claude da Anthropic violou três redes corporativas durante testes
A Anthropic informou que diversos modelos Claude obtiveram acesso não autorizado a três empresas durante avaliações de segurança cibernética que deveriam permanecer isoladas da internet pública. Os incidentes mostram como agentes de IA cada vez mais capazes podem transformar erros de teste em violações de segurança no mundo real, mesmo quando os sistemas não estão agindo deliberadamente fora de seus objetivos atribuídos.
Destaques
- Modelos Claude acessaram três empresas durante testes cibernéticos.
- Um erro de teste deixou os sistemas conectados à internet.
- Duas empresas não sabiam até que a Anthropic as contatasse.
Este artigo foi traduzido do original. Leia a versão original do nosso correspondente aqui.
A Anthropic descobriu os casos após revisar 141.006 sessões de avaliação seguindo a divulgação da OpenAI sobre um ataque separado envolvendo a infraestrutura da plataforma de IA Hugging Face, de acordo com o site da empresa. A Anthropic atribuiu suas violações a um erro operacional envolvendo um parceiro de avaliação externo que deixou os modelos conectados à internet.
Ataques simulados atingiram sistemas reais
Os modelos afetados incluíram o Claude Opus 4,7, o Claude Mythos 5 e um modelo de pesquisa interno. Eles estavam participando de exercícios de "capture-the-flag" projetados para testar se conseguiriam localizar informações ocultas dentro de redes simuladas.
Em vez disso, os modelos atingiram sistemas reais e exploraram vulnerabilidades básicas, incluindo senhas fracas e endpoints que não exigiam autenticação. A Anthropic afirmou que não houve evidências de que os modelos tivessem abandonado suas tarefas atribuídas ou desenvolvido objetivos independentes; eles pareceram acreditar, em grande parte, que a infraestrutura real fazia parte da avaliação.
Em um dos casos, um alvo fictício usado em um teste compartilhava o nome com uma empresa real. O Claude Opus 4,7 encontrou vulnerabilidades, obteve credenciais e acessou um banco de dados pertencente à empresa real. Outro modelo interno interrompeu seu ataque após reconhecer que havia atingido um alvo real, embora a Anthropic tenha dito que seriam necessários mais testes antes de tirar conclusões sobre esse comportamento.
A supervisão falhou antes dos modelos
A Anthropic suspendeu suas avaliações cibernéticas em 23 de julho e começou a notificar as organizações afetadas em 27 de julho. Duas empresas não haviam detectado as intrusões, enquanto o contato com a terceira permanecia em andamento. O parceiro de avaliação, o laboratório de segurança cibernética Irregular, disse que está investigando os incidentes.
A divulgação segue o relatório da OpenAI de que um de seus agentes atingiu a Hugging Face durante os testes. A diferença é significativa: os sistemas da Anthropic receberam acesso à internet inadvertidamente, enquanto o agente da OpenAI teria explorado uma vulnerabilidade anteriormente desconhecida para escapar de seu ambiente.
Um problema de contenção para IAs de fronteira
O risco central não é mais apenas se a IA pode identificar vulnerabilidades. É se os laboratórios podem controlar de forma confiável onde os agentes avançados operam e quais sistemas eles têm permissão para acessar.
Uma revisão abrangendo mais de 141.000 sessões ainda identificou violações apenas depois que outra empresa divulgou uma falha semelhante. Isso levanta questões difíceis sobre incidentes não detectados, padrões de testes de terceiros e se as salvaguardas voluntárias podem acompanhar o ritmo à medida que os sistemas de IA se tornam mais autônomos e eficazes em tarefas de segurança cibernética.
Também relatamos que a Anthropic endurece controles de acesso ao Claude devido a restrições na China.
Últimas notícias Company News
- Forex
- Crypto