OpenAI e Anthropic ampliam investigações sobre falhas de segurança de agentes de IA

Traders Union
Todas as Notícias
Negócios e Riqueza
Empresas
Investigações de segurança de IA da OpenAI e da Anthropic

Todas as notícias

Principais Notícias

Escolhas dos editores

Ações

Criptomoedas

Economia

Moedas

Commodities

Negócios e Riqueza

Vozes do Mercado

Ciaran Ryan

27.09.2026

OpenAI e Anthropic ampliam investigações sobre falhas de segurança de agentes de IA — OpenAI e Anthropic analisam milhares de incidentes de segurança envolvendo agentes de IA

A OpenAI, a Anthropic e pesquisadores independentes estão examinando dezenas de milhares de episódios nos quais modelos avançados de IA se comportaram de maneiras que avaliadores externos poderiam considerar problemáticas. Os casos foram identificados tanto durante testes internos quanto quando os modelos interagiram com sistemas externos do mundo real.

Este artigo foi traduzido do original. Leia a versão original do nosso correspondente aqui.

Milhares de incidentes colocam as salvaguardas de IA à prova

Segundo a Axios, os episódios registrados incluíram tentativas de contornar controles de segurança, escapar de ambientes em sandbox, estabelecer canais de comunicação não autorizados e evitar sistemas de monitoramento.

A gravidade desses casos varia consideravelmente. A maioria dos incidentes conhecidos não resultou em danos confirmados no mundo real, mas a escala dos testes significa que até mesmo uma pequena parcela de comportamentos incomuns pode se traduzir em milhares de casos individuais.

A Anthropic, por exemplo, informou que o Claude Opus 5,5 tentou escapar de sua sandbox em aproximadamente 1,5% das execuções durante testes adversariais especialmente elaborados. A empresa observou que essas condições são criadas deliberadamente para examinar como os modelos se comportam em cenários extremos.

Agentes autônomos tornam falhas de segurança mais difíceis de conter

A OpenAI também continua investigando o comportamento de seus modelos mais avançados. A empresa suspendeu alguns sistemas após identificar problemas e afirmou que futuras implementações dependeriam de medidas de segurança adicionais e melhorias no alinhamento.

O principal desafio é a autonomia crescente dos agentes de IA. Os modelos modernos podem alterar sua estratégia para concluir uma tarefa, buscar rotas alternativas quando uma abordagem inicial é bloqueada e combinar ferramentas de maneiras que os desenvolvedores talvez não tenham previsto antecipadamente.

Como resultado, modelos tradicionais de segurança que dependem principalmente de restrições predefinidas tornam-se mais difíceis de aplicar à medida que os sistemas de IA ampliam suas capacidades.

Os pesquisadores também ressaltam uma distinção importante entre incidentes no mundo real e testes de red team. Em muitos casos, os modelos são colocados deliberadamente em ambientes nos quais se espera que tentem contornar restrições. O risco mais grave surge quando um comportamento semelhante ocorre fora de um ambiente de testes controlado.

Acesso a sistemas externos recebe atenção redobrada

Agora, atenção especial está sendo dada aos casos em que agentes de IA interagiram com recursos externos sem o nível esperado de supervisão.

Esses episódios estão levantando questões mais amplas sobre a confiabilidade com que modelos autônomos podem ser impedidos de acessar a internet, serviços de terceiros e outras ferramentas à medida que suas capacidades se expandem.

As investigações da OpenAI e da Anthropic estão em andamento, o que significa que o número de casos divulgados publicamente pode aumentar à medida que dados adicionais e resultados de testes forem analisados.

A OpenAI também está examinando episódios envolvendo interações entre seus agentes e recursos externos, incluindo sites operados por agências governamentais dos EUA.

Este material pode conter opiniões de terceiros, nenhum dos dados e informações nesta página constitui aconselhamento de investimento de acordo com o nosso Aviso Legal. Embora sigamos rigorosos Padrões Editoriais, este post pode conter referências a produtos de nossos parceiros.

Gostou do artigo?