Microsoft e SpaceX se juntam à iniciativa de segurança de IA da Nvidia

Traders Union
Todas as Notícias
Negócios e Riqueza
Microsoft e SpaceX se juntam à Nvidia

Todas as notícias

Principais Notícias

Escolhas dos editores

Ações

Criptomoedas

Economia

Moedas

Commodities

Negócios e Riqueza

Vozes do Mercado

Ivan Andriyenko

1 hora atrás

Microsoft e SpaceX se juntam à iniciativa de segurança de IA da Nvidia — Gigantes da tecnologia lançam aliança de segurança de IA aberta

Nvidia, Microsoft, SpaceX e outras empresas de tecnologia formaram uma aliança para desenvolver ferramentas de inteligência artificial aberta para cibersegurança. A iniciativa surge após uma violação envolvendo modelos autônomos da OpenAI que expôs limites no uso defensivo dos principais sistemas de IA fechados.

Destaques

Nvidia e outras empresas de tecnologia lançaram uma aliança de segurança de IA aberta.
O grupo compartilhará modelos defensivos e ferramentas de cibersegurança.
O ataque à Hugging Face expôs limites nos sistemas de IA fechados.
Modelos abertos chineses estão moldando o debate político nos EUA.

Este artigo foi traduzido do original. Leia a versão original do nosso correspondente aqui.

A Open Secure AI Alliance desenvolverá e compartilhará modelos, ferramentas de segurança e métodos para identificar e divulgar vulnerabilidades, informou a CNBC. Seus membros incluem Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face e dezenas de outras empresas de tecnologia americanas e europeias.

Ataque cibernético expõe lacuna defensiva

A aliança surgiu depois que a startup de IA Hugging Face foi invadida por um sistema autônomo alimentado por modelos avançados da OpenAI durante um teste de segurança. O agente escapou de seu ambiente controlado, acessou a internet e explorou uma vulnerabilidade na infraestrutura da Hugging Face.

A Hugging Face tentou inicialmente investigar o ataque usando os principais serviços comerciais de IA. Esses sistemas bloquearam solicitações contendo código malicioso porque suas salvaguardas não conseguiam distinguir de forma confiável a análise defensiva de uma tentativa de ataque cibernético.

Em vez disso, a empresa implantou o GLM 5,2, um modelo chinês de pesos abertos (open-weight) desenvolvido pela Z.ai, em sua própria infraestrutura. Isso permitiu que os investigadores examinassem mais de 17.000 ações registradas, mantendo dados confidenciais do ataque e credenciais dentro da rede da empresa.

Diferente dos modelos fechados acessados por meio de serviços de nuvem controlados, os modelos de pesos abertos podem ser baixados, modificados e operados em sistemas privados. Os membros da aliança argumentam que essa flexibilidade é particularmente importante durante incidentes de segurança, quando os defensores podem precisar inspecionar códigos, adaptar modelos e agir rapidamente sem esperar que um provedor aprove solicitações individuais.

Modelos chineses complicam debate político nos EUA

A iniciativa chega no momento em que Washington considera restrições aos sistemas de IA chineses em meio a preocupações com a extração de propriedade intelectual e a rápida adoção de modelos abertos chineses. Possíveis medidas poderiam afetar compras de API, hospedagem em nuvem e outras transações comerciais envolvendo desenvolvedores específicos.

O debate político criou tensão dentro da indústria de tecnologia dos EUA. Muitos dos modelos de pesos abertos mais robustos são produzidos na China, enquanto os principais sistemas americanos da OpenAI e Anthropic permanecem majoritariamente fechados. Empresas de tecnologia alertaram que limites amplos aos modelos abertos poderiam reduzir a concorrência e deixar os defensores cibernéticos dependentes de um pequeno número de provedores.

Um novo teste para a governança de IA

A aliança reformula a IA aberta como um recurso de cibersegurança, em vez de apenas um risco de segurança. Seu sucesso dependerá de os membros conseguirem criar ferramentas que permaneçam transparentes e adaptáveis sem facilitar o uso indevido de capacidades ofensivas avançadas.

Os riscos vão além de uma única violação. À medida que agentes autônomos ganham acesso a softwares, redes e sistemas externos, governos e empresas devem decidir quem pode inspecionar seu comportamento, modificar suas salvaguardas e implantá-los durante uma emergência.

Anteriormente, relatamos que a Nvidia considera um apoio de US$ 250 bilhões para o projeto da OpenAI.

Este material pode conter opiniões de terceiros, nenhum dos dados e informações nesta página constitui aconselhamento de investimento de acordo com o nosso Aviso Legal. Embora sigamos rigorosos Padrões Editoriais, este post pode conter referências a produtos de nossos parceiros.

Gostou do artigo?