Anthropic usará IA para detectar vulnerabilidades em projetos cripto
A Anthropic apresentou o OSS Scanner, um serviço que usa inteligência artificial para detectar vulnerabilidades no código de software. A Nethermind, desenvolvedora de um cliente da rede Ethereum, e a ZEUS, uma carteira de Bitcoin, estavam entre as primeiras a solicitar análises de segurança.
Este artigo foi traduzido do original. Leia a versão original do nosso correspondente aqui.
Segundo um anúncio no site da Anthropic, o serviço é voltado a projetos de código aberto e fornece relatórios sobre possíveis vulnerabilidades gerados pelos modelos de IA mais poderosos da empresa, incluindo o Claude Mythos.
Anteriormente, a Anthropic já analisava softwares de código aberto em busca de problemas de segurança, mas os resultados só eram compartilhados com os desenvolvedores após uma revisão humana. Esse processo consumia tempo e atrasava a correção das vulnerabilidades identificadas.
O novo serviço permitirá que os participantes recebam os relatórios imediatamente após a análise automatizada do código. Isso ajudará os desenvolvedores a identificar e corrigir vulnerabilidades mais rapidamente, sem esperar a conclusão das revisões manuais.
Quais projetos cripto querem usar a IA da Anthropic?
A Nethermind, desenvolvedora de um cliente da rede Ethereum, estava entre os primeiros projetos a solicitar participação no programa. A empresa pediu uma análise de segurança de todo o seu repositório para identificar possíveis vulnerabilidades em seu código de software.
Os desenvolvedores da ZEUS, uma carteira self-custody para Bitcoin e a Lightning Network, também solicitaram uma revisão de segurança do aplicativo. Eles querem se concentrar especialmente em vulnerabilidades que possam afetar pagamentos, chaves privadas dos usuários e conexões com serviços da Lightning.
Outra solicitação veio da VirtEngine, uma plataforma descentralizada de computação em nuvem criada com o Cosmos SDK.
Entre os demais candidatos estão desenvolvedores de assistentes de IA, ferramentas de segurança para agentes de IA, serviços de armazenamento em nuvem e softwares para gerenciamento de sistemas de energia.
Até o momento da publicação, nenhuma das solicitações havia sido aprovada. A Anthropic planeja avaliar os projetos individualmente, considerando sua importância para a infraestrutura digital, o número de usuários e serviços dependentes, além de sua possível exposição a ataques remotos.
Hackers usam cada vez mais a inteligência artificial
O interesse das empresas cripto no programa da Anthropic ocorre em meio ao aumento do número de ataques cibernéticos envolvendo inteligência artificial. Os modelos modernos de IA permitem que os invasores analisem códigos de software, identifiquem vulnerabilidades e desenvolvam exploits com mais rapidez.
Em agosto, o serviço de swap de Bitcoin Boltz foi forçado a suspender as operações após uma série de ataques assistidos por IA. A empresa afirmou que os invasores estavam desenvolvendo novos exploits mais rapidamente do que seus desenvolvedores conseguiam corrigir as vulnerabilidades descobertas.
O serviço de pagamentos cripto PayPerQ também relatou ataques recorrentes que suspeita terem sido impulsionados por inteligência artificial.
A Anthropic reconhece que o desenvolvimento da IA pode dar vantagem aos invasores no curto prazo. Encontrar e explorar vulnerabilidades está se tornando mais barato e rápido, enquanto verificar problemas de segurança e corrigi-los ainda exige envolvimento humano.
O programa OSS Scanner pretende reduzir essa diferença. No entanto, o acesso não será automático. A Anthropic pretende selecionar projetos com base em sua importância para a segurança dos usuários e a resiliência da infraestrutura digital.
Por que os desenvolvedores confiam na Anthropic
A Anthropic é conhecida não apenas como desenvolvedora da família de modelos de IA Claude, mas também como uma empresa que dá atenção especial à segurança da inteligência artificial. Ela foi fundada em 2021 por ex-funcionários da OpenAI, incluindo Dario e Daniela Amodei. Desde o início, a empresa colocou a segurança e a controlabilidade de modelos de IA poderosos entre suas principais prioridades.
A reputação da Anthropic também é reforçada por suas parcerias com grandes empresas de tecnologia, incluindo Amazon e Google, que investiram bilhões de dólares em seu desenvolvimento. A empresa também trabalha amplamente com clientes corporativos que priorizam confiabilidade, proteção de dados e controle sobre o uso da IA. Para projetos de criptomoedas que lidam com fundos de usuários e chaves privadas, esses fatores podem ser especialmente importantes.
Como lembrete, a Anthropic está ampliando seu programa de apoio a startups de IA.
Últimas notícias Anthropic
- Forex
- Crypto