Anthropic analizará proyectos cripto para detectar vulnerabilidades con IA
Anthropic ha presentado OSS Scanner, un servicio que utiliza inteligencia artificial para detectar vulnerabilidades en el código de software. El desarrollador del cliente de Ethereum, Nethermind, y la wallet de Bitcoin ZEUS estuvieron entre los primeros en solicitar análisis de seguridad.
Este artículo ha sido traducido del original. Lea la versión original de nuestro corresponsal aquí.
Según un anuncio publicado en el sitio web de Anthropic, el servicio está diseñado para proyectos de código abierto y proporciona informes sobre posibles vulnerabilidades generados por los modelos de IA más potentes de la compañía, incluido Claude Mythos.
Anteriormente, Anthropic ya analizaba software de código abierto en busca de problemas de seguridad, pero los resultados solo se compartían con los desarrolladores después de una revisión humana. Este proceso requería mucho tiempo y retrasaba la corrección de las vulnerabilidades identificadas.
El nuevo servicio permitirá a los participantes recibir informes inmediatamente después del análisis automatizado del código. Esto ayudará a los desarrolladores a identificar y corregir vulnerabilidades más rápido, sin tener que esperar a que concluyan las revisiones manuales.
¿Qué proyectos cripto quieren utilizar la IA de Anthropic?
Nethermind, el desarrollador de un cliente de la red Ethereum, fue uno de los primeros proyectos en solicitar participar en el programa. La compañía pidió un análisis de seguridad de todo su repositorio para identificar posibles vulnerabilidades en su código de software.
Los desarrolladores de ZEUS, una wallet autocustodiada para Bitcoin y Lightning Network, también solicitaron una revisión de seguridad de su aplicación. Quieren centrarse especialmente en las vulnerabilidades que podrían afectar a los pagos, las claves privadas de los usuarios y las conexiones con los servicios de Lightning.
Otra solicitud procedió de VirtEngine, una plataforma descentralizada de computación en la nube creada con Cosmos SDK.
Entre los demás solicitantes figuran desarrolladores de asistentes de IA, herramientas de seguridad para agentes de IA, servicios de almacenamiento en la nube y software para gestionar sistemas energéticos.
En el momento de la publicación, ninguna de las solicitudes había sido aprobada. Anthropic tiene previsto evaluar los proyectos individualmente, teniendo en cuenta su importancia para la infraestructura digital, el número de usuarios y servicios dependientes, así como su posible exposición a ataques remotos.
Los hackers utilizan cada vez más la inteligencia artificial
El interés de las empresas cripto en el programa de Anthropic se produce en un contexto de creciente número de ciberataques en los que interviene la inteligencia artificial. Los modelos modernos de IA permiten a los atacantes analizar el código de software, identificar puntos débiles y desarrollar exploits con mayor rapidez.
En agosto, el servicio de swaps de Bitcoin Boltz se vio obligado a suspender sus operaciones tras una serie de ataques asistidos por IA. La compañía afirmó que los atacantes desarrollaban nuevos exploits más rápido de lo que sus desarrolladores podían aplicar parches a las vulnerabilidades descubiertas.
El servicio de pagos cripto PayPerQ también informó de ataques reiterados que, según sospechaba, estaban impulsados por inteligencia artificial.
Anthropic reconoce que el desarrollo de la IA podría dar ventaja a los atacantes a corto plazo. Encontrar y explotar vulnerabilidades es cada vez más barato y rápido, mientras que verificar los problemas de seguridad y corregirlos todavía requiere intervención humana.
El programa OSS Scanner pretende reducir esta brecha. Sin embargo, el acceso no será automático. Anthropic seleccionará los proyectos en función de su importancia para la seguridad de los usuarios y la resiliencia de la infraestructura digital.
Por qué los desarrolladores confían en Anthropic
Anthropic es conocida no solo como desarrolladora de la familia de modelos de IA Claude, sino también como una compañía que presta especial atención a la seguridad de la inteligencia artificial. Fue fundada en 2021 por antiguos empleados de OpenAI, entre ellos Dario y Daniela Amodei. Desde el principio, la compañía convirtió la seguridad y la capacidad de control de los modelos de IA avanzados en una de sus principales prioridades.
La reputación de Anthropic también se ve respaldada por sus alianzas con grandes compañías tecnológicas, como Amazon y Google, que han invertido miles de millones de dólares en su desarrollo. La compañía también trabaja ampliamente con clientes empresariales que priorizan la fiabilidad, la protección de datos y el control sobre el uso de la IA. Para los proyectos de criptomonedas que gestionan fondos y claves privadas de usuarios, estos factores pueden ser especialmente importantes.
Como recordatorio, Anthropic está ampliando su programa de apoyo para startups de IA.
Últimas noticias sobre Anthropic
- Forex
- Crypto