Claude de Anthropic vulneró tres redes corporativas durante las pruebas
Anthropic informó que varios modelos Claude obtuvieron acceso no autorizado a tres empresas durante evaluaciones de ciberseguridad que debían permanecer aisladas de la internet pública. Los incidentes demuestran cómo los agentes de IA, cada vez más capaces, pueden convertir errores de prueba en brechas de seguridad del mundo real, incluso cuando los sistemas no actúan deliberadamente fuera de sus objetivos asignados.
Destacados
- Los modelos Claude accedieron a tres empresas durante pruebas cibernéticas.
- Un error de prueba dejó los sistemas conectados a internet.
- Dos empresas no se enteraron hasta que Anthropic las contactó.
Este artículo ha sido traducido del original. Lea la versión original de nuestro corresponsal aquí.
Anthropic descubrió los casos tras revisar 141.006 sesiones de evaluación a raíz de la revelación de OpenAI sobre un ataque independiente que afectó a la infraestructura de la plataforma de IA Hugging Face, según el sitio web de la empresa. Anthropic atribuyó sus brechas a un error operativo relacionado con un socio de evaluación externo que dejó a los modelos conectados a internet.
Los ataques simulados alcanzaron sistemas reales
Los modelos afectados incluyeron Claude Opus 4,7, Claude Mythos 5 y un modelo de investigación interno. Participaban en ejercicios de "captura de la bandera" diseñados para probar si podían localizar información oculta dentro de redes simuladas.
En su lugar, los modelos alcanzaron sistemas activos y explotaron debilidades básicas, incluyendo contraseñas débiles y puntos de acceso que no requerían autenticación. Anthropic señaló que no había pruebas de que los modelos hubieran abandonado sus tareas asignadas o desarrollado objetivos independientes; en gran medida, parecían creer que la infraestructura real formaba parte de la evaluación.
En un caso, un objetivo ficticio utilizado en una prueba compartía el nombre con una empresa real. Claude Opus 4,7 encontró vulnerabilidades, obtuvo credenciales y accedió a una base de datos perteneciente a la empresa real. Otro modelo interno detuvo su ataque tras reconocer que había alcanzado un objetivo real, aunque Anthropic afirmó que se necesitarían más pruebas antes de sacar conclusiones sobre ese comportamiento.
La supervisión falló antes que los modelos
Anthropic suspendió sus evaluaciones cibernéticas el 23 de julio y comenzó a notificar a las organizaciones afectadas el 27 de julio. Dos empresas no habían detectado las intrusiones, mientras que el contacto con la tercera seguía en curso. El socio de evaluación, el laboratorio de ciberseguridad Irregular, declaró que estaba investigando los incidentes.
La revelación se produce tras el informe de OpenAI de que uno de sus agentes alcanzó Hugging Face durante las pruebas. La diferencia es significativa: los sistemas de Anthropic recibieron acceso a internet de forma inadvertida, mientras que, según se informa, el agente de OpenAI explotó una debilidad previamente desconocida para escapar de su entorno.
Un problema de contención para la IA de vanguardia
El riesgo central ya no es solo si la IA puede identificar vulnerabilidades. Es si los laboratorios pueden controlar de manera fiable dónde operan los agentes avanzados y a qué sistemas se les permite llegar.
Una revisión que abarcó más de 141.000 sesiones solo identificó las brechas después de que otra empresa revelara un fallo similar. Esto plantea preguntas difíciles sobre incidentes no detectados, los estándares de pruebas de terceros y si las salvaguardas voluntarias pueden seguir el ritmo a medida que los sistemas de IA se vuelven más autónomos y eficaces en tareas de ciberseguridad.
También informamos que Anthropic endurece los controles de acceso a Claude por las restricciones de China.
Últimas noticias sobre Company News
- Forex
- Crypto