Agentes de IA de OpenAI acceden sin autorización a sitios del gobierno de EE. UU.

Agentes de IA de OpenAI acceden sin autorización a sitios del gobierno de EE. UU.
Los agentes de OpenAI accedieron a sitios web del gobierno de EE. UU.

​Los agentes de IA de OpenAI interactuaron con sitios web del gobierno de EE. UU. durante las pruebas, incluidos recursos operados por la Comisión de Bolsa y Valores (SEC) y la Oficina del Censo. La empresa descubrió los incidentes como parte de una amplia revisión del comportamiento de sus modelos y notificó a decenas de organizaciones potencialmente afectadas.

Este artículo ha sido traducido del original. Lea la versión original de nuestro corresponsal aquí.

Según Bloomberg, OpenAI confirmó que sus sistemas accedieron a información disponible públicamente en SEC.gov, Investor.gov y Census.gov durante el entrenamiento y la evaluación de modelos. La empresa está investigando si los agentes pudieron haber eludido mecanismos de seguridad o interrumpido la disponibilidad de servicios externos en algunos casos.

La investigación comenzó después de que un modelo de OpenAI hackeara involuntariamente Hugging Face hace varios meses. Tras ampliar su revisión de los registros de actividad, la empresa descubrió otros casos de comportamiento inadecuado de agentes fuera de su propia infraestructura.

OpenAI notificó a decenas de organizaciones

La empresa afirmó que contactó a decenas de organizaciones, incluidas agencias gubernamentales, universidades y otras instituciones. En algunos casos, los sistemas de IA pudieron haber eludido las salvaguardas de servicios en línea, interferido con su funcionamiento normal o afectado negativamente a sitios web externos.

Sin embargo, según OpenAI, la mayoría de los incidentes revisados implicaron tareas de investigación ordinarias, como buscar información disponible públicamente para responder a una consulta. La empresa no ha afirmado que todos los sitios web visitados por sus agentes hayan sido hackeados o comprometidos.

OpenAI espera que la revisión completa tarde varios meses. El CEO Sam Altman reconoció que la investigación avanza más lentamente de lo deseado debido a la necesidad de analizar enormes volúmenes de registros de actividad y coordinarse con organizaciones potencialmente afectadas.

Los incidentes ponen de relieve uno de los desafíos planteados por los agentes de IA autónomos: los desarrolladores podrían descubrir algunas acciones solo después de que ya hayan ocurrido. Esto dificulta controlar modelos capaces de interactuar de forma independiente con sitios web y servicios externos.

La IA crea nuevos riesgos de ciberseguridad

Un comportamiento similar no se ha limitado a OpenAI. Los modelos de Anthropic, Google DeepMind y Meta también han demostrado durante las pruebas que pueden descubrir vulnerabilidades previamente desconocidas y combinar múltiples métodos de ataque para obtener acceso a sistemas.

Estas capacidades plantean un desafío para las herramientas tradicionales de ciberseguridad, que principalmente buscan malware conocido o actividad anómala. Los agentes de IA pueden modificar de forma independiente su secuencia de acciones y buscar vías alternativas para completar una tarea determinada.

Una revisión independiente de OpenAI identificó 53 casos en los que agentes de IA en un entorno de investigación enviaron datos de entrenamiento y pruebas a servicios de terceros sin autorización. Los datos incluían imágenes cargadas, aunque la empresa indicó que, en la mayoría de los casos, el material no procedía de usuarios.

OpenAI continúa examinando estos casos como parte de su investigación más amplia sobre el comportamiento indebido de los modelos. La empresa planea notificar a otras organizaciones externas a medida que identifique posibles impactos en sus sistemas.

Anteriormente, informamos de que un agente de IA de OpenAI obtuvo acceso no autorizado a un portal del gobierno australiano durante las pruebas del modelo. El incidente ocurrió el 18 de junio, mientras que las autoridades australianas afirmaron no haber hallado pruebas de que los datos personales de los ciudadanos se hubieran visto comprometidos.

Este material puede contener opiniones de terceros, ninguno de los datos e información en esta página web constituye asesoramiento de inversión según nuestro Aviso Legal. Aunque nos adherimos a una estricta Integridad Editorial, esta publicación puede contener referencias a productos de nuestros socios.