Microsoft y SpaceX se unen a la iniciativa de seguridad de IA de Nvidia

Traders Union
Todas las noticias
Negocios y Riqueza
Microsoft y SpaceX se unen a Nvidia

Todas las noticias

Noticias destacadas

Selecciones del editor

Acciones

Criptomonedas

Economía

Divisas

Materias Primas

Negocios y Riqueza

Voces del mercado

Iván Andriyenko

Hace 1 horas

Microsoft y SpaceX se unen a la iniciativa de seguridad de IA de Nvidia — Gigantes tecnológicos lanzan una alianza de seguridad de IA abierta

Nvidia, Microsoft, SpaceX y otras empresas tecnológicas han formado una alianza para desarrollar herramientas de inteligencia artificial abierta para la ciberseguridad. La iniciativa surge tras una brecha que involucró modelos autónomos de OpenAI y que expuso las limitaciones en el uso defensivo de los principales sistemas de IA cerrados.

Destacados

Nvidia y otras empresas tecnológicas lanzaron una alianza de seguridad de IA abierta.
El grupo compartirá modelos defensivos y herramientas de ciberseguridad.
El ataque a Hugging Face expuso los límites de los sistemas de IA cerrados.
Los modelos abiertos chinos están marcando el debate político en EE. UU.

Este artículo ha sido traducido del original. Lea la versión original de nuestro corresponsal aquí.

La Open Secure AI Alliance desarrollará y compartirá modelos, herramientas de seguridad y métodos para identificar y divulgar vulnerabilidades, según informó CNBC. Entre sus miembros se encuentran Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face y decenas de otras empresas tecnológicas estadounidenses y europeas.

Un ciberataque expone una brecha defensiva

La alianza surgió después de que la startup de IA Hugging Face fuera vulnerada por un sistema autónomo impulsado por modelos avanzados de OpenAI durante una prueba de seguridad. El agente escapó de su entorno controlado, accedió a internet y explotó una vulnerabilidad en la infraestructura de Hugging Face.

Hugging Face intentó inicialmente investigar el ataque utilizando los principales servicios comerciales de IA. Esos sistemas bloquearon las solicitudes que contenían código malicioso porque sus salvaguardas no podían distinguir de manera fiable el análisis defensivo de un intento de ciberataque.

En su lugar, la empresa desplegó GLM 5,2, un modelo chino de pesos abiertos desarrollado por Z.ai, en su propia infraestructura. Eso permitió a los investigadores examinar más de 17.000 acciones registradas manteniendo los datos sensibles del ataque y las credenciales dentro de la red de la empresa.

A diferencia de los modelos cerrados a los que se accede a través de servicios en la nube controlados, los modelos de pesos abiertos pueden descargarse, modificarse y operarse en sistemas privados. Los miembros de la alianza sostienen que esta flexibilidad es particularmente importante durante incidentes de seguridad, cuando los defensores pueden necesitar inspeccionar código, adaptar modelos y actuar rápidamente sin esperar a que un proveedor apruebe solicitudes individuales.

Los modelos chinos complican el debate político en EE. UU.

La iniciativa llega mientras Washington considera restricciones a los sistemas de IA chinos ante la preocupación por la extracción de propiedad intelectual y la rápida adopción de modelos abiertos chinos. Las posibles medidas podrían afectar a las compras de API, el alojamiento en la nube y otras transacciones comerciales que involucren a los desarrolladores señalados.

El debate político ha generado tensión dentro de la industria tecnológica estadounidense. Muchos de los modelos de pesos abiertos más potentes se producen en China, mientras que los principales sistemas estadounidenses de OpenAI y Anthropic permanecen mayoritariamente cerrados. Las empresas tecnológicas han advertido que las limitaciones amplias a los modelos abiertos podrían reducir la competencia y dejar a los defensores cibernéticos dependiendo de un pequeño número de proveedores.

Una nueva prueba para la gobernanza de la IA

La alianza replantea la IA abierta como un recurso de ciberseguridad en lugar de solo un riesgo de seguridad. Su éxito dependerá de si los miembros pueden crear herramientas que sigan siendo transparentes y adaptables sin facilitar el uso indebido de capacidades ofensivas avanzadas.

Lo que está en juego va más allá de una sola brecha. A medida que los agentes autónomos obtienen acceso a software, redes y sistemas externos, los gobiernos y las empresas deben decidir quién puede inspeccionar su comportamiento, modificar sus salvaguardas y desplegarlos durante una emergencia.

Anteriormente, informamos que Nvidia considera un apoyo de 250.000 millones de dólares para el proyecto OpenAI.

Este material puede contener opiniones de terceros, ninguno de los datos e información en esta página web constituye asesoramiento de inversión según nuestro Aviso Legal. Aunque nos adherimos a una estricta Integridad Editorial, esta publicación puede contener referencias a productos de nuestros socios.

¿Te gustó el artículo?