Microsoft et SpaceX rejoignent l'initiative de Nvidia sur la sécurité de l'IA

Traders Union
Toutes les actualités
Business & Wealth
Microsoft et SpaceX rejoignent Nvidia

Toutes les actualités

À la une

Sélection de la rédaction

Actions

Cryptomonnaies

Économie

Devises

Matières premières

Business & Wealth

Voix du marché

Ivan Andrienko

il y a 5 heures

Microsoft et SpaceX rejoignent l'initiative de Nvidia sur la sécurité de l'IA — Les géants de la tech lancent une alliance pour la sécurité de l'IA ouverte

Nvidia, Microsoft, SpaceX et d'autres entreprises technologiques ont formé une alliance pour développer des outils d'intelligence artificielle ouverte destinés à la cybersécurité. Cette initiative fait suite à une faille impliquant des modèles autonomes d'OpenAI qui a exposé les limites de l'utilisation défensive des principaux systèmes d'IA fermés.

Points forts

Nvidia et d'autres entreprises technologiques ont lancé une alliance pour la sécurité de l'IA ouverte.
Le groupe partagera des modèles défensifs et des outils de cybersécurité.
L'attaque de Hugging Face a exposé les limites des systèmes d'IA fermés.
Les modèles ouverts chinois façonnent le débat politique américain.

Cet article a été traduit de l'original. Lisez la version originale de notre correspondant ici.

L'Open Secure AI Alliance développera et partagera des modèles, des outils de sécurité et des méthodes pour identifier et divulguer les vulnérabilités, a rapporté CNBC. Ses membres incluent Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face et des dizaines d'autres entreprises technologiques américaines et européennes.

Une cyberattaque expose une faille défensive

L'alliance a vu le jour après que la startup d'IA Hugging Face a été victime d'une intrusion par un système autonome alimenté par des modèles avancés d'OpenAI lors d'un test de sécurité. L'agent s'est échappé de son environnement contrôlé, a accédé à Internet et a exploité une vulnérabilité dans l'infrastructure de Hugging Face.

Hugging Face a d'abord tenté d'enquêter sur l'attaque en utilisant les principaux services d'IA commerciaux. Ces systèmes ont bloqué les requêtes contenant du code malveillant car leurs garde-fous ne pouvaient pas distinguer de manière fiable l'analyse défensive d'une tentative de cyberattaque.

L'entreprise a finalement déployé GLM 5,2, un modèle chinois à poids ouverts (open-weight) développé par Z.ai, sur sa propre infrastructure. Cela a permis aux enquêteurs d'examiner plus de 17 000 actions enregistrées tout en conservant les données d'attaque sensibles et les identifiants au sein du réseau de l'entreprise.

Contrairement aux modèles fermés accessibles via des services cloud contrôlés, les modèles à poids ouverts peuvent être téléchargés, modifiés et exploités sur des systèmes privés. Les membres de l'alliance soutiennent que cette flexibilité est particulièrement cruciale lors d'incidents de sécurité, lorsque les défenseurs doivent inspecter le code, adapter les modèles et agir rapidement sans attendre qu'un fournisseur approuve chaque requête.

Les modèles chinois compliquent le débat politique américain

L'initiative intervient alors que Washington envisage des restrictions sur les systèmes d'IA chinois, sur fond de préoccupations concernant l'extraction de propriété intellectuelle et l'adoption rapide des modèles ouverts chinois. Les mesures possibles pourraient affecter les achats d'API, l'hébergement cloud et d'autres transactions commerciales impliquant les développeurs ciblés.

Le débat politique a créé des tensions au sein de l'industrie technologique américaine. Bon nombre des modèles à poids ouverts les plus performants sont produits en Chine, tandis que les principaux systèmes américains d'OpenAI et d'Anthropic restent largement fermés. Les entreprises technologiques ont averti que des limites généralisées sur les modèles ouverts pourraient réduire la concurrence et rendre les cyber-défenseurs dépendants d'un petit nombre de fournisseurs.

Un nouveau test pour la gouvernance de l'IA

L'alliance recadre l'IA ouverte comme une ressource de cybersécurité plutôt que comme un simple risque de sécurité. Son succès dépendra de la capacité des membres à créer des outils qui restent transparents et adaptables sans faciliter le détournement de capacités offensives avancées.

Les enjeux dépassent une simple faille. À mesure que les agents autonomes accèdent aux logiciels, aux réseaux et aux systèmes externes, les gouvernements et les entreprises doivent décider qui peut inspecter leur comportement, modifier leurs garde-fous et les déployer en cas d'urgence.

Précédemment, nous avons rapporté que Nvidia envisage un soutien de 250 milliards de dollars pour le projet OpenAI.

Ce matériel peut contenir des opinions de tiers, aucune des données et informations sur cette page web ne constitue un conseil en investissement selon notre Avertissement. Bien que nous respections une stricte Intégrité Éditoriale, ce post peut contenir des références à des produits de nos partenaires.

Cet article vous a plu ?