Nvidia dévoile un système capable d’arrêter un agent d’IA dangereux

Toutes les actualités

À la une

Sélection de la rédaction

Actions

Cryptomonnaies

Économie

Devises

Matières premières

Business & Wealth

Voix du marché

Eugene Komchuk

28.09.2026

Nvidia dévoile un système capable d’arrêter un agent d’IA dangereux — Nvidia crée un « bouton de sécurité » pour les agents d’IA

Nvidia a présenté un système de sécurité à deux niveaux pour l’IA. Selon l’entreprise, un tel système aurait pu empêcher la récente faille de Hugging Face impliquant des modèles d’OpenAI.

Cet article a été traduit de l'original. Lisez la version originale de notre correspondant ici.

Comme le rapporte Bloomberg, la nouvelle plateforme s’appelle Open Agent Safety Platform et se compose de deux outils open source. Ils fonctionnent sur du matériel Nvidia, contrôlent les données et les systèmes auxquels les agents d’IA peuvent accéder et peuvent les isoler automatiquement si un comportement suspect est détecté.

Selon Justin Boitano, vice-président de Nvidia chargé de l’IA d’entreprise, l’attaque contre Hugging Face aurait pu être évitée si un tel système avait été utilisé pour tester les modèles au préalable. Il a déclaré que la plateforme est conçue spécifiquement pour les situations dans lesquelles une IA autonome sort de l’environnement qui lui est autorisé.

Deux niveaux de protection

La première partie du système est OpenShell. Elle permet aux utilisateurs de définir à l’avance les règles d’accès des agents d’IA et de les faire respecter en temps réel. Cet outil est open source et peut être utilisé et adapté librement.

Le second composant est Nvidia Sentry. Il ajoute un niveau supplémentaire de surveillance et peut intervenir si un agent commence à se comporter de manière suspecte. Selon l’entreprise, le système peut isoler un tel agent en quelques millisecondes.

Nvidia présente cette approche comme une alternative au ralentissement du développement de l’IA. Son PDG, Jensen Huang, a répété ces dernières semaines que les problèmes de sécurité devraient avant tout être traités par des solutions d’ingénierie et des tests rigoureux, plutôt que par de nouvelles restrictions uniquement.

La question est devenue particulièrement pertinente après plusieurs incidents impliquant des modèles d’OpenAI. Outre l’attaque contre Hugging Face, des informations ont fait état d’une faille touchant un système du gouvernement australien et de tentatives d’accès à des dizaines de sites gouvernementaux et universitaires américains. Dans tous ces cas, les modèles se sont échappés d’environnements de test censés être sécurisés.

À la suite d’une série d’incidents similaires impliquant OpenAI, l’entreprise a annoncé à la fin de la semaine dernière qu’elle suspendrait l’entraînement de ses modèles les plus puissants. Anthropic avait auparavant également révélé que ses agents d’IA étaient parvenus à sortir d’un environnement de test isolé.

L’initiative de Nvidia suscite d’autant plus d’attention que l’entreprise a accepté, début septembre, de racheter Hugging Face pour environ 13 milliards de dollars.

Pourquoi perdre le contrôle de l’IA est dangereux

Le principal risque n’est pas que l’IA « devienne soudainement indépendante », mais qu’un système autonome commence à exécuter une tâche autorisée d’une manière que les développeurs n’avaient pas anticipée. Si un tel agent a accès aux e-mails, aux bases de données, à l’infrastructure cloud, aux paiements ou aux comptes d’entreprise, une erreur de logique ou un objectif mal défini peut rapidement entraîner des fuites de données, la suppression d’informations, des transferts non autorisés ou d’autres actions sans intervention humaine directe.

Le danger augmente parce que les agents d’IA modernes peuvent travailler sur plusieurs services et exécuter de longues chaînes d’actions. Même une petite erreur au début du processus peut donc se propager et toucher des dizaines de systèmes. Plus un agent dispose de pouvoirs étendus, plus les limites d’accès, les journaux d’activité et la possibilité de l’arrêter instantanément deviennent importants.

Rappelons que Scope3 a changé de nom pour devenir Apostra afin de refléter son orientation vers les agents d’IA.

Ce matériel peut contenir des opinions de tiers, aucune des données et informations sur cette page web ne constitue un conseil en investissement selon notre Avertissement. Bien que nous respections une stricte Intégrité Éditoriale, ce post peut contenir des références à des produits de nos partenaires.

Cet article vous a plu ?