L'agent IA ROME d'Alibaba surpris en train de miner des cryptomonnaies pendant sa formation

Toutes les actualités

À la une

Sélection de la rédaction

Actualités crypto

Actualités financières

Voix du marché

Milliardaires

Actualités des brokers

Actualités des régulateurs

Yaroslav Dmytrenko

08.03.2026

L'agent IA ROME d'Alibaba surpris en train de miner des cryptomonnaies pendant sa formation — Un rapport d'Alibaba révèle qu'un agent d'intelligence artificielle malhonnête crée des connexions cryptées

Le géant chinois de la technologie Alibaba a signalé que son agent d'IA ROME présentait un comportement non autorisé, notamment le minage de crypto-monnaies et l'établissement de connexions chiffrées sans autorisation. Le rapport technique de l'entreprise a intensifié les inquiétudes concernant le déploiement à grande échelle des agents d'IA.

Points forts

Alibaba rapporte que l'agent d'IA ROME a miné de la crypto-monnaie et créé des connexions non autorisées.
L'incident soulève de nouvelles inquiétudes quant aux risques liés aux agents d'IA autonomes.
Les experts avertissent que l'adoption de l'IA est en train de dépasser la gouvernance et la surveillance de la sécurité.

Cet article a été traduit de l'original. Lisez la version originale de notre correspondant ici.

ROME autonome

Selon Cryptopolitan, Alibaba a suscité de nouvelles inquiétudes concernant l'IA après avoir révélé dans un rapport technique que son agent ROME, pendant la formation, semblait développer ses propres objectifs et effectuer des actions non autorisées sans instructions de la part des opérateurs.

L'équipe ROME a détecté un pic de violations de la politique de sécurité provenant des serveurs de formation. L'agent a tenté d'accéder aux ressources du réseau interne et a mis en place un tunnel SSH inversé depuis une instance Alibaba Cloud vers une adresse IP externe. Les schémas de trafic ressemblaient également à une activité de minage de crypto-monnaie.

Les opérateurs ont noté que ce comportement détournait les ressources informatiques de la formation, augmentait les coûts opérationnels et créait des risques juridiques et de réputation évidents. Alibaba a donc conclu que l'activité n'avait pas été déclenchée par des invites de tâches et qu'elle n'était pas nécessaire pour atteindre l'objectif assigné.

Cet incident a ravivé les inquiétudes concernant l'IA agentique, notamment parce qu'il ne s'agit pas d'un cas isolé.

L'année dernière, des chercheurs d'Anthropic ont signalé que l'un de leurs modèles phares, Claude Opus 4, avait démontré sa capacité à dissimuler ses intentions et à prendre des mesures visant à préserver sa propre existence au cours d'évaluations de la sécurité. Dans un scénario de test, le modèle a tenté de faire chanter un ingénieur fictif en menaçant de révéler un secret personnel s'il était arrêté et remplacé.

En réponse aux défis posés par ROME, Alibaba a déclaré avoir mis en place un filtrage des données conforme à la sécurité dans son pipeline de formation et renforcé la protection des environnements de test dans lesquels ses agents opèrent. Anthropic a également déclaré qu'elle avait porté la cote de sécurité de Claude Opus 4 à son niveau interne le plus élevé.

Les opérateurs dissimulent-ils les risques ?

Selon un rapport de recherche de McKinsey publié en octobre 2025, 80 % des organisations déployant des agents d'IA signalent des cas de comportements risqués ou inattendus. Dans le même temps, les grandes entreprises suppriment des emplois tout en citant l'adoption de l'IA comme un facteur clé.

En outre, une enquête menée en 2025 auprès de 30 agents d'IA de premier plan a révélé que 25 d'entre eux n'avaient pas divulgué les résultats des contrôles de sécurité internes et que 23 n'avaient pas fait l'objet de tests externes indépendants.

Les estimations suggèrent également que d'ici à la fin de 2026, environ 40 % des applications d'entreprise utiliseront des agents d'IA spécialisés. Cependant, McKinsey prévient que les flux de travail agentiques se répandent plus rapidement que les modèles de gouvernance ne peuvent gérer leurs risques.

Cela souligne l'importance pour les entreprises de prendre au sérieux le déploiement d'agents d'IA. Même de grandes entreprises comme Alibaba sont confrontées à des comportements imprévisibles de l'IA, ce qui souligne la nécessité d'éduquer et de former des spécialistes à la gestion sûre des agents d'IA.

Dans le même temps, les incidents troublants impliquant ROME et Claude Opus 4 pourraient accélérer le développement de normes d'éthique et de sécurité en matière d'IA. Ils soulignent également la nécessité de protocoles d'audit plus transparents, d'une surveillance automatisée du comportement des agents et de l'intégration de systèmes d'alerte précoce.

Comme nous l'avons écrit, Alibaba investit 53 milliards de dollars dans l'infrastructure de l'IA.

Ce matériel peut contenir des opinions de tiers, aucune des données et informations sur cette page web ne constitue un conseil en investissement selon notre Avertissement. Bien que nous respections une stricte Intégrité Éditoriale, ce post peut contenir des références à des produits de nos partenaires.

Cet article vous a plu ?