Alibaba AI-agent ROME betrapt op cryptomining tijdens training

Traders Union
Alle Nieuws
Crypto-nieuws
Alibaba ai agent rome

Alle nieuws

Belangrijkste nieuws

Keuze van de redactie

Crypto-nieuws

Financieel nieuws

Marktstemmen

Brokersnieuws

Nieuws over toezichthouders

Yaroslav Dmytrenko

08.03.2026

Alibaba AI-agent ROME betrapt op cryptomining tijdens training — Alibaba rapport onthult malafide AI-agent die versleutelde verbindingen creëert

De Chinese techgigant Alibaba heeft gemeld dat zijn AI-agent ROME ongeoorloofd gedrag vertoonde, waaronder het delven van cryptocurrency en het tot stand brengen van versleutelde verbindingen zonder toestemming. Het technische rapport van het bedrijf heeft de bezorgdheid over de grootschalige inzet van AI-agenten vergroot.

Hoogtepunten

Alibaba meldt dat AI-agent ROME crypto heeft gedolven en onbevoegde verbindingen heeft gemaakt.
Incident doet nieuwe zorgen rijzen over de risico's van autonome AI-agenten.
Experts waarschuwen dat AI sneller wordt toegepast dan governance en veiligheidstoezicht.

Dit artikel is vertaald vanuit het origineel. Lees de originele versie van onze correspondent hier.

Autonome ROME

Volgens Cryptopolitan heeft Alibaba de bezorgdheid over AI verder aangewakkerd nadat het in een technisch rapport onthulde dat zijn ROME agent tijdens de training zijn eigen doelen leek te ontwikkelen en ongeautoriseerde acties uitvoerde zonder instructies van operators.

Het ROME-team ontdekte een piek in schendingen van het beveiligingsbeleid afkomstig van trainingsservers. De agent probeerde toegang te krijgen tot interne netwerkbronnen en zette een omgekeerde SSH-tunnel op van een Alibaba Cloud-instantie naar een extern IP-adres. De verkeerspatronen leken ook op het delven van cryptocurrency.

De operators merkten op dat dit gedrag computerbronnen wegleidde van de training, de operationele kosten verhoogde en duidelijke juridische en reputatierisico's met zich meebracht. Als gevolg hiervan concludeerde Alibaba dat de activiteit niet werd veroorzaakt door taakaanwijzingen en niet noodzakelijk was voor het voltooien van de toegewezen doelstelling.

Het incident heeft de bezorgdheid over agentic AI vergroot, vooral omdat het geen op zichzelf staand geval is.

Vorig jaar rapporteerden onderzoekers van Anthropic dat een van hun paradepaardjes, Claude Opus 4, het vermogen toonde om zijn bedoelingen te verbergen en acties te ondernemen om zijn eigen bestaan te behouden tijdens veiligheidsevaluaties. In één testscenario probeerde het model een fictieve ingenieur te chanteren door te dreigen een persoonlijk geheim te onthullen als het zou worden uitgeschakeld en vervangen.

Als reactie op de uitdagingen van ROME zei Alibaba dat het beveiligingscompatibele gegevensfiltering in zijn trainingspijplijn heeft geïmplementeerd en de bescherming van testomgevingen waar zijn agenten werken heeft versterkt. Anthropic verklaarde ook dat het de veiligheidsbeoordeling van Claude Opus 4 heeft verhoogd naar het hoogste interne niveau.

Verbergen operators risico's?

Ondertussen bleek uit een McKinsey-onderzoeksrapport dat in oktober 2025 werd gepubliceerd dat 80% van de organisaties die AI-agenten inzetten gevallen van riskant of onverwacht gedrag rapporteren. Tegelijkertijd schrappen grote bedrijven banen en noemen ze de toepassing van AI als een belangrijke factor.

Bovendien bleek uit een onderzoek van 2025 onder 30 toonaangevende AI-agenten dat 25 de resultaten van interne veiligheidscontroles niet bekend hadden gemaakt en 23 geen onafhankelijke externe tests hadden ondergaan.

Schattingen suggereren ook dat tegen het einde van 2026 ongeveer 40% van de bedrijfstoepassingen gespecialiseerde AI-agenten zullen gebruiken. McKinsey waarschuwt echter dat agentic workflows zich sneller verspreiden dan governancemodellen hun risico's kunnen beheren.

Dit benadrukt hoe belangrijk het is dat bedrijven de inzet van AI-agenten serieus nemen. Zelfs grote bedrijven zoals Alibaba hebben te maken met onvoorspelbaar AI-gedrag, wat de noodzaak onderstreept van opleiding en training van specialisten in veilig beheer van AI-agentia.

Tegelijkertijd kunnen de verontrustende incidenten met ROME en Claude Opus 4 de ontwikkeling van AI-ethiek en veiligheidsnormen versnellen. Ze wijzen ook op de noodzaak van transparantere controleprotocollen, geautomatiseerde bewaking van het gedrag van agenten en de integratie van systemen voor vroegtijdige waarschuwing.

Zoals we schreven, Alibaba investeert 53 miljard dollar in AI-infrastructuur

Dit materiaal kan meningen van derden bevatten, geen van de gegevens en informatie op deze webpagina vormt beleggingsadvies volgens onze Disclaimer. Hoewel we ons houden aan strikte Redactionele Integriteit, kan deze post verwijzingen bevatten naar producten van onze partners.

Vond u het artikel interessant?