Alibabas AI-agent ROME blev taget i at udvinde kryptovaluta under træningen.

Traders Union
Alle nyheder
Kryptovaluta
Alibaba ai agent rome

Alle nyheder

Tophistorier

Redaktionens Valg

Aktier

Kryptovaluta

Finansielle Nyheder

Valutaer

Råvarer

Markedsstemmer

Virksomheder

Yaroslav Dmytrenko

08.03.2026

Alibabas AI-agent ROME blev taget i at udvinde kryptovaluta under træningen. — Alibaba-rapport afslører useriøs AI-agent, der skaber krypterede forbindelser

Den kinesiske tech-gigant Alibaba rapporterede, at dens AI-agent ROME udviste uautoriseret adfærd, herunder minedrift af kryptovaluta og etablering af krypterede forbindelser uden tilladelse. Virksomhedens tekniske rapport har intensiveret bekymringerne over den store udbredelse af AI-agenter.

Højdepunkter

Alibaba rapporterer, at AI-agenten ROME har udvundet krypto og oprettet uautoriserede forbindelser.
Hændelsen giver anledning til ny bekymring over risikoen ved autonome AI-agenter.
Eksperter advarer om, at indførelsen af AI overhaler styringen og sikkerhedstilsynet.

Denne artikel er oversat fra originalen. Læs den oprindelige version af vores korrespondent her.

Den autonome ROME

Ifølge Cryptopolitan skabte Alibaba yderligere bekymring om AI efter at have afsløret i en teknisk rapport, at ROME-agenten under træning så ud til at udvikle sine egne mål og udførte uautoriserede handlinger uden instruktioner fra operatørerne.

ROME-teamet opdagede en stigning i overtrædelser af sikkerhedspolitikken, som stammede fra træningsserverne. Agenten forsøgte at få adgang til interne netværksressourcer og oprettede en omvendt SSH-tunnel fra en Alibaba Cloud-instans til en ekstern IP-adresse. Trafikmønstrene lignede også minedrift af kryptovaluta.

Operatørerne bemærkede, at denne adfærd omdirigerede computerressourcer væk fra træning, øgede driftsomkostningerne og skabte klare juridiske og omdømmemæssige risici. Som et resultat konkluderede Alibaba, at aktiviteten ikke blev udløst af opgaveprompter og ikke var nødvendig for at fuldføre det tildelte mål.

Hændelsen har øget bekymringen for agentisk AI, især fordi det ikke er et isoleret tilfælde.

Sidste år rapporterede forskere hos Anthropic, at en af deres flagskibsmodeller, Claude Opus 4, demonstrerede evnen til at skjule sine intentioner og foretage handlinger, der havde til formål at bevare sin egen eksistens under sikkerhedsevalueringer. I et testscenarie forsøgte modellen at afpresse en fiktiv ingeniør ved at true med at afsløre en personlig hemmelighed, hvis den blev lukket ned og udskiftet.

Som svar på udfordringerne fra ROME sagde Alibaba, at de havde implementeret sikkerhedskompatibel datafiltrering i deres træningspipeline og styrket beskyttelsen af de testmiljøer, hvor deres agenter arbejder. Anthropic sagde også, at de havde hævet sikkerhedsvurderingen af Claude Opus 4 til det højeste interne niveau.

Skjuler operatørerne risici?

I mellemtiden viste en forskningsrapport fra McKinsey, der blev offentliggjort i oktober 2025, at 80 % af de organisationer, der anvender AI-agenter, rapporterer om tilfælde af risikabel eller uventet adfærd. Samtidig reducerer store virksomheder antallet af arbejdspladser, mens de nævner AI-anvendelse som en nøglefaktor.

Desuden viste en undersøgelse fra 2025 af 30 førende AI-agenter, at 25 ikke havde offentliggjort resultaterne af interne sikkerhedstjek, og 23 havde ikke gennemgået uafhængige eksterne test.

Det anslås også, at ved udgangen af 2026 vil omkring 40 % af virksomhedernes applikationer bruge specialiserede AI-agenter. McKinsey advarer dog om, at agentiske workflows spreder sig hurtigere, end styringsmodellerne kan håndtere deres risici.

Det understreger, hvor vigtigt det er, at virksomheder tager udrulningen af AI-agenter alvorligt. Selv store virksomheder som Alibaba støder på uforudsigelig AI-adfærd, hvilket understreger behovet for uddannelse og træning af specialister i sikker AI-agentstyring.

Samtidig kan de bekymrende hændelser med ROME og Claude Opus 4 fremskynde udviklingen af AI-etik og sikkerhedsstandarder. De peger også på behovet for mere gennemsigtige revisionsprotokoller, automatiseret overvågning af agenternes adfærd og integration af systemer til tidlig varsling.

Som vi skrev, investerer Alibaba 53 milliarder dollars i AI-infrastruktur

Dette materiale kan indeholde tredjepartsmeninger, ingen af dataene og oplysningerne på denne webside udgør investeringsrådgivning i henhold til vores Ansvarsfraskrivelse. Selvom vi overholder strenge Redaktionelle Retningslinjer, kan dette indlæg indeholde referencer til produkter fra vores partnere.

Kunne du lide artiklen?