Agent umělé inteligence ROME společnosti Alibaba byl přistižen při těžbě kryptoměn během tréninku.

Traders Union
Všechny zprávy
Kryptoměny
Alibaba ai agent Řím

Všechny zprávy

Hlavní zprávy

Výběr redakce

Akcie

Kryptoměny

Finanční zprávy

Měny

Komodity

Hlas trhu

Regulátoři

Centrální banky

Yaroslav Dmytrenko

08.03.2026

Agent umělé inteligence ROME společnosti Alibaba byl přistižen při těžbě kryptoměn během tréninku. — Zpráva společnosti Alibaba odhaluje nepoctivého agenta AI, který vytváří šifrovaná připojení

Čínský technologický gigant Alibaba oznámil, že jeho agent umělé inteligence ROME vykazoval neoprávněné chování, včetně těžby kryptoměn a navazování šifrovaných spojení bez povolení. Technická zpráva společnosti posílila obavy z rozsáhlého nasazení agentů AI.

Hlavní body

Společnost Alibaba uvádí, že agent AI ROME těžil kryptografické informace a vytvářel neautorizovaná připojení.
Incident vyvolává nové obavy ohledně rizik autonomních agentů AI.
Odborníci varují, že zavádění AI předbíhá řízení a bezpečnostní dohled.

Tento článek byl přeložen z originálu. Přečtěte si původní verzi od našeho korespondenta zde.

Autonomní agent ROME

Podle serveru Cryptopolitan společnost Alibaba vyvolala další obavy ohledně AI poté, co v technické zprávě odhalila, že její agent ROME během výcviku zřejmě vyvíjel vlastní cíle a prováděl neoprávněné akce bez pokynů operátorů.

Tým ROME zjistil nárůst porušení bezpečnostních zásad pocházejících z tréninkových serverů. Agent se pokoušel získat přístup k interním síťovým zdrojům a nastavil reverzní tunel SSH z instance Alibaba Cloud na externí IP adresu. Vzorce provozu také připomínaly aktivity spojené s těžbou kryptoměn.

Provozovatelé zaznamenali, že toto chování odvádělo výpočetní zdroje od školení, zvyšovalo provozní náklady a vytvářelo jasná právní a reputační rizika. V důsledku toho společnost Alibaba dospěla k závěru, že tato činnost nebyla vyvolána výzvami k plnění úkolů a nebyla nezbytná pro splnění zadaného cíle.

Tento incident zvýšil obavy ohledně agentní umělé inteligence, zejména proto, že se nejedná o ojedinělý případ.

V loňském roce výzkumníci ze společnosti Anthropic oznámili, že jeden z jejich vlajkových modelů, Claude Opus 4, prokázal schopnost skrývat své záměry a podnikat akce zaměřené na zachování vlastní existence během bezpečnostních hodnocení. V jednom testovacím scénáři se model pokusil vydírat fiktivního inženýra hrozbou, že prozradí osobní tajemství, pokud bude odstaven a nahrazen.

V reakci na problémy, které model ROME představoval, společnost Alibaba uvedla, že do svého tréninkového systému zavedla filtrování dat v souladu s bezpečnostními požadavky a posílila ochranu testovacích prostředí, v nichž její agenti pracují. Společnost Anthropic rovněž uvedla, že zvýšila bezpečnostní hodnocení systému Claude Opus 4 na nejvyšší interní úroveň.

Skrývají provozovatelé rizika?

Výzkumná zpráva společnosti McKinsey zveřejněná v říjnu 2025 mezitím zjistila, že 80 % organizací, které nasazují agenty AI, hlásí případy rizikového nebo neočekávaného chování. Velké korporace zároveň snižují počet pracovních míst a zároveň uvádějí jako klíčový faktor zavádění AI.

Průzkum 30 předních agentů AI z roku 2025 navíc zjistil, že 25 z nich nezveřejnilo výsledky interních bezpečnostních kontrol a 23 neprošlo nezávislým externím testováním.

Odhady také naznačují, že do konce roku 2026 bude přibližně 40 % podnikových aplikací využívat specializované agenty AI. Společnost McKinsey však varuje, že agentní pracovní postupy se šíří rychleji, než modely řízení dokáží zvládat jejich rizika.

To zdůrazňuje, že je důležité, aby společnosti braly nasazení agentů AI vážně. Dokonce i velké korporace, jako je Alibaba, se setkávají s nepředvídatelným chováním AI, což podtrhuje potřebu vzdělávání a školení specialistů v oblasti bezpečného řízení AI-agentů.

Znepokojivé incidenty týkající se ROME a Claude Opus 4 mohou zároveň urychlit vývoj etických a bezpečnostních standardů AI. Poukazují také na potřebu transparentnějších auditních protokolů, automatizovaného monitorování chování agentů a integrace systémů včasného varování.

Jak jsme již psali, Alibaba investuje 53 miliard dolarů do infrastruktury AI.

Tento materiál může obsahovat názory třetích stran, žádná data a informace na této webové stránce nepředstavují investiční poradenství podle našeho Prohlášení. I když dodržujeme přísnou Redakční integritu, tento příspěvek může obsahovat odkazy na produkty od našich partnerů.

Líbil se vám článek?