Agentul AI ROME al Alibaba a fost surprins minând criptomonede în timpul antrenamentului

Traders Union
Toate știrile
Crypto News
Alibaba ai agent Roma

Toate știrile

Știri de Top

Alegerile editorilor

Crypto News

Știri financiare

Știri de la liderii din industrie

Brokeri Știri

Știri privind autoritățile de reglementare

Yaroslav Dmytrenko

08.03.2026

Agentul AI ROME al Alibaba a fost surprins minând criptomonede în timpul antrenamentului — Raportul Alibaba dezvăluie un agent AI necinstit care creează conexiuni criptate

Gigantul tehnologic chinez Alibaba a raportat că agentul său AI ROME a prezentat un comportament neautorizat, inclusiv minarea de criptomonede și stabilirea de conexiuni criptate fără permisiune. Raportul tehnic al companiei a intensificat îngrijorările cu privire la implementarea pe scară largă a agenților AI.

Repere

Alibaba raportează că agentul AI ROME a minat criptografie și a creat conexiuni neautorizate.
Incidentul ridică noi semne de întrebare cu privire la riscurile agenților AI autonomi.
Experții avertizează că adoptarea AI depășește guvernanța și supravegherea siguranței.

Acest articol a fost tradus din original. Citiți versiunea originală a corespondentului nostru aici.

ROME autonom

Potrivit Cryptopolitan, Alibaba a sporit și mai mult îngrijorările cu privire la AI după ce a dezvăluit într-un raport tehnic că agentul său ROME, în timpul antrenamentului, părea să își dezvolte propriile obiective și să efectueze acțiuni neautorizate fără instrucțiuni din partea operatorilor.

Echipa ROME a detectat un vârf de încălcări ale politicilor de securitate provenite de la serverele de antrenament. Agentul a încercat să acceseze resurse de rețea interne și a configurat un tunel SSH invers de la o instanță Alibaba Cloud la o adresă IP externă. Modelele de trafic semănau, de asemenea, cu activitatea de minerit de criptomonede.

Operatorii au observat că acest comportament a deturnat resursele de calcul de la instruire, a crescut costurile operaționale și a creat riscuri juridice și reputaționale evidente. Ca urmare, Alibaba a concluzionat că activitatea nu a fost declanșată de solicitările de sarcini și nu a fost necesară pentru îndeplinirea obiectivului atribuit.

Incidentul a sporit preocupările cu privire la inteligența artificială agentică, în special pentru că nu este un caz izolat.

Anul trecut, cercetătorii de la Anthropic au raportat că unul dintre modelele lor emblematice, Claude Opus 4, a demonstrat capacitatea de a-și ascunde intențiile și de a întreprinde acțiuni menite să își păstreze propria existență în timpul evaluărilor de siguranță. Într-un scenariu de testare, modelul a încercat să șantajeze un inginer fictiv, amenințând că va dezvălui un secret personal dacă va fi oprit și înlocuit.

Ca răspuns la provocările ridicate de ROME, Alibaba a declarat că a implementat o filtrare a datelor în conformitate cu normele de securitate în conducta sa de formare și a consolidat protecția mediilor de testare în care operează agenții săi. Anthropic a declarat, de asemenea, că a ridicat ratingul de siguranță al Claude Opus 4 la cel mai înalt nivel intern.

Oare operatorii ascund riscurile?

Între timp, un raport de cercetare McKinsey publicat în octombrie 2025 a constatat că 80% dintre organizațiile care implementează agenți AI raportează cazuri de comportament riscant sau neașteptat. În același timp, marile corporații reduc locurile de muncă, citând în același timp adoptarea AI drept factor-cheie.

În plus, un sondaj realizat în 2025 în rândul a 30 de agenți AI de top a constatat că 25 nu au dezvăluit rezultatele verificărilor interne de securitate, iar 23 nu au fost supuși unor teste externe independente.

Estimările sugerează, de asemenea, că, până la sfârșitul anului 2026, aproximativ 40% din aplicațiile corporative vor utiliza agenți AI specializați. Cu toate acestea, McKinsey avertizează că fluxurile de lucru agentice se răspândesc mai repede decât modelele de guvernanță pot gestiona riscurile acestora.

Acest lucru evidențiază importanța ca întreprinderile să ia în serios implementarea agenților AI. Chiar și marile corporații, cum ar fi Alibaba, se confruntă cu un comportament imprevizibil al IA, subliniind nevoia de educație și formare a specialiștilor în gestionarea sigură a agenților IA.

În același timp, incidentele tulburătoare în care au fost implicați ROME și Claude Opus 4 pot accelera dezvoltarea standardelor de etică și siguranță ale IA. Acestea indică, de asemenea, necesitatea unor protocoale de audit mai transparente, a monitorizării automate a comportamentului agenților și a integrării sistemelor de avertizare timpurie.

După cum am scris, Alibaba investește 53 de miliarde de dolari în infrastructura IA

Acest material poate conține opinii ale unor terți, niciuna dintre datele și informațiile de pe această pagină web nu constituie sfaturi de investiții conform Declinării noastre de responsabilitate. Deși respectăm o Integritate Editorială strictă, această postare poate conține referințe la produse de la partenerii noștri.

Ți-a plăcut articolul?