Nvidia tõi turule 2-kihilise süsteemi, mis suudab ohtliku tehisintellekti agendi peatada

Traders Union
Kõik uudised
Äri ja varandus
Nvidia avalikustas süsteemi

Kõik uudised

Peamised uudised

Toimetajate valikud

Aktsiad

Krüptovaluutad

Majandus

Valuutad

Toorained

Äri ja rikkus

Eugene Komchuk

28.09.2026

Nvidia tõi turule 2-kihilise süsteemi, mis suudab ohtliku tehisintellekti agendi peatada — Nvidia lõi tehisintellekti agentidele „ohutuslüliti“

Nvidia tutvustas tehisintellekti jaoks mõeldud kahekihilist turvasüsteemi. Ettevõtte sõnul oleks selline süsteem võinud ära hoida hiljutise Hugging Face’i ründe, mis hõlmas OpenAI mudeleid.

See artikkel on tõlgitud originaalist. Lugege meie korrespondendi algset versiooni siit.

Nagu Bloomberg teatab, kannab uus platvorm nime Open Agent Safety Platform ja koosneb kahest avatud lähtekoodiga tööriistast. Need töötavad Nvidia riistvaral, kontrollivad, millistele andmetele ja süsteemidele tehisintellekti agendid ligi pääsevad, ning suudavad kahtlase käitumise tuvastamisel need automaatselt isoleerida.

Nvidia Enterprise AI asepresidendi Justin Boitano sõnul oleks Hugging Face’i rünnakut saanud vältida, kui sellist süsteemi oleks kasutatud mudelite eelnevaks testimiseks. Ta ütles, et platvorm on loodud spetsiaalselt olukordadeks, kus autonoomne tehisintellekt väljub talle lubatud keskkonnast.

Kahekihiline kaitse

Süsteemi esimene osa on OpenShell. See võimaldab kasutajatel tehisintellekti agentidele juurdepääsureeglid eelnevalt määratleda ja neid reaalajas jõustada. Tööriist on avatud lähtekoodiga ning seda võib vabalt kasutada ja kohandada.

Teine komponent on Nvidia Sentry. See lisab veel ühe seirekihi ja suudab sekkuda, kui agent hakkab kahtlaselt käituma. Ettevõtte sõnul suudab süsteem sellise agendi millisekunditega isoleerida.

Nvidia esitleb seda lähenemist alternatiivina tehisintellekti arendamise aeglustamisele. Tegevjuht Jensen Huang on viimastel nädalatel korduvalt öelnud, et ohutusprobleeme tuleks lahendada eelkõige insenertehniliste lahenduste ja range testimisega, mitte ainult uute piirangute kehtestamisega.

Teema on muutunud eriti aktuaalseks pärast mitut OpenAI mudelitega seotud juhtumit. Lisaks Hugging Face’i ründele teatati Austraalia valitsussüsteemi rikkumisest ning katsetest pääseda ligi kümnetele USA valitsuse ja ülikoolide veebisaitidele. Kõigil neil juhtudel väljusid mudelid testkeskkondadest, mis pidid olema turvalised.

Pärast mitut sarnast OpenAI-ga seotud juhtumit teatas ettevõte eelmise nädala lõpus, et peatab oma kõige võimsamate mudelite treenimise. Anthropic oli varem samuti avalikustanud, et tema tehisintellekti agendid suutsid isoleeritud testkeskkonnast välja murda.

Nvidia algatusele pööratakse täiendavat tähelepanu ka seetõttu, et ettevõte nõustus septembri alguses omandama Hugging Face’i ligikaudu 13 miljardi dollari eest.

Miks tehisintellekti üle kontrolli kaotamine on ohtlik

Peamine risk ei seisne selles, et tehisintellekt muutub järsku „iseseisvaks“, vaid selles, et autonoomne süsteem võib hakata talle antud ülesannet täitma viisil, mida arendajad ette ei näinud. Kui sellisel agendil on juurdepääs e-postile, andmebaasidele, pilvetaristule, maksetele või ettevõtte kontodele, võib loogikaviga või halvasti määratletud eesmärk kiiresti põhjustada andmelekked, teabe kustutamise, volitamata ülekanded või muid otsese inimese sekkumiseta tehtud toiminguid.

Oht suureneb, sest tänapäevased tehisintellekti agendid suudavad töötada mitme teenuse vahel ja sooritada pikki toiminguahelaid. Seetõttu võib isegi väike viga varases etapis edasi levida ja mõjutada kümneid süsteeme. Mida rohkem õigusi agendil on, seda olulisemaks muutuvad juurdepääsupiirangud, tegevuslogid ja võimalus agent kohe välja lülitada.

Meeldetuletuseks: Scope3 muutis oma nime Apostraks, et kajastada oma keskendumist tehisintellekti agentidele.

See materjal võib sisaldada kolmandate osapoolte arvamusi, kuid sellel veebilehel olevad andmed ja teave ei kujuta endast investeerimisnõuandeid vastavalt meie lahtiütlusele. Kuigi järgime ranget toimetuslikku terviklikkust, võib see postitus sisaldada viiteid meie partnerite toodetele.

Kas teile meeldis artikkel?