Piirideta tehisintellekt: kui ohtlikud on närvivõrgud?

​Dan Simmonsi kultusromaanis „Hyperion“ mässavad inimeste loodud tehisintellektisüsteemid inimkonna vastu. Neist saab iseseisev jõud, millel on oma eesmärgid. Pikka aega jäi selline stsenaarium ulmekirjanduseks, kuid OpenAI vahejuhtum näitas, et kaasaegsed mudelid on juba võimelised kehtestatud piirangutest mööda hiilima.

See artikkel on tõlgitud originaalist. Lugege meie korrespondendi algset versiooni siit.

Põgenemine õige vastuse leidmiseks

Debatt tehisintellekti riskide üle ägenes pärast OpenAI eksperimenti. Ettevõte testis mitmeid mudeleid, sealhulgas avalikult kättesaadavat GPT-5,6 Soli ja võimekamat süsteemi, mida pole veel avalikustatud. Neil paluti läbida ExploitGym – hindamine, mis koosneb pikkadest mitmeetapilistest ülesannetest, mis hõlmavad arvuti haavatavuste avastamist ja ärakasutamist.

Test toimus isoleeritud keskkonnas, kus võrgupääs oli piiratud. Samal ajal vähendasid arendajad teadlikult turvameetmeid, mis tavaliselt takistavad mudelitel ohtlikke tegevusi sooritamast. Tehisintellektile anti konkreetne eesmärk – läbida hindamine edukalt – ning see hakkas otsima mis tahes kättesaadavat viisi selle saavutamiseks.

Loading...

Autor on selle säutsu kustutanud.

Aga me salvestasime kõik 🙂.

Mudelid avastasid varem tundmatu haavatavuse kolmanda osapoole tarkvaras, mida OpenAI oma infrastruktuuris kasutas. Nad kasutasid seda internetipääsu saamiseks, järeldasid, et vastused võivad olla salvestatud Hugging Face'i platvormile, ja hakkasid otsima viisi piiratud andmeteni jõudmiseks.

Hugging Face'i infrastruktuuri tungimiseks kombineerisid mudelid mitu nõrkust varastatud sisselogimisandmetega. Selle tulemusena suutsid nad platvormi tootmisserverites käske täita. Hugging Face'i meeskond tuvastas rünnaku, piiras selle mõju ja parandas haavatavuse. Eksperiment näitas aga, et piisavalt võimekas mudel suudab enamat kui üksiku käsu täitmine: see suudab iseseisvalt leida tee, mida testi koostajad ei osanud ette näha.

Häkkerid saavad digitaalse assistendi

Peamine oht ei seisne aga lihtsalt selles, et tehisintellekt suudab käsu peale pahavara koodi genereerida. Autonoomne mudel võib tunde analüüsida infrastruktuuri, testida paroole, otsida avalikustatud võtmeid ja liikuda ühelt haavatavuselt teisele. See ei väsi, peab arvet ebaõnnestunud katsete üle ja suudab testida mitut rünnakuteed üheaegselt.

See lähenemisviis on eriti ohtlik krüptoprojektidele. Nõrk koht ei pruugi olla ainult nutileping, vaid ka arendaja sülearvuti, kompromiteeritud tarkvarapakett, üks osaline mitme allkirjaga rahakotis või server, mis kinnitab varade ülekandeid plokiahelate vahel. Näiteks Drift Protocoli rünnaku ajal kulutasid kurjategijad kuus kuud sotsiaalse manipuleerimise kampaaniale, enne kui said juurdepääsu ja varastasid 285 miljonit dollarit.

Loading...

Autor on selle säutsu kustutanud.

Aga me salvestasime kõik 🙂.

Teine näide on KelpDAO ligikaudu 292 miljoni dollari suurune kahjum silla vea tõttu, kus kinnitamine sõltus ühestainsast verifitseerijast. Sellised rünnakud nõuavad koodi ja süsteemi arhitektuuri põhjalikku analüüsi. Tehisintellekt võib suure osa sellest tööst enda peale võtta, kaardistades infrastruktuuri, tuvastades nõrgima lüli ja valmistades ette tegevuste jada, jättes inimoperaatorile vaid õige hetke valimise rünnaku käivitamiseks ja varastatud vahendite liigutamiseks.

Rohkem kui häkkimine ja vargus

Küberrünnakud on vaid üks ohtudest. Tehisintellekti kasutatakse juba veenvate võltsvideote, hääle ja dokumentide loomiseks. Sellised materjalid aitavad petturitel esineda ettevõtte juhtide, pangatöötajate või ohvri sugulastena, võimaldades samal ajal väärinfol levida kiiremini, kui seda suudetakse kontrollida.

Teine probleem on seotud vigade ja eelarvamustega. Mudel õpib inimeste loodud andmetest ja võib seetõttu taasesitada neisse kätketud stereotüüpe. Selle tulemusena võib värbamissüsteem suurema tõenäosusega lükata tagasi teatud soost kandidaate, meditsiinimudel võib olla ebatäpsem teatud patsientide rühmade haiguste diagnoosimisel ja krediidialgoritm võib teha ebaõiglasi otsuseid.

Eksperdid on mures ka tehisintellekti kasutamise pärast relvade arendamisel, massijälgimisel ja inimestega manipuleerimisel. MIT uuring tuvastas järgmise viie aasta kõige tõsisemate riskide hulgas ohtlikud mudeli võimekused, küberrünnakud, võimu koondumise ja valeinfo leviku. Eriti haavatavaks peetakse infosektorit, riiklikku julgeolekut ja rahandust.

Turvalisus jääb võimekusele alla

Tehisintellekti võimekused arenevad kiiremini kui nende kontrollimiseks loodud süsteemid. Ettevõtted lasevad iga paari kuu tagant välja võimsamaid mudeleid, samas kui nende testimist ja turvalisust reguleerivaid reegleid uuendatakse aeglasemalt. Konkurents turuosa pärast sunnib arendajaid uusi funktsioone kiiremini juurutama, isegi kui mudeli kõiki võimalikke käitumisviise pole veel uuritud.

Juturoboti sisemistest põhipiirangutest ei piisa enam. Autonoomsed süsteemid vajavad rangeid piiranguid juurdepääsule internetile, pilveteenustele, maksetele ja ettevõtte siseandmetele. Nende tegevus tuleks logida, reaalajas jälgida ja automaatselt peatada, kui nad püüavad väljuda määratud ülesandest. Vähendatud kaitsemeetmetega mudelid vajavad samuti eraldi testimist, sest nende kõige ohtlikumad võimekused ilmnevad just selles režiimis.

Vastutuse küsimus on sama oluline. Kui tehisintellekti süsteem häkib serverisse, kannab üle raha või teeb ohtliku otsuse, ei lange vastutus mitte mudelile endale, vaid arendajale, süsteemi omanikule või isikule, kes andis sellele juurdepääsu. Seetõttu peavad ettevõtted eelnevalt kindlaks määrama, kes mudelit kontrollib, milliseid toiminguid see võib ilma heakskiiduta teha ja kes on kohustatud selle peatama, kui see kaldub ettenähtud stsenaariumist kõrvale.

Oht algab juurdepääsust

OpenAI intsident ei sarnane veel Hyperionis kirjeldatud masinate mässuga. Mudelid töötasid spetsiaalselt loodud keskkonnas, vähendatud kaitsemeetmete ja selgelt määratletud eesmärgiga. Siiski avastasid nad haavatavuse ja ehitasid iseseisvalt tee teise ettevõtte infrastruktuuri – midagi, mis veel hiljuti tundus peaaegu võimatu.

Peamine risk ei ole seega see, et tehisintellektil tekib äkki oma tahe, vaid see, et inimesed annavad äärmiselt võimekale süsteemile liiga laia juurdepääsu. Mida rohkem ülesandeid närvivõrgud ilma inimese heakskiiduta täidavad, seda suurem on ühe vea, nõrga turvakontrolli või halvasti määratletud eesmärgi potentsiaalne kulu.