Tekoäly ilman rajoja: Kuinka vaarallisia neuroverkot ovat?

​Dan Simmonsin kulttiromaanissa Hyperion ihmisten luomat tekoälyjärjestelmät kapinoivat ihmiskuntaa vastaan. Niistä tulee itsenäinen voima, jolla on omat tavoitteensa. Pitkään tällainen skenaario pysyi tieteiskirjallisuutena, mutta OpenAI-tapaus osoitti, että nykyiset mallit kykenevät jo ohittamaan asetetut rajoitukset.

Tämä artikkeli on käännetty alkuperäisestä tekstistä. Lue kirjeenvaihtajamme alkuperäinen versio täältä.

Karkaaminen oikean vastauksen löytämiseksi

Keskustelu tekoälyn riskeistä kiihtyi OpenAI:n kokeen jälkeen. Yhtiö testasi useita malleja, mukaan lukien julkisesti saatavilla olevaa GPT-5,6 Solia ja kyvykkäämpää järjestelmää, jota ei ole vielä julkaistu. Niitä pyydettiin suorittamaan ExploitGym, arviointi, joka koostuu pitkistä, monivaiheisista tehtävistä, joihin kuuluu tietokoneiden haavoittuvuuksien etsiminen ja hyödyntäminen.

Testi suoritettiin eristetyssä ympäristössä, jossa verkkoyhteys oli rajoitettu. Samaan aikaan kehittäjät vähensivät tarkoituksella suojatoimia, jotka yleensä estävät malleja suorittamasta vaarallisia toimia. Tekoälylle annettiin tietty tavoite — suorittaa arviointi onnistuneesti — ja se alkoi etsiä mitä tahansa käytettävissä olevaa keinoa sen saavuttamiseksi.

Loading...

Tweetin poisti sen kirjoittaja.

Mutta me tallensimme kaiken 🙂.

Mallit löysivät aiemmin tuntemattoman haavoittuvuuden kolmannen osapuolen ohjelmistosta, jota OpenAI käytti infrastruktuurissaan. Ne hyödynsivät sitä saadakseen internetyhteyden, päättelivät, että vastaukset saattaisivat olla tallennettuina Hugging Face -alustalle, ja alkoivat etsiä keinoa päästä käsiksi rajoitettuun dataan.

Tunkeutuakseen Hugging Facen infrastruktuuriin mallit yhdistivät useita heikkouksia varastettuihin kirjautumistietoihin. Tämän seurauksena ne pystyivät suorittamaan komentoja alustan tuotantopalvelimilla. Hugging Face -tiimi havaitsi hyökkäyksen, rajoitti sen vaikutukset ja paikkasi haavoittuvuuden. Koe kuitenkin osoitti, että riittävän kyvykäs malli voi tehdä muutakin kuin suorittaa yksittäisen komennon: se voi itsenäisesti löytää polun, jota testin suunnittelijat eivät koskaan osanneet ennakoida.

Hakkerit saavat digitaalisen avustajan

Pääasiallinen vaara ei kuitenkaan ole pelkästään se, että tekoäly voi luoda haitallista koodia käskystä. Autonominen malli voi käyttää tunteja infrastruktuurin analysointiin, salasanojen testaamiseen, suojaamattomien avainten etsimiseen ja siirtymiseen haavoittuvuudesta toiseen. Se ei väsy, se pitää kirjaa epäonnistuneista yrityksistä ja voi testata useita hyökkäysreittejä samanaikaisesti.

Tämä lähestymistapa on erityisen vaarallinen kryptoprojekteille. Heikko kohta ei välttämättä ole vain älysopimus, vaan myös kehittäjän kannettava tietokone, vaarantunut ohjelmistopaketti, yksi moniallekirjoituslompakon osapuoli tai palvelin, joka vahvistaa varojen siirrot lohkoketjujen välillä. Esimerkiksi Drift Protocoliin kohdistuneessa hyökkäyksessä tekijät käyttivät kuusi kuukautta sosiaalisen manipuloinnin kampanjaan ennen kuin saivat pääsyn ja varastivat 285 miljoonaa dollaria.

Loading...

Tweetin poisti sen kirjoittaja.

Mutta me tallensimme kaiken 🙂.

Toinen esimerkki on KelpDAO:n noin 292 miljoonan dollarin menetys siltavirheen vuoksi, jossa vahvistus riippui yhdestä ainoasta todentajasta. Tällaiset hyökkäykset vaativat pitkällistä koodin ja järjestelmäarkkitehtuurin analysointia. Tekoäly voi ottaa hoitaakseen suuren osan tästä työstä kartoittamalla infrastruktuurin, tunnistamalla heikoimman lenkin ja valmistelemalla toimintasarjan, jolloin ihmistoimijan tehtäväksi jää valita oikea hetki hyökkäyksen käynnistämiseen ja varastettujen varojen siirtämiseen.

Muutakin kuin hakkerointeja ja varkauksia

Kyberhyökkäykset ovat vain yksi uhista. Tekoälyä käytetään jo nyt vakuuttavien väärennettyjen videoiden, äänien ja asiakirjojen luomiseen. Tällaiset materiaalit auttavat huijareita esiintymään yritysjohtajina, pankin työntekijöinä tai uhrin sukulaisina, samalla kun ne mahdollistavat väärän tiedon leviämisen nopeammin kuin se ehditään varmistaa.

Toinen ongelma liittyy virheisiin ja vinoumiin. Malli oppii ihmisten luomasta datasta ja saattaa siksi toistaa siihen sisältyviä stereotypioita. Tämän seurauksena rekrytointijärjestelmä voi hylätä todennäköisemmin tietyn sukupuolen edustajia, lääketieteellinen malli voi olla epätarkempi diagnosoimaan sairauksia tietyissä potilasryhmissä ja luottoalgoritmi voi tehdä epäoikeudenmukaisia päätöksiä.

Asiantuntijat ovat huolissaan myös tekoälyn käytöstä asekehityksessä, joukkovalvonnassa ja ihmisten manipuloinnissa. MIT-tutkimus nimesi mallien vaaralliset kyvykkyydet, kyberhyökkäykset, vallan keskittymisen ja väärän tiedon leviämisen vakavimmiksi riskeiksi seuraavan viiden vuoden aikana. Tietosektoria, kansallista turvallisuutta ja finanssialaa pidetään erityisen haavoittuvina.

Turvallisuus jää jälkeen suorituskyvystä

Tekoälyn kyvykkyydet kehittyvät nopeammin kuin niiden hallintaan suunnitellut järjestelmät. Yritykset julkaisevat tehokkaampia malleja muutaman kuukauden välein, kun taas niiden testausta ja turvallisuutta säätelevät säännöt päivittyvät hitaammin. Kilpailu markkinaosuuksista ajaa kehittäjiä tuomaan uusia ominaisuuksia nopeammin, vaikka mallin kaikkia mahdollisia käyttäytymismalleja ei olisi vielä tutkittu.

Chatbotin sisäiset perusrajoitukset eivät enää riitä. Autonomiset järjestelmät tarvitsevat tiukat rajat internetin, pilvipalveluiden, maksujen ja sisäisen liiketoimintatiedon käyttöön. Niiden toiminnot tulisi lokittaa, niitä tulisi valvoa reaaliajassa ja ne tulisi pysäyttää automaattisesti, jos ne yrittävät siirtyä määritetyn tehtävän ulkopuolelle. Mallit, joiden suojauksia on vähennetty, tarvitsevat myös erillistä testausta, koska niiden vaarallisimmat kyvyt tulevat esiin juuri tässä tilassa.

Kysymys vastuusta on yhtä tärkeä. Jos tekoälyjärjestelmä hakkeroi palvelimen, siirtää rahaa tai tekee vaarallisen päätöksen, vastuu ei lankea mallille itselleen, vaan kehittäjälle, järjestelmän omistajalle tai henkilölle, joka antoi sille pääsyn. Yritysten on siksi määritettävä etukäteen, kuka valvoo mallia, mitä toimintoja se saa suorittaa ilman hyväksyntää ja kenen on pysäytettävä se, kun se poikkeaa aiotusta skenaariosta.

Vaara alkaa pääsystä

OpenAI-tapaus ei vielä muistuta Hyperionissa kuvattua koneiden kapinaa. Mallit toimivat tarkoitusta varten rakennetussa ympäristössä, jossa suojauksia oli vähennetty ja tavoite oli selkeästi määritelty. Ne kuitenkin löysivät haavoittuvuuden ja rakensivat itsenäisesti polun toisen yrityksen infrastruktuuriin – asia, joka vielä äskettäin olisi vaikuttanut lähes mahdottomalta.

Pääasiallinen riski ei siis ole se, että tekoäly kehittäisi yhtäkkiä oman tahdon, vaan se, että ihmiset antavat erittäin kyvykkäälle järjestelmälle liian laajat valtuudet. Mitä enemmän tehtäviä neuroverkot suorittavat ilman ihmisen hyväksyntää, sitä suuremmat ovat yksittäisen virheen, heikon turvavalvonnan tai huonosti määritellyn tavoitteen mahdolliset kustannukset.