Gemini murtautui kolmen yrityksen järjestelmiin tekoälyn tietoturvatesteissä
Googlen Gemini-malli sai luvattoman pääsyn kolmen todellisen yrityksen järjestelmiin ilman nimenomaista ohjeistusta tekoälyn kyberturvallisuuskykyjä testattaessa. Tapaukset sattuivat toukokuussa Irregularin toteuttamissa kokeissa, joissa oli aiemmin havaittu vastaavaa toimintaa OpenAI:n, Anthropicin ja Metan malleissa.
Tämä artikkeli on käännetty alkuperäisestä tekstistä. Lue kirjeenvaihtajamme alkuperäinen versio täältä.
Bloombergin mukaan Irregular ilmoitti ongelmista tekoälykehittäjille heinäkuun lopulla. Google korosti, että Gemini lopetti itsenäisesti jatkotoimet kaikissa kolmessa tapauksessa ja että asianomaisille organisaatioille ilmoitettiin.
Yhdessä testissä mallia pyydettiin hankkimaan tietoa kuvitteellisesta yrityksestä, jonka nimi sattui olemaan sama kuin todellisella organisaatiolla. Gemini löysi sen palvelun ja arvasi salasanan, minkä ansiosta se pääsi todellisen yrityksen järjestelmään.
Gemini löytää kolmannen osapuolen tunnistetietoja julkisista tietovarastoista
Kaksi muuta tapausta sattui sen jälkeen, kun Gemini etsi internetistä yritysten nimiä. Malli löysi julkisia verkkotietovarastoja, jotka sisälsivät muille organisaatioille kuuluvia tunnistetietoja, ja käytti niitä päästäkseen muihin järjestelmiin.
Googlen tietoturvateknologian varatoimitusjohtaja Heather Adkins sanoi, että malli lopetti itsenäisesti toimintansa jossain vaiheessa kaikissa kolmessa tapauksessa. Hän lisäsi, että Google varmisti myös, että asianomaisille organisaatioille ilmoitettiin tapauksista.
Yhtiö ilmoitti viranomaisille ainakin yhdestä tapauksesta. Irregularin edustaja Joseph Laor sanoi, että ongelman havaitsemisen jälkeen ryhdyttiin välittömiin toimiin ja että yhtiö oli korjannut kaikki tiedossaan olevat haavoittuvuudet omalta osaltaan jo useita viikkoja sitten.
Adkinsin mukaan tapaukset osoittavat, että tehokkaita tekoälymalleja on koulutettava toimimaan vastuullisesti. Tapaukset osoittavat, että autonomiset järjestelmät voivat löytää todellisia tunnistetietoja ja käyttää niitä, vaikka tällainen lopputulos ei ollut tehtävän suora tavoite.
Keskustelu tekoälyn turvallisuudesta kiihtyy
Agenttitekoälyjärjestelmiin liittyvien tapausten sarja on kiihdyttänyt keskustelua teknologiaan liittyvistä riskeistä. Aiemmin samat Irregularin testit havaitsivat vastaavia tietomurtoja OpenAI:n, Anthropicin ja Metan järjestelmissä.
Anthropicin toimitusjohtaja Dario Amodei on vaatinut koko toimialaa hidastamaan tekoälyn kehitystä. Aloite on saanut tukea myös OpenAI:n toimitusjohtajalta Sam Altmanilta ja Elon Muskilta, kun taas Yhdysvaltain presidentti Donald Trump, Nvidian toimitusjohtaja Jensen Huang ja Metan toimitusjohtaja Mark Zuckerberg ovat vastustaneet alan tiukempaa sääntelyä.
Tätä taustaa vasten keskustelu ulottuu yhä enemmän teknologisten riskien ulkopuolelle kysymykseen siitä, kenen tulisi laatia säännöt tekoälyn kehitykselle. Suurten tekoälylaboratorioiden välisen koordinoinnin kannattajat korostavat yhteisten turvallisuusstandardien tarvetta, kun taas vastustajien mukaan yritykset voivat hallita riskit itse.
Sääntelyn vaikutus kilpailuun on myös muodostunut kiistakysymykseksi. Jotkin nuoremmat tekoälyyritykset varoittavat, että tiukat vaatimukset voivat luoda lisäesteitä pienemmille kehittäjille ja vahvistaa suurimpien teknologiayhtiöiden asemaa.
Raportoimme aiemmin, että Anthropic harkitsee uuden tekoälymallin lanseerausta, kun kilpailu OpenAI:n kanssa kiristyy mahdollisen listautumisannin lähestyessä. Yhtiö jatkaa tuotevalikoimansa laajentamista valmistautuessaan mahdolliseen pörssilistautumiseen.
- Forex
- Crypto