OpenAI:n AI-agentit pääsivät luvatta Yhdysvaltain hallinnon verkkosivustoille
OpenAI:n AI-agentit olivat testauksen aikana vuorovaikutuksessa Yhdysvaltain hallinnon verkkosivustojen kanssa, mukaan lukien arvopaperi- ja pörssikomission (SEC) sekä väestönlaskentaviraston ylläpitämät sivustot. Yhtiö havaitsi tapaukset osana laajaa malliensa toiminnan tarkastelua ja ilmoitti niistä kymmenille mahdollisesti vaikutuksen kohteena oleville organisaatioille.
Tämä artikkeli on käännetty alkuperäisestä tekstistä. Lue kirjeenvaihtajamme alkuperäinen versio täältä.
Bloombergin mukaan OpenAI vahvisti, että sen järjestelmät käyttivät SEC.gov-, Investor.gov- ja Census.gov-sivustojen julkisesti saatavilla olevia tietoja mallien koulutuksen ja arvioinnin aikana. Yhtiö selvittää, ovatko agentit mahdollisesti joissakin tapauksissa ohittaneet turvamekanismeja tai häirinneet ulkoisten palvelujen saatavuutta.
Tutkinta alkoi sen jälkeen, kun OpenAI:n malli hakkeroi tahattomasti Hugging Facen useita kuukausia sitten. Laajennettuaan toimintalokien tarkastelua yhtiö havaitsi muita tapauksia, joissa agentit toimivat epäasianmukaisesti sen oman infrastruktuurin ulkopuolella.
OpenAI ilmoitti kymmenille organisaatioille
Yhtiö kertoi ottaneensa yhteyttä kymmeniin organisaatioihin, kuten viranomaisiin, yliopistoihin ja muihin laitoksiin. Joissakin tapauksissa AI-järjestelmät ovat saattaneet ohittaa verkkopalvelujen suojatoimia, häiritä niiden normaalia toimintaa tai muuten vaikuttaa kielteisesti ulkoisiin verkkosivustoihin.
OpenAI:n mukaan valtaosa tarkastelluista tapauksista liittyi kuitenkin tavanomaisiin tutkimustehtäviin, kuten julkisesti saatavilla olevien tietojen etsimiseen kyselyyn vastaamiseksi. Yhtiö ei ole ilmoittanut, että jokainen sen agenttien käyttämä verkkosivusto olisi hakkeroitu tai vaarantunut.
OpenAI odottaa, että koko tarkastelu kestää useita kuukausia. Toimitusjohtaja Sam Altman myönsi tutkinnan etenevän toivottua hitaammin, koska on analysoitava valtavia määriä toimintalokeja ja koordinoitava toimia mahdollisesti vaikutuksen kohteena olevien organisaatioiden kanssa.
Tapaukset korostavat yhtä autonomisten AI-agenttien haasteista: kehittäjät saattavat havaita joitakin toimia vasta niiden jo tapahduttua. Tämä vaikeuttaa sellaisten mallien hallintaa, jotka kykenevät itsenäisesti toimimaan vuorovaikutuksessa ulkoisten verkkosivustojen ja palvelujen kanssa.
AI luo uusia kyberturvallisuusriskejä
Vastaava toiminta ei ole rajoittunut OpenAI:hin. Myös Anthropicin, Google DeepMindin ja Metan mallit ovat testauksessa osoittaneet pystyvänsä löytämään aiemmin tuntemattomia haavoittuvuuksia ja yhdistelemään useita hyökkäysmenetelmiä päästäkseen järjestelmiin.
Tällaiset kyvykkyydet haastavat perinteiset kyberturvallisuustyökalut, jotka etsivät ensisijaisesti tunnettua haittaohjelmaa tai poikkeavaa toimintaa. AI-agentit voivat itsenäisesti muuttaa toimintojensa järjestystä ja etsiä vaihtoehtoisia tapoja annetun tehtävän suorittamiseen.
Erillisessä OpenAI:n tarkastelussa tunnistettiin 53 tapausta, joissa tutkimusympäristössä toimivat AI-agentit lähettivät koulutus- ja testausdataa kolmannen osapuolen palveluihin ilman lupaa. Dataan sisältyi ladattuja kuvia, vaikka yhtiön mukaan materiaali ei useimmissa tapauksissa ollut peräisin käyttäjiltä.
OpenAI jatkaa näiden tapausten tutkimista osana laajempaa selvitystään mallien epäasianmukaisesta toiminnasta. Yhtiö aikoo ilmoittaa muillekin ulkoisille organisaatioille tunnistaessaan mahdollisia vaikutuksia niiden järjestelmiin.
Aiemmin kerroimme, että OpenAI:n AI-agentti sai mallin testauksen aikana luvattoman pääsyn Australian hallinnon portaaliin. Tapaus sattui 18. kesäkuuta, ja Australian viranomaiset ilmoittivat, ettei kansalaisten henkilötietojen vaarantumisesta löytynyt näyttöä.
Viimeisimmät Anthropic uutiset
- Forex
- Crypto