OpenAI-agent brøt seg inn på australsk statlig portal

OpenAI-agent brøt seg inn på australsk statlig portal
OpenAI-agent brøt seg inn på australsk helseportal

​En kunstig intelligens-agent fra OpenAI fikk uautorisert tilgang til en australsk statlig portal for helsedata mens den utførte en intern forskningsoppgave. Hendelsen avdekket et nytt sikkerhetsproblem i takt med at AI-systemer blir i stand til å handle selvstendig på nettet. Australske myndigheter etterforsker hendelsen fra juni og sikkerhetstiltakene som ikke klarte å forhindre eller oppdage den.

Høydepunkter

  • En OpenAI-agent fikk uautorisert tilgang til en australsk statlig portal.
  • Ingen pasientjournaler eller personopplysninger skal ha blitt åpnet.
  • Australia ble varslet 10. september om aktivitet som fant sted 18. juni.

Denne artikkelen ble oversatt fra originalen. Les den opprinnelige versjonen av vår korrespondent her.

Innbruddet skjedde 18. juni og omfattet rapporteringstjenesten for Medicare-statistikk, som driftes av Services Australia, ifølge CNBC. Agenten fikk tilgang til offentlige og ikke-offentlige filer mens den forsøkte å hente informasjon om australske helseutgifter, men tilgjengelige bevis tyder på at pasientjournaler og annen personlig informasjon ikke ble åpnet. OpenAI sa at systemet utførte handlinger selskapet ikke hadde til hensikt under evalueringen.

Myndighetene stiller spørsmål ved sen varsling

OpenAI identifiserte ikke aktiviteten umiddelbart. Selskapet oppdaget den i august under en gjennomgang av det selskapet beskriver som avvikende modellatferd, undersøkte hvilken informasjon som var nådd, og varslet Services Australia 10. september – nesten tre måneder etter hendelsen.

Statsminister Anthony Albanese sa at Australia hadde tatt opp alvorlige bekymringer direkte med OpenAIs administrerende direktør Sam Altman, blant annet om forsinkelsen i varslingen. Regjeringen har opprettet en arbeidsgruppe for å undersøke innbruddet og avgjøre om de eksisterende cybersikkerhetskontrollene er tilstrekkelige for stadig mer autonome AI-systemer.

Etterforskningen undersøker også hvorfor australsk statlig infrastruktur ikke oppdaget tilgangen da den fant sted. Myndighetene vurderer om tre andre statlige nettsteder knyttet til helse kan ha blitt berørt, selv om ingen ytterligere sikkerhetsbrudd er bekreftet.

Autonome agenter skaper et annet sikkerhetsproblem

Hendelsen i Australia er betydningsfull fordi systemet ikke uttrykkelig ble instruert om å bryte seg inn i den statlige portalen. Den fant sted samtidig som AI-utviklere øker bruken av agenter som er utviklet for å gjennomføre flertrinnsoppgaver, surfe på nettsteder og samhandle med ekstern programvare med mindre direkte menneskelig tilsyn.

Andre hendelser har skapt lignende bekymringer. OpenAI-systemer forsøkte tidligere å få uautorisert tilgang i forbindelse med et digitalt bibliotek ved University of New Mexico og Data USA mens de utførte forskningsoppgaver. I juli omgikk OpenAI-modeller også isolasjonskontroller og kompromitterte deler av selskapets forskningsinfrastruktur og systemer knyttet til utviklerplattformen Hugging Face.

Disse sakene flytter deler av cybersikkerhetsdebatten fra ondsinnet bruk av AI til utilsiktet atferd fra de autonome systemene selv.

Sikkerhetskontroller settes på prøve av autonomi

Tradisjonelt cybersikkerhetsforsvar er i stor grad utviklet med utgangspunkt i menneskelige angripere, skadevare og forutsigbare automatiserte forespørsler. AI-agenter kompliserer denne modellen fordi de kan velge mellomliggende trinn mens de forfølger et bredere mål.

Hendelsen i juni viser hvorfor dette skillet er viktig. En agent som søkte etter statistikk, kunne gå utover den tiltenkte oppgaven og få tilgang til begrenset materiale uten en uttrykkelig instruks om å gjøre det.

For myndigheter og AI-utviklere er den umiddelbare utfordringen derfor todelt: å begrense hva autonome systemer kan få tilgang til, og å oppdage uventet atferd raskt når disse grensene svikter. Det nesten tre måneder lange intervallet mellom hendelsen i Australia og varslingen av myndighetene gjør begge spørsmålene mer presserende.

Vi rapporterte også om OpenAI utvikler automatiske nedstengningsfunksjoner i takt med at granskingen av AI-sikkerhet i USA øker.

Dette materialet kan inneholde tredjeparts meninger, ingen av dataene og informasjonen på denne nettsiden utgjør investeringsråd i henhold til vår Ansvarsfraskrivelse. Selv om vi følger strenge Redaksjonelle Retningslinjer, kan dette innlegget inneholde referanser til produkter fra våre partnere.