Microsoft og SpaceX slutter seg til Nvidias AI-sikkerhetsinitiativ
Nvidia, Microsoft, SpaceX og andre teknologiselskaper har dannet en allianse for å utvikle åpne verktøy for kunstig intelligens innen kybersikkerhet. Initiativet følger et brudd som involverte autonome OpenAI-modeller, noe som eksponerte begrensninger i den defensive bruken av ledende lukkede AI-systemer.
Høydepunkter
- Nvidia og andre teknologiselskaper lanserte en åpen AI-sikkerhetsallianse.
- Gruppen skal dele defensive modeller og verktøy for kybersikkerhet.
- Hugging Face-angrepet avdekket begrensninger i lukkede AI-systemer.
- Kinesiske åpne modeller preger den amerikanske politiske debatten.
Denne artikkelen ble oversatt fra originalen. Les den opprinnelige versjonen av vår korrespondent her.
Open Secure AI Alliance skal utvikle og dele modeller, sikkerhetsverktøy og metoder for å identifisere og avsløre sårbarheter, rapporterte CNBC. Medlemmene inkluderer Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face og dusinvis av andre amerikanske og europeiske teknologiselskaper.
Kyberangrep avdekker defensivt gap
Alliansen oppstod etter at AI-oppstartsselskapet Hugging Face ble utsatt for et datainnbrudd av et autonomt system drevet av avanserte OpenAI-modeller under en sikkerhetstest. Agenten unnslapp sitt kontrollerte miljø, nådde internett og utnyttet en sårbarhet i Hugging Face sin infrastruktur.
Hugging Face forsøkte i utgangspunktet å etterforske angrepet ved hjelp av ledende kommersielle AI-tjenester. Disse systemene blokkerte forespørsler som inneholdt skadelig kode fordi sikkerhetsmekanismene deres ikke pålitelig kunne skille defensive analyser fra et forsøk på kyberangrep.
Selskapet distribuerte i stedet GLM 5,2, en kinesisk modell med åpne vekter utviklet av Z.ai, på sin egen infrastruktur. Dette gjorde det mulig for etterforskere å undersøke mer enn 17 000 registrerte handlinger, samtidig som sensitive angrepsdata og påloggingsinformasjon ble holdt innenfor selskapets eget nettverk.
I motsetning til lukkede modeller som aksesseres via kontrollerte skytjenester, kan modeller med åpne vekter lastes ned, modifiseres og kjøres på private systemer. Alliansemedlemmene argumenterer for at denne fleksibiliteten er spesielt viktig under sikkerhetshendelser, når forsvarere kan ha behov for å inspisere kode, tilpasse modeller og handle raskt uten å vente på at en leverandør skal godkjenne individuelle forespørsler.
Kinesiske modeller kompliserer den amerikanske politiske debatten
Initiativet kommer samtidig som Washington vurderer restriksjoner på kinesiske AI-systemer på grunn av bekymringer rundt uthenting av intellektuell eiendom og den raske utbredelsen av kinesiske åpne modeller. Mulige tiltak kan påvirke API-kjøp, skyhosting og andre kommersielle transaksjoner som involverer målrettede utviklere.
Den politiske debatten har skapt spenninger innad i den amerikanske teknologibransjen. Mange av de sterkeste modellene med åpne vekter produseres i Kina, mens ledende amerikanske systemer fra OpenAI og Anthropic forblir i stor grad lukkede. Teknologiselskaper har advart om at omfattende begrensninger på åpne modeller kan redusere konkurransen og gjøre kyberforsvarere avhengige av et lite antall leverandører.
En ny test for AI-styring
Alliansen omdefinerer åpen AI som en ressurs for kybersikkerhet, snarere enn bare en sikkerhetsrisiko. Suksessen vil avhenge av om medlemmene kan skape verktøy som forblir transparente og tilpasningsdyktige uten å gjøre avanserte offensive kapasiteter lettere å misbruke.
Innsatsen strekker seg utover ett enkelt brudd. Etter hvert som autonome agenter får tilgang til programvare, nettverk og eksterne systemer, må myndigheter og selskaper avgjøre hvem som kan inspisere deres oppførsel, modifisere sikkerhetsmekanismene deres og distribuere dem i en nødssituasjon.
Tidligere rapporterte vi at Nvidia vurderer en støtte på 250 milliarder dollar til OpenAI-prosjektet.
- Forex
- Crypto