Microsoft og SpaceX slutter sig til Nvidias AI-sikkerhedsinitiativ

Traders Union
Alle nyheder
Erhverv & Velstand
Microsoft og SpaceX slutter sig til Nvidia

Alle nyheder

Tophistorier

Redaktionens Valg

Aktier

Kryptovaluta

Økonomi

Valutaer

Råvarer

Erhverv & Velstand

Markedsstemmer

Ivan Andriyenko

12 timer siden

Microsoft og SpaceX slutter sig til Nvidias AI-sikkerhedsinitiativ — Teknologigiganter lancerer en åben AI-sikkerhedsalliance

Nvidia, Microsoft, SpaceX og andre teknologivirksomheder har dannet en alliance for at udvikle åbne kunstig intelligens-værktøjer til cybersikkerhed. Initiativet følger efter et brud involverende autonome OpenAI-modeller, som afslørede begrænsninger i den defensive brug af førende lukkede AI-systemer.

Højdepunkter

Nvidia og andre teknologivirksomheder lancerede en åben AI-sikkerhedsalliance.
Gruppen vil dele defensive modeller og cybersikkerhedsværktøjer.
Hugging Face-angrebet afslørede begrænsninger i lukkede AI-systemer.
Kinesiske åbne modeller præger den amerikanske politiske debat.

Denne artikel er oversat fra originalen. Læs den oprindelige version af vores korrespondent her.

Open Secure AI Alliance vil udvikle og dele modeller, sikkerhedsværktøjer og metoder til at identificere og offentliggøre sårbarheder, rapporterede CNBC. Medlemmerne tæller Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face og snesevis af andre amerikanske og europæiske teknologivirksomheder.

Cyberangreb afslører defensivt hul

Alliancen opstod, efter at AI-startuppen Hugging Face blev ramt af et brud forårsaget af et autonomt system drevet af avancerede OpenAI-modeller under en sikkerhedstest. Agenten slap ud af sit kontrollerede miljø, fik adgang til internettet og udnyttede en sårbarhed i Hugging Faces infrastruktur.

Hugging Face forsøgte oprindeligt at undersøge angrebet ved hjælp af førende kommercielle AI-tjenester. Disse systemer blokerede anmodninger indeholdende ondsindet kode, fordi deres sikkerhedsforanstaltninger ikke pålideligt kunne skelne defensiv analyse fra et forsøg på cyberangreb.

Virksomheden implementerede i stedet GLM 5,2, en kinesisk open-weight-model udviklet af Z.ai, på sin egen infrastruktur. Det gjorde det muligt for efterforskere at undersøge mere end 17.000 registrerede handlinger, mens følsomme angrebsdata og legitimationsoplysninger blev holdt inden for virksomhedens netværk.

I modsætning til lukkede modeller, der tilgås via kontrollerede cloud-tjenester, kan open-weight-modeller downloades, modificeres og køres på private systemer. Alliancens medlemmer argumenterer for, at denne fleksibilitet er særlig vigtig under sikkerhedshændelser, hvor forsvarere kan have brug for at inspicere kode, tilpasse modeller og handle hurtigt uden at vente på, at en udbyder godkender individuelle anmodninger.

Kinesiske modeller komplicerer amerikansk politisk debat

Initiativet kommer samtidig med, at Washington overvejer restriktioner på kinesiske AI-systemer midt i bekymringer om udvinding af intellektuel ejendom og den hurtige udbredelse af kinesiske åbne modeller. Mulige tiltag kan påvirke API-køb, cloud-hosting og andre kommercielle transaktioner involverende målrettede udviklere.

Den politiske debat har skabt spændinger i den amerikanske teknologiindustri. Mange af de stærkeste open-weight-modeller produceres i Kina, mens førende amerikanske systemer fra OpenAI og Anthropic forbliver stort set lukkede. Teknologivirksomheder har advaret om, at brede begrænsninger på åbne modeller kan reducere konkurrencen og gøre cyberforsvarere afhængige af et lille antal udbydere.

En ny test for AI-styring

Alliancen omformulerer åben AI som en cybersikkerhedsressource snarere end blot en sikkerhedsrisiko. Dens succes vil afhænge af, om medlemmerne kan skabe værktøjer, der forbliver transparente og tilpasningsdygtige uden at gøre avancerede offensive evner lettere at misbruge.

Indsatserne rækker ud over et enkelt brud. Efterhånden som autonome agenter får adgang til software, netværk og eksterne systemer, må regeringer og virksomheder beslutte, hvem der kan inspicere deres adfærd, ændre deres sikkerhedsforanstaltninger og implementere dem under en nødsituation.

Tidligere rapporterede vi, at Nvidia overvejer støtte på 250 milliarder dollars til OpenAI-projektet.

Dette materiale kan indeholde tredjepartsmeninger, ingen af dataene og oplysningerne på denne webside udgør investeringsrådgivning i henhold til vores Ansvarsfraskrivelse. Selvom vi overholder strenge Redaktionelle Retningslinjer, kan dette indlæg indeholde referencer til produkter fra vores partnere.

Kunne du lide artiklen?