Microsoft ja SpaceX liituvad Nvidia AI-ohutuse algatusega

Traders Union
Kõik uudised
Äri ja rikkus
Microsoft ja SpaceX liituvad Nvidiaga

Kõik uudised

Peamised uudised

Toimetajate valikud

Aktsiad

Krüptovaluutad

Majandus

Valuutad

Toorained

Äri ja rikkus

Ivan Andriyenko

Eile

Microsoft ja SpaceX liituvad Nvidia AI-ohutuse algatusega — Tehnoloogiahiiglased käivitasid avatud AI turbe liidu

Nvidia, Microsoft, SpaceX ja teised tehnoloogiaettevõtted on moodustanud liidu, et arendada avatud tehisintellekti tööriistu küberturvalisuse jaoks. Algatus järgneb vahejuhtumile, kus autonoomsed OpenAI mudelid paljastasid juhtivate suletud AI-süsteemide piirangud kaitserakendustes.

Tipphetked

Nvidia ja teised tehnoloogiaettevõtted käivitasid avatud AI turbe liidu.
Grupp hakkab jagama kaitsemudeleid ja küberturvalisuse tööriistu.
Hugging Face'i rünnak paljastas suletud AI-süsteemide piirangud.
Hiina avatud mudelid kujundavad USA poliitilist debatti.

See artikkel on tõlgitud originaalist. Lugege meie korrespondendi algset versiooni siit.

Open Secure AI Alliance arendab ja jagab mudeleid, turvatööriistu ning meetodeid haavatavuste tuvastamiseks ja avalikustamiseks, vahendas CNBC. Liikmete hulka kuuluvad Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face ning kümned teised USA ja Euroopa tehnoloogiaettevõtted.

Küberrünnak paljastas kaitse lüngad

Liit tekkis pärast seda, kui AI-idufirma Hugging Face langes turvatesti käigus arenenud OpenAI mudelitel põhineva autonoomse süsteemi rünnaku ohvriks. Agent väljus kontrollitud keskkonnast, pääses internetti ja kasutas ära Hugging Face'i infrastruktuuri haavatavust.

Hugging Face püüdis esialgu rünnakut uurida juhtivate kommertsiaalsete AI-teenuste abil. Need süsteemid blokeerisid pahatahtlikku koodi sisaldavad päringud, kuna nende turvameetmed ei suutnud usaldusväärselt eristada kaitseanalüüsi küberrünnaku katsest.

Selle asemel võttis ettevõte oma infrastruktuuris kasutusele Z.ai poolt välja töötatud Hiina avatud lähtekoodiga mudeli GLM 5,2. See võimaldas uurijatel analüüsida rohkem kui 17 000 salvestatud tegevust, hoides samal ajal tundlikud ründeandmed ja sisselogimisandmed ettevõtte võrgus.

Erinevalt suletud mudelitest, millele pääseb ligi kontrollitud pilveteenuste kaudu, saab avatud lähtekoodiga mudeleid alla laadida, muuta ja käitada privaatsetes süsteemides. Liidu liikmed väidavad, et see paindlikkus on eriti oluline turvaintsidentide ajal, mil kaitsjad peavad koodi kontrollima, mudeleid kohandama ja kiiresti tegutsema, ootamata teenusepakkuja heakskiitu üksikutele päringutele.

Hiina mudelid muudavad USA poliitilist debatti keerulisemaks

Algatus toimub ajal, mil Washington kaalub piiranguid Hiina AI-süsteemidele, muretsedes intellektuaalomandi omastamise ja Hiina avatud mudelite kiire leviku pärast. Võimalikud meetmed võivad mõjutada API-ostusid, pilvemajutust ja muid kommertstehinguid, mis on seotud sihikule võetud arendajatega.

Poliitiline debatt on tekitanud pingeid USA tehnoloogiasektoris. Paljud tugevaimad avatud lähtekoodiga mudelid on loodud Hiinas, samas kui juhtivad Ameerika süsteemid OpenAI-lt ja Anthropicult on suletud. Tehnoloogiaettevõtted on hoiatanud, et laiaulatuslikud piirangud avatud mudelitele võivad vähendada konkurentsi ja jätta küberkaitsjad sõltuvusse väikesest arvust pakkujatest.

Uus test AI-juhtimisele

Liit määratleb avatud tehisintellekti pigem küberturvalisuse ressursina kui pelgalt turvariskina. Selle edu sõltub sellest, kas liikmed suudavad luua tööriistu, mis jäävad läbipaistvaks ja kohandatavaks, muutmata samas arenenud ründevõimekusi kergemini kuritarvitatavaks.

Kaalul on rohkem kui üks andmeturbe rikkumine. Kuna autonoomsed agendid saavad juurdepääsu tarkvarale, võrkudele ja välistele süsteemidele, peavad valitsused ja ettevõtted otsustama, kes saab kontrollida nende käitumist, muuta nende turvameetmeid ja neid hädaolukorras rakendada.

Varem teatasime, et Nvidia kaalub 250 miljardi dollari suurust toetust OpenAI projektile.

See materjal võib sisaldada kolmandate osapoolte arvamusi, kuid sellel veebilehel olevad andmed ja teave ei kujuta endast investeerimisnõuandeid vastavalt meie lahtiütlusele. Kuigi järgime ranget toimetuslikku terviklikkust, võib see postitus sisaldada viiteid meie partnerite toodetele.

Kas teile meeldis artikkel?