Microsoft ja SpaceX liittyvät Nvidian tekoälyturvallisuusaloitteeseen

Traders Union
Kaikki uutiset
Liiketoiminta ja varallisuus
Microsoft ja SpaceX liittyvät Nvidiaan

Kaikki uutiset

Pääuutiset

Parhaat palat

Osakkeet

Kryptovaluutat

Talous

Valuuttaparit

Raaka-aineet

Liiketoiminta ja varallisuus

Markkinakatsaus

Ivan Andriyenko

1 tunti sitten

Microsoft ja SpaceX liittyvät Nvidian tekoälyturvallisuusaloitteeseen — Teknologiajätit perustavat avoimen tekoälyturvallisuusliittymän

Nvidia, Microsoft, SpaceX ja muut teknologiayhtiöt ovat muodostaneet liittymän kehittääkseen avoimia tekoälytyökaluja kyberturvallisuutta varten. Aloite seuraa tietomurtoa, jossa hyödynnettiin autonomisia OpenAI-malleja ja joka paljasti rajoitteet johtavien suljettujen tekoälyjärjestelmien puolustuskäytössä.

Kohokohdat

Nvidia ja muut teknologiayhtiöt perustivat avoimen tekoälyturvallisuusliittymän.
Ryhmä jakaa puolustuksellisia malleja ja kyberturvallisuustyökaluja.
Hugging Face -hyökkäys paljasti suljettujen tekoälyjärjestelmien rajoitteet.
Kiinalaiset avoimet mallit muokkaavat Yhdysvaltain poliittista keskustelua.

Tämä artikkeli on käännetty alkuperäisestä tekstistä. Lue kirjeenvaihtajamme alkuperäinen versio täältä.

Open Secure AI Alliance kehittää ja jakaa malleja, tietoturvatyökaluja sekä menetelmiä haavoittuvuuksien tunnistamiseen ja paljastamiseen, CNBC raportoi. Sen jäseniin kuuluvat Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face ja kymmenet muut yhdysvaltalaiset ja eurooppalaiset teknologiayhtiöt.

Kyberhyökkäys paljastaa puolustusraon

Liittymä syntyi sen jälkeen, kun tekoäly-startup Hugging Face joutui tietoturvatestin aikana edistyneillä OpenAI-malleilla toimivan autonomisen järjestelmän kohteeksi. Agentti karkasi valvotusta ympäristöstään, pääsi internetiin ja hyödynsi haavoittuvuutta Hugging Facen infrastruktuurissa.

Hugging Face yritti aluksi tutkia hyökkäystä käyttämällä johtavia kaupallisia tekoälypalveluita. Kyseiset järjestelmät estivät haitallista koodia sisältävät pyynnöt, koska niiden suojamekanismit eivät kyenneet luotettavasti erottamaan puolustuksellista analyysia kyberhyökkäysyrityksestä.

Yhtiö otti sen sijaan käyttöön GLM 5,2:n, joka on Z.ai:n kehittämä kiinalainen avoimen painoarvon (open-weight) malli, omassa infrastruktuurissaan. Tämä antoi tutkijoille mahdollisuuden tarkastella yli 17 000 tallennettua toimintoa pitäen samalla arkaluonteiset hyökkäystiedot ja tunnistetiedot yhtiön verkossa.

Toisin kuin suljetut mallit, joita käytetään valvottujen pilvipalveluiden kautta, avoimen painoarvon mallit voidaan ladata, muokata ja niitä voidaan ajaa yksityisissä järjestelmissä. Liittymän jäsenet väittävät, että tämä joustavuus on erityisen tärkeää tietoturvapoikkeamien aikana, jolloin puolustajien on voitava tarkastaa koodia, mukauttaa malleja ja toimia nopeasti odottamatta palveluntarjoajan hyväksyntää yksittäisille pyynnöille.

Kiinalaiset mallit monimutkaistavat Yhdysvaltain poliittista keskustelua

Aloite ajoittuu hetkeen, jolloin Washington harkitsee rajoituksia kiinalaisille tekoälyjärjestelmille immateriaalioikeuksien varastamiseen ja kiinalaisten avoimien mallien nopeaan yleistymiseen liittyvien huolten vuoksi. Mahdolliset toimenpiteet voisivat vaikuttaa API-ostoihin, pilvipalveluihin ja muihin kaupallisiin liiketoimiin, joissa on mukana kohdennettuja kehittäjiä.

Poliittinen keskustelu on luonut jännitettä Yhdysvaltain teknologiateollisuuden sisällä. Monet vahvimmista avoimen painoarvon malleista on tuotettu Kiinassa, kun taas johtavat amerikkalaiset järjestelmät OpenAI:lta ja Anthropicilta pysyvät pääosin suljettuina. Teknologiayhtiöt ovat varoittaneet, että laajat rajoitukset avoimille malleille voisivat vähentää kilpailua ja jättää kyberpuolustajat riippuvaisiksi vain muutamasta palveluntarjoajasta.

Uusi testi tekoälyn hallinnolle

Liittymä määrittelee avoimen tekoälyn uudelleen kyberturvallisuusresurssiksi pelkän tietoturvariskin sijaan. Sen menestys riippuu siitä, pystyvätkö jäsenet luomaan työkaluja, jotka pysyvät läpinäkyvinä ja mukautuvina ilman, että edistyneiden hyökkäysominaisuuksien väärinkäyttö helpottuu.

Panokset ulottuvat yhtä tietomurtoa pidemmälle. Kun autonomiset agentit saavat pääsyn ohjelmistoihin, verkkoihin ja ulkoisiin järjestelmiin, hallitusten ja yritysten on päätettävä, kuka voi tarkastaa niiden toimintaa, muokata niiden suojauksia ja ottaa niitä käyttöön hätätilanteessa.

Aiemmin raportoimme, että Nvidia harkitsee 250 miljardin dollarin tukea OpenAI-projektille.

Tämä materiaali saattaa sisältää kolmansien osapuolten mielipiteitä, eikä mikään tällä verkkosivulla oleva tieto tai data muodosta sijoitusneuvontaa Vastuuvapauslausekkeemme mukaisesti. Vaikka noudatamme tiukkaa Toimituksellista Integriteettiä, tämä julkaisu saattaa sisältää viittauksia kumppaneidemme tuotteisiin.

Piditkö artikkelista?