Nvidia esittelee järjestelmän, joka voi pysäyttää vaarallisen tekoälyagentin

Traders Union
Kaikki uutiset
Liiketoiminta ja varallisuus
Nvidia esittelee järjestelmän

Kaikki uutiset

Pääuutiset

Parhaat palat

Osakkeet

Kryptovaluutat

Talous

Valuuttaparit

Raaka-aineet

Liiketoiminta ja varallisuus

Markkinakatsaus

Eugene Komchuk

28.09.2026

Nvidia esittelee järjestelmän, joka voi pysäyttää vaarallisen tekoälyagentin — Nvidia loi tekoälyagenteille ”turvakytkimen”

Nvidia on esitellyt kaksikerroksisen turvajärjestelmän tekoälylle. Yhtiön mukaan tällainen järjestelmä olisi voinut estää äskettäisen Hugging Face -tietomurron, jossa oli mukana OpenAI:n malleja.

Tämä artikkeli on käännetty alkuperäisestä tekstistä. Lue kirjeenvaihtajamme alkuperäinen versio täältä.

Kuten Bloomberg kertoo, uuden alustan nimi on Open Agent Safety Platform, ja se koostuu kahdesta avoimen lähdekoodin työkalusta. Ne toimivat Nvidian laitteistolla, hallitsevat sitä, mitä dataa ja järjestelmiä tekoälyagentit voivat käyttää, ja voivat eristää ne automaattisesti, jos epäilyttävää toimintaa havaitaan.

Nvidian Enterprise AI -liiketoiminnan varajohtajan Justin Boitanon mukaan Hugging Faceen kohdistunut hyökkäys olisi voitu estää, jos tällaista järjestelmää olisi käytetty mallien ennakkotestaukseen. Hänen mukaansa alusta on suunniteltu erityisesti tilanteisiin, joissa autonominen tekoäly ylittää sille sallitun toimintaympäristön.

Kaksikerroksinen suojaus

Järjestelmän ensimmäinen osa on OpenShell. Sen avulla käyttäjät voivat määrittää tekoälyagenteille pääsysäännöt etukäteen ja valvoa niiden noudattamista reaaliajassa. Työkalu on avoimen lähdekoodin ohjelmisto, jota voi käyttää ja muokata vapaasti.

Toinen komponentti on Nvidia Sentry. Se lisää järjestelmään uuden valvontakerroksen ja voi puuttua tilanteeseen, jos agentti alkaa käyttäytyä epäilyttävästi. Yhtiön mukaan järjestelmä voi eristää tällaisen agentin millisekunneissa.

Nvidia asemoi tämän lähestymistavan vaihtoehdoksi tekoälyn kehityksen hidastamiselle. Toimitusjohtaja Jensen Huang on viime viikkoina toistuvasti korostanut, että turvallisuusongelmia tulisi ratkaista ensisijaisesti teknisillä ratkaisuilla ja perusteellisella testauksella, ei pelkästään uusilla rajoituksilla.

Aihe on noussut erityisen ajankohtaiseksi useiden OpenAI:n malleihin liittyneiden tapausten jälkeen. Hugging Faceen kohdistuneen hyökkäyksen lisäksi raportoitiin Australian hallinnon järjestelmään kohdistuneesta tietomurrosta sekä yrityksistä päästä käsiksi kymmeniin Yhdysvaltain hallinnon ja yliopistojen verkkosivustoihin. Kaikissa näissä tapauksissa mallit pääsivät ulos testausympäristöistä, joiden piti olla turvallisia.

OpenAI:n vastaavien tapausten sarjan jälkeen yhtiö ilmoitti viime viikon lopulla keskeyttävänsä tehokkaimpien malliensa koulutuksen. Anthropic oli aiemmin myös kertonut, että sen tekoälyagentit onnistuivat murtautumaan ulos eristetystä testausympäristöstä.

Nvidian aloitteeseen kiinnittää lisähuomiota se, että yhtiö sopi aiemmin syyskuussa ostavansa Hugging Facen noin 13 miljardilla dollarilla.

Miksi tekoälyn hallinnan menettäminen on vaarallista

Suurin riski ei ole se, että tekoäly yhtäkkiä ”itsenäistyy”, vaan se, että autonominen järjestelmä alkaa suorittaa sille annettua tehtävää tavalla, jota kehittäjät eivät osanneet ennakoida. Jos tällaisella agentilla on pääsy sähköposteihin, tietokantoihin, pilvi-infrastruktuuriin, maksuihin tai yritystileihin, logiikkavirhe tai huonosti määritelty tavoite voi nopeasti johtaa tietovuotoihin, tietojen poistamiseen, luvattomiin siirtoihin tai muihin toimiin ilman ihmisen suoraa osallistumista.

Vaaraa lisää se, että nykyaikaiset tekoälyagentit voivat toimia useissa palveluissa ja suorittaa pitkiä toimintaketjuja. Siksi pienikin virhe alkuvaiheessa voi levitä laajemmalle ja vaikuttaa kymmeniin järjestelmiin. Mitä enemmän valtuuksia agentilla on, sitä tärkeämpiä ovat käyttöoikeuksien rajat, toimintalokien ylläpito ja mahdollisuus sammuttaa agentti välittömästi.

Muistutuksena: Scope3 vaihtoi nimensä Apostraksi korostaakseen keskittymistään tekoälyagentteihin.

Tämä materiaali saattaa sisältää kolmansien osapuolten mielipiteitä, eikä mikään tällä verkkosivulla oleva tieto tai data muodosta sijoitusneuvontaa Vastuuvapauslausekkeemme mukaisesti. Vaikka noudatamme tiukkaa Toimituksellista Integriteettiä, tämä julkaisu saattaa sisältää viittauksia kumppaneidemme tuotteisiin.

Piditkö artikkelista?