Microsoft și SpaceX se alătură inițiativei Nvidia pentru siguranța AI

Traders Union
Toate știrile
Afaceri și Prosperitate
Microsoft și SpaceX se alătură Nvidia

Toate știrile

Știri de Top

Alegerile editorilor

Acțiuni

Criptomonede

Economie

Valute

Mărfuri

Afaceri și Prosperitate

Știri de la liderii din industrie

Ivan Andriyenko

1 oră în urmă

Microsoft și SpaceX se alătură inițiativei Nvidia pentru siguranța AI — Giganții tehnologici lansează o alianță de securitate AI open-source

Nvidia, Microsoft, SpaceX și alte companii tehnologice au format o alianță pentru a dezvolta instrumente de inteligență artificială open-source pentru securitate cibernetică. Inițiativa vine în urma unei breșe care a implicat modele autonome OpenAI, care a scos la iveală limitele utilizării defensive a principalelor sisteme AI închise.

Repere

Nvidia și alte companii tech au lansat o alianță de securitate AI open-source.
Grupul va partaja modele defensive și instrumente de securitate cibernetică.
Atacul asupra Hugging Face a expus limitele sistemelor AI închise.
Modelele deschise chinezești modelează dezbaterea politică din SUA.

Acest articol a fost tradus din original. Citiți versiunea originală a corespondentului nostru aici.

Alianța Open Secure AI va dezvolta și va partaja modele, instrumente de securitate și metode pentru identificarea și divulgarea vulnerabilităților, a raportat CNBC. Printre membrii săi se numără Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face și alte zeci de companii tehnologice americane și europene.

Atacul cibernetic expune o lacună defensivă

Alianța a apărut după ce startup-ul AI Hugging Face a fost compromis de un sistem autonom alimentat de modele avansate OpenAI în timpul unui test de securitate. Agentul a evadat din mediul său controlat, a accesat internetul și a exploatat o vulnerabilitate în infrastructura Hugging Face.

Hugging Face a încercat inițial să investigheze atacul folosind servicii comerciale de AI de top. Acele sisteme au blocat solicitările care conțineau cod malițios, deoarece mecanismele lor de protecție nu puteau distinge în mod fiabil analiza defensivă de o tentativă de atac cibernetic.

În schimb, compania a implementat GLM 5,2, un model chinezesc cu pondere deschisă (open-weight) dezvoltat de Z.ai, pe propria infrastructură. Acest lucru a permis investigatorilor să examineze peste 17.000 de acțiuni înregistrate, păstrând în același timp datele sensibile ale atacului și acreditările în interiorul rețelei companiei.

Spre deosebire de modelele închise accesate prin servicii cloud controlate, modelele open-weight pot fi descărcate, modificate și operate pe sisteme private. Membrii alianței susțin că această flexibilitate este deosebit de importantă în timpul incidentelor de securitate, când apărătorii ar putea avea nevoie să inspecteze codul, să adapteze modelele și să acționeze rapid fără a aștepta ca un furnizor să aprobe solicitările individuale.

Modelele chinezești complică dezbaterea politică din SUA

Inițiativa vine în contextul în care Washingtonul ia în considerare restricții asupra sistemelor AI chinezești, pe fondul îngrijorărilor legate de extragerea proprietății intelectuale și adoptarea rapidă a modelelor deschise chinezești. Posibilele măsuri ar putea afecta achizițiile de API-uri, găzduirea în cloud și alte tranzacții comerciale care implică dezvoltatori vizați.

Dezbaterea politică a creat tensiuni în industria tehnologică din SUA. Multe dintre cele mai puternice modele open-weight sunt produse în China, în timp ce sistemele americane de top de la OpenAI și Anthropic rămân în mare parte închise. Companiile de tehnologie au avertizat că limitele largi impuse modelelor deschise ar putea reduce concurența și ar putea lăsa apărătorii cibernetici dependenți de un număr mic de furnizori.

Un nou test pentru guvernanța AI

Alianța redefinește AI-ul deschis ca pe o resursă de securitate cibernetică, mai degrabă decât doar ca pe un risc de securitate. Succesul său va depinde de capacitatea membrilor de a crea instrumente care să rămână transparente și adaptabile, fără a face capacitățile ofensive avansate mai ușor de utilizat în scopuri malițioase.

Mizele depășesc o singură breșă. Pe măsură ce agenții autonomi obțin acces la software, rețele și sisteme externe, guvernele și companiile trebuie să decidă cine le poate inspecta comportamentul, cine le poate modifica protecțiile și cine îi poate implementa în timpul unei urgențe.

Anterior, am raportat că Nvidia ia în considerare un sprijin de 250 de miliarde de dolari pentru proiectul OpenAI.

Acest material poate conține opinii ale unor terți, niciuna dintre datele și informațiile de pe această pagină web nu constituie sfaturi de investiții conform Declinării noastre de responsabilitate. Deși respectăm o Integritate Editorială strictă, această postare poate conține referințe la produse de la partenerii noștri.

Ți-a plăcut articolul?