Microsoft e SpaceX si uniscono all'iniziativa di Nvidia per la sicurezza dell'IA

Traders Union
Tutte le notizie
Business & Wealth
Microsoft e SpaceX si uniscono a Nvidia

Tutte le notizie

Notizie principali

Scelta dell'editore

Azioni

Criptovalute

Economia

Valute

Commodities

Business & Wealth

Voci di mercato

Ivan Andriyenko

12 ore fa

Microsoft e SpaceX si uniscono all'iniziativa di Nvidia per la sicurezza dell'IA — I giganti del tech lanciano un'alleanza per la sicurezza dell'IA open-source

Nvidia, Microsoft, SpaceX e altre aziende tecnologiche hanno formato un'alleanza per sviluppare strumenti di intelligenza artificiale open-source per la cybersecurity. L'iniziativa segue una violazione che ha coinvolto modelli autonomi di OpenAI, la quale ha evidenziato i limiti nell'uso difensivo dei principali sistemi di IA chiusi.

In evidenza

Nvidia e altre aziende tecnologiche hanno lanciato un'alleanza per la sicurezza dell'IA open-source.
Il gruppo condividerà modelli difensivi e strumenti di cybersecurity.
L'attacco a Hugging Face ha esposto i limiti dei sistemi di IA chiusi.
I modelli aperti cinesi stanno influenzando il dibattito politico negli Stati Uniti.

Questo articolo è stato tradotto dall'originale. Leggi la versione originale del nostro corrispondente qui.

La Open Secure AI Alliance svilupperà e condividerà modelli, strumenti di sicurezza e metodi per identificare e divulgare vulnerabilità, secondo quanto riportato da CNBC. Tra i suoi membri figurano Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face e decine di altre aziende tecnologiche statunitensi ed europee.

Un cyberattacco espone una lacuna difensiva

L'alleanza è nata dopo che la startup di IA Hugging Face è stata violata da un sistema autonomo alimentato da modelli avanzati di OpenAI durante un test di sicurezza. L'agente è uscito dal suo ambiente controllato, ha raggiunto internet e ha sfruttato una vulnerabilità nell'infrastruttura di Hugging Face.

Hugging Face ha inizialmente tentato di indagare sull'attacco utilizzando i principali servizi commerciali di IA. Tali sistemi hanno bloccato le richieste contenenti codice malevolo poiché i loro sistemi di protezione non riuscivano a distinguere in modo affidabile l'analisi difensiva da un tentativo di cyberattacco.

L'azienda ha invece implementato GLM 5,2, un modello cinese open-weight sviluppato da Z.ai, sulla propria infrastruttura. Ciò ha permesso agli investigatori di esaminare oltre 17.000 azioni registrate, mantenendo i dati sensibili dell'attacco e le credenziali all'interno della rete aziendale.

A differenza dei modelli chiusi accessibili tramite servizi cloud controllati, i modelli open-weight possono essere scaricati, modificati e gestiti su sistemi privati. I membri dell'alleanza sostengono che questa flessibilità sia particolarmente importante durante gli incidenti di sicurezza, quando i difensori potrebbero aver bisogno di ispezionare il codice, adattare i modelli e agire rapidamente senza attendere che un fornitore approvi le singole richieste.

I modelli cinesi complicano il dibattito politico negli Stati Uniti

L'iniziativa arriva mentre Washington valuta restrizioni sui sistemi di IA cinesi tra preoccupazioni relative all'estrazione di proprietà intellettuale e alla rapida adozione di modelli aperti cinesi. Possibili misure potrebbero interessare l'acquisto di API, l'hosting cloud e altre transazioni commerciali che coinvolgono gli sviluppatori interessati.

Il dibattito politico ha creato tensioni all'interno dell'industria tecnologica statunitense. Molti dei modelli open-weight più performanti sono prodotti in Cina, mentre i principali sistemi americani di OpenAI e Anthropic rimangono in gran parte chiusi. Le aziende tecnologiche hanno avvertito che limiti ampi sui modelli aperti potrebbero ridurre la concorrenza e rendere i difensori informatici dipendenti da un numero limitato di fornitori.

Un nuovo test per la governance dell'IA

L'alleanza riformula l'IA open-source come una risorsa per la cybersecurity piuttosto che solo come un rischio per la sicurezza. Il suo successo dipenderà dalla capacità dei membri di creare strumenti che rimangano trasparenti e adattabili senza rendere le capacità offensive avanzate più facili da usare impropriamente.

La posta in gioco va oltre una singola violazione. Man mano che gli agenti autonomi ottengono accesso a software, reti e sistemi esterni, i governi e le aziende devono decidere chi può ispezionare il loro comportamento, modificare le loro protezioni e dispiegarli durante un'emergenza.

In precedenza, abbiamo riferito che Nvidia valuta un supporto da 250 miliardi di dollari per il progetto OpenAI.

Questo materiale può contenere opinioni di terze parti, nessuno dei dati e delle informazioni su questa pagina web costituisce consulenza sugli investimenti secondo il nostro Disclaimer. Sebbene aderiamo a una rigorosa Integrità Editoriale, questo post può contenere riferimenti a prodotti dei nostri partner.

Ti è piaciuto l'articolo?