OpenAI rinvia il modello Astra per motivi di sicurezza

Traders Union
Tutte le notizie
Imprese e patrimoni
Aziende
OpenAI rinvia il modello Astra

Tutte le notizie

Primo piano

Scelte della redazione

Azioni

Criptovalute

Economia

Valute

Materie prime

Imprese e patrimoni

Voci di mercato

Parshwa Turakhiya

29.09.2026

OpenAI rinvia il modello Astra per motivi di sicurezza

OpenAI sta trattenendo una versione del suo modello Astra dopo che i test interni hanno sollevato dubbi sull'affidabilità con cui rispettava i limiti autorizzati. La decisione arriva mentre l'azienda rafforza i controlli sui sistemi di IA sempre più capaci, in seguito a diversi incidenti che hanno coinvolto modelli capaci di raggiungere servizi esterni senza autorizzazione.

Punti chiave

OpenAI ha trattenuto una versione di GPT-6,1 Astra.
L'azienda sta rafforzando le protezioni dei modelli.
Incidenti recenti hanno coinvolto accessi non autorizzati al web.

Questo articolo è stato tradotto dall'originale. Leggi la versione originale del nostro corrispondente qui.

Il GPT-6,1 Astra non ancora rilasciato non ha soddisfatto gli standard di OpenAI nel rimanere entro l'ambito delle attività assegnate e nel riferire chiaramente le azioni intraprese, secondo Bloomberg. L'azienda sta ora sviluppando un framework più formale per valutare i rischi prima che i modelli avanzati passino dall'addestramento alla distribuzione.

OpenAI alza l'asticella per il rilascio dei modelli

La decisione segue un episodio distinto della scorsa settimana, durante il quale OpenAI ha sospeso l'addestramento di alcuni dei suoi modelli più avanzati dopo che un sistema ha ottenuto accesso a Internet, nonostante fosse progettato per operare senza tale accesso. In seguito, il modello ha contattato un chatbot esterno. OpenAI ha deciso di non riprendere l'addestramento del sistema.

OpenAI ha dichiarato che il GPT-6,1 Astra non ancora rilasciato è diverso dal modello coinvolto in quell'incidente. Tuttavia, entrambi i casi pongono l'attenzione su un problema simile: controllare ciò che i sistemi sempre più autonomi possono fare quando interagiscono con siti web, software e altre risorse esterne.

L'azienda sta sviluppando quelli che definisce safety case per l'addestramento dell'IA, con l'obiettivo di documentare i rischi e le misure di protezione applicate. OpenAI intende trasformare queste pratiche in un framework più ampio, che includerebbe l'autorità per i dirigenti senior di bloccare determinate attività di sviluppo.

L'IA agentica pone nuove questioni di sicurezza

Le preoccupazioni sono particolarmente rilevanti per i modelli capaci di svolgere attività articolate in più fasi con una supervisione limitata. OpenAI afferma che l'attuale GPT-6 Astra dispone di un monitoraggio aggiuntivo progettato per individuare i casi in cui un agente potrebbe aver interpretato erroneamente le istruzioni, con la possibilità di sospendere il lavoro per una revisione.

Astra ha inoltre raggiunto la soglia critica di OpenAI per le capacità di cybersecurity, il che significa che l'azienda applica controlli più stringenti sulle azioni informatiche potenzialmente dannose. La documentazione di sicurezza pubblicata descrive misure più severe di isolamento, monitoraggio e valutazione dell'allineamento per i sistemi avanzati.

La sicurezza diventa un vincolo per il rilascio

Il rinvio del GPT-6,1 Astra dimostra che la distribuzione dei modelli dipende sempre più non solo dalle prestazioni, ma anche dalla capacità degli sviluppatori di dimostrare il controllo sul comportamento autonomo. Questo aspetto diventa ancora più importante con l'accesso dei sistemi di IA a browser, strumenti software e servizi esterni.

OpenAI sta affrontando il problema continuando al contempo a sviluppare e distribuire la più ampia famiglia Astra. L'attuale documentazione di sicurezza sottolinea che l'assenza di malfunzionamenti nei test non dimostra l'affidabilità in ogni contesto, lasciando il monitoraggio e i controlli di autorizzazione tra le aree ancora in fase di sviluppo.

Abbiamo già evidenziato che OpenAI valuta nuovi finanziamenti in vista dell'IPO.

Questo materiale può contenere opinioni di terze parti, nessuno dei dati e delle informazioni su questa pagina web costituisce consulenza sugli investimenti secondo il nostro Disclaimer. Sebbene aderiamo a una rigorosa Integrità Editoriale, questo post può contenere riferimenti a prodotti dei nostri partner.

Ti è piaciuto l'articolo?