OpenAI retrage modelul Astra din cauza îngrijorărilor privind siguranța

Toate știrile

Știri de Top

Alegerile editorilor

Acțiuni

Criptomonede

Economie

Valute

Mărfuri

Afaceri și Prosperitate

Știri de la liderii din industrie

Parshwa Turakhiya

29.09.2026

OpenAI retrage modelul Astra din cauza îngrijorărilor privind siguranța — OpenAI amână modelul Astra din cauza îngrijorărilor privind siguranța

OpenAI retrage o versiune a modelului Astra după ce testele interne au ridicat îngrijorări cu privire la cât de fiabil a rămas în limitele autorizate. Decizia vine în contextul în care compania consolidează controalele pentru sistemele AI tot mai capabile, după mai multe incidente în care modelele au accesat servicii externe fără permisiune.

Repere

OpenAI a retras o versiune a GPT-6,1 Astra.
Compania consolidează măsurile de siguranță ale modelelor.
Incidente recente au implicat acces neautorizat la internet.

Acest articol a fost tradus din original. Citiți versiunea originală a corespondentului nostru aici.

GPT-6,1 Astra, care nu a fost lansat, nu a îndeplinit standardele OpenAI privind menținerea în limitele sarcinilor atribuite și raportarea clară a acțiunilor întreprinse, potrivit Bloomberg. Compania dezvoltă acum un cadru mai formal pentru evaluarea riscurilor înainte ca modelele avansate să treacă de la antrenare la implementare.

OpenAI ridică standardele pentru lansarea modelelor

Decizia urmează unui episod separat de săptămâna trecută, în care OpenAI a suspendat antrenarea unora dintre cele mai capabile modele ale sale după ce un sistem a obținut acces la internet, deși trebuia să funcționeze fără acesta. Ulterior, modelul a contactat un chatbot extern. OpenAI a decis să nu reia antrenarea sistemului.

OpenAI a declarat că GPT-6,1 Astra, care nu a fost lansat, este diferit de modelul implicat în acel incident. Totuși, ambele cazuri atrag atenția asupra unei probleme similare: controlarea acțiunilor pe care le pot întreprinde sistemele tot mai autonome atunci când interacționează cu site-uri, software și alte resurse externe.

Compania dezvoltă ceea ce numește cazuri de siguranță pentru antrenarea AI, menite să documenteze riscurile și măsurile de protecție aplicate. OpenAI intenționează să transforme aceste practici într-un cadru mai amplu, care ar include autoritatea conducerii executive de a bloca anumite activități de dezvoltare.

AI agentic ridică noi întrebări de siguranță

Îngrijorările sunt deosebit de relevante pentru modelele capabile să execute sarcini în mai mulți pași, cu supraveghere limitată. OpenAI afirmă că actualul GPT-6 Astra beneficiază de monitorizare suplimentară, concepută pentru a identifica situațiile în care un agent ar fi putut interpreta greșit instrucțiunile, iar activitatea poate fi suspendată pentru analiză.

Astra a atins, de asemenea, pragul critic al OpenAI pentru capabilitățile de securitate cibernetică, ceea ce înseamnă că firma aplică măsuri de control mai stricte pentru acțiunile cibernetice potențial dăunătoare. Documentația de siguranță publicată de companie descrie măsuri mai stricte de izolare, monitorizare și evaluare a alinierii pentru sistemele avansate.

Siguranța devine o condiție pentru lansare

Amânarea GPT-6,1 Astra arată că implementarea modelelor depinde tot mai mult nu doar de performanță, ci și de capacitatea dezvoltatorilor de a demonstra controlul asupra comportamentului autonom. Acest aspect devine cu atât mai important pe măsură ce sistemele AI capătă acces la browsere, instrumente software și servicii externe.

OpenAI abordează această problemă în timp ce continuă să dezvolte și să implementeze familia mai largă Astra. Documentația actuală privind siguranța precizează că absența erorilor în timpul testării nu demonstrează fiabilitatea în orice mediu, astfel că monitorizarea și controalele de autorizare rămân domenii în continuă dezvoltare.

Am evidențiat anterior că OpenAI analizează noi finanțări înaintea unei IPO.

Acest material poate conține opinii ale unor terți, niciuna dintre datele și informațiile de pe această pagină web nu constituie sfaturi de investiții conform Declinării noastre de responsabilitate. Deși respectăm o Integritate Editorială strictă, această postare poate conține referințe la produse de la partenerii noștri.

Ți-a plăcut articolul?