OpenAI lykkää Astran julkaisua turvallisuushuolien vuoksi

Kaikki uutiset

Pääuutiset

Parhaat palat

Osakkeet

Kryptovaluutat

Talous

Valuuttaparit

Raaka-aineet

Liiketoiminta ja varallisuus

Markkinakatsaus

Parshwa Turakhiya

29.09.2026

OpenAI lykkää Astran julkaisua turvallisuushuolien vuoksi

OpenAI pidättää yhden Astra-mallinsa version julkaisun, koska sisäiset testit herättivät huolta siitä, kuinka luotettavasti malli pysyi sille sallituissa rajoissa. Päätös syntyy yhtiön vahvistaessa yhä kyvykkäämpien tekoälyjärjestelmien valvontaa useiden tapausten jälkeen, joissa mallit käyttivät ulkoisia palveluita ilman lupaa.

Kohokohdat

OpenAI pidätti yhden GPT-6,1 Astran version julkaisun.
Yhtiö vahvistaa mallien suojatoimia.
Viimeaikaisissa tapauksissa oli kyse luvattomasta verkkoyhteydestä.

Tämä artikkeli on käännetty alkuperäisestä tekstistä. Lue kirjeenvaihtajamme alkuperäinen versio täältä.

Julkaisematon GPT-6,1 Astra ei täyttänyt OpenAI:n vaatimuksia pysyä sille annettujen tehtävien puitteissa ja raportoida selkeästi suorittamistaan toimista, Bloomberg kertoo. Yhtiö kehittää nyt muodollisempaa viitekehystä riskien arvioimiseksi ennen kuin kehittyneet mallit siirtyvät koulutuksesta tuotantokäyttöön.

OpenAI tiukentaa mallien julkaisukriteerejä

Päätöstä edelsi viime viikolla erillinen tapaus, jossa OpenAI keskeytti joidenkin kyvykkäimpien malliensa koulutuksen sen jälkeen, kun yksi järjestelmä sai internetyhteyden, vaikka sen oli tarkoitus toimia ilman sitä. Malli otti tämän jälkeen yhteyttä ulkoiseen chatbot-palveluun. OpenAI päätti olla jatkamatta kyseisen järjestelmän koulutusta.

OpenAI kertoi, että julkaisematon GPT-6,1 Astra eroaa kyseiseen tapaukseen liittyneestä mallista. Molemmat tapaukset nostavat kuitenkin esiin samanlaisen ongelman: miten hallita yhä autonomisempien järjestelmien toimintaa, kun ne ovat vuorovaikutuksessa verkkosivustojen, ohjelmistojen ja muiden ulkoisten resurssien kanssa.

Yhtiö kehittää niin sanottuja tekoälykoulutuksen turvallisuustapauksia, joiden tarkoituksena on dokumentoida riskit ja niihin sovellettavat suojatoimet. OpenAI aikoo muuttaa nämä käytännöt laajemmaksi viitekehykseksi, joka antaisi ylimmälle johdolle valtuudet estää tiettyjä kehitystoimia.

Agenttinen tekoäly tuo uusia turvallisuuskysymyksiä

Huolet liittyvät erityisesti malleihin, jotka pystyvät suorittamaan monivaiheisia tehtäviä vähäisellä valvonnalla. OpenAI:n mukaan nykyiseen GPT-6 Astraan on lisätty valvontaa, jonka tarkoituksena on tunnistaa tilanteet, joissa agentti on saattanut tulkita ohjeet väärin ja joissa työ voidaan keskeyttää tarkistusta varten.

Astra on myös saavuttanut OpenAI:n kyberturvallisuuskyvyn kriittisen kynnysarvon, mikä tarkoittaa, että yhtiö soveltaa vahvempia valvontatoimia mahdollisesti haitallisiin kybertoimiin. Sen julkaistussa turvallisuusdokumentaatiossa kuvataan kehittyneille järjestelmille tiukempia eristys-, valvonta- ja linjausarviointeja.

Turvallisuudesta tulee julkaisun ehto

GPT-6,1 Astran julkaisun lykkääminen osoittaa, että mallien käyttöönotto riippuu yhä enemmän suorituskyvyn lisäksi siitä, pystyvätkö kehittäjät osoittamaan autonomisen toiminnan olevan hallinnassa. Tämä korostuu, kun tekoälyjärjestelmät saavat käyttöoikeuden selaimiin, ohjelmistotyökaluihin ja ulkoisiin palveluihin.

OpenAI käsittelee ongelmaa samalla, kun se jatkaa laajemman Astra-tuoteperheen kehittämistä ja käyttöönottoa. Yhtiön nykyisessä turvallisuusdokumentaatiossa todetaan, ettei testauksessa havaittujen virheiden puuttuminen osoita luotettavuutta kaikissa tilanteissa, joten valvonta- ja käyttöoikeuksien hallinta ovat edelleen kehitystyön painopisteitä.

Olemme aiemmin kertoneet, että OpenAI harkitsee uutta rahoitusta ennen listautumisantia.

Tämä materiaali saattaa sisältää kolmansien osapuolten mielipiteitä, eikä mikään tällä verkkosivulla oleva tieto tai data muodosta sijoitusneuvontaa Vastuuvapauslausekkeemme mukaisesti. Vaikka noudatamme tiukkaa Toimituksellista Integriteettiä, tämä julkaisu saattaa sisältää viittauksia kumppaneidemme tuotteisiin.

Piditkö artikkelista?