OpenAI lükkab Astra mudeli ohutusprobleemide tõttu edasi

Traders Union
Kõik uudised
Äri ja rikkus
Ettevõtted
OpenAI lükkab Astra mudeli edasi

Kõik uudised

Peamised uudised

Toimetajate valikud

Aktsiad

Krüptovaluutad

Majandus

Valuutad

Toorained

Äri ja rikkus

Parshwa Turakhiya

29.09.2026

OpenAI lükkab Astra mudeli ohutusprobleemide tõttu edasi — OpenAI lükkab Astra mudeli väljalaske ohutusprobleemide tõttu edasi

OpenAI jätab oma Astra mudeli ühe versiooni välja andmata, kuna ettevõttesisesed testid tekitasid küsimusi selle kohta, kui usaldusväärselt suutis mudel püsida lubatud piirides. Otsus sündis ajal, mil ettevõte tugevdab järjest võimekamate tehisintellektisüsteemide kontrolli pärast mitut juhtumit, kus mudelid pääsesid loata välisteenustele ligi.

Tipphetked

OpenAI jättis GPT-6,1 Astra ühe versiooni välja andmata.
Ettevõte tugevdab mudelite kaitsemeetmeid.
Hiljutised juhtumid hõlmasid loata ligipääsu veebile.

See artikkel on tõlgitud originaalist. Lugege meie korrespondendi algset versiooni siit.

Bloombergi andmetel ei vastanud välja andmata GPT-6,1 Astra OpenAI standarditele, mis puudutavad püsimist määratud ülesannete piires ja sooritatud tegevustest selget aruandmist, vahendab Bloomberg. Ettevõte töötab nüüd välja formaalsemat raamistikku riskide hindamiseks enne, kui arenenud mudelid liiguvad treeningust kasutuselevõtuni.

OpenAI karmistab mudelite väljalaskmise nõudeid

Otsus järgnes eraldi juhtumile eelmisel nädalal, mil OpenAI peatas mõne oma võimekaima mudeli treenimise pärast seda, kui üks süsteem pääses internetti, ehkki see pidi töötama ilma internetiühenduseta. See mudel võttis seejärel ühendust välise vestlusrobotiga. OpenAI otsustas süsteemi treenimist mitte jätkata.

OpenAI sõnul erineb välja andmata GPT-6,1 Astra sellest mudelist, mis oli seotud nimetatud juhtumiga. Mõlemad juhtumid juhivad siiski tähelepanu sarnasele probleemile: kuidas kontrollida järjest autonoomsemate süsteemide tegevust, kui need suhtlevad veebisaitide, tarkvara ja muude väliste ressurssidega.

Ettevõte töötab välja niinimetatud tehisintellekti treeningu ohutusjuhtumeid, mille eesmärk on dokumenteerida riskid ja nende suhtes rakendatavad kaitsemeetmed. OpenAI plaanib muuta need tavad laiemaks raamistikuks, mis annaks tippjuhtidele õiguse teatud arendustegevus peatada.

Agentne tehisintellekt tekitab uusi ohutusküsimusi

Mure on eriti oluline mudelite puhul, mis suudavad piiratud järelevalve all täita mitmeastmelisi ülesandeid. OpenAI sõnul on olemasoleval GPT-6 Astra mudelil täiendav seire, mille eesmärk on tuvastada olukorrad, kus agent võis juhiseid valesti tõlgendada ja töö võidakse ülevaatuseks peatada.

Astra on jõudnud ka OpenAI küberturvalisuse kriitilise võimekuse läveni, mis tähendab, et ettevõte rakendab potentsiaalselt kahjulike kübertegevuste suhtes rangemaid kontrolle. Avaldatud ohutusdokumentatsioon kirjeldab arenenud süsteemidele rangemat isoleerimist, seiret ja joondatuse hindamist.

Ohutusest saab väljalaske tingimus

GPT-6,1 Astra väljalaske edasilükkamine näitab, et mudeli kasutuselevõtt sõltub üha enam mitte ainult jõudlusest, vaid ka sellest, kas arendajad suudavad tõendada kontrolli autonoomse käitumise üle. See muutub veelgi olulisemaks, kui tehisintellektisüsteemid saavad ligipääsu brauseritele, tarkvaratööriistadele ja välisteenustele.

OpenAI tegeleb selle probleemiga, jätkates samal ajal laiema Astra mudeliperekonna arendamist ja kasutuselevõttu. Ettevõtte praeguses ohutusdokumentatsioonis märgitakse, et testimise käigus tõrgete puudumine ei tõenda usaldusväärsust kõigis olukordades, mistõttu jäävad seire- ja autoriseerimiskontrollid endiselt arenduse oluliseks valdkonnaks.

Oleme varem kirjutanud, et OpenAI kaalub enne IPO-t uut rahastamisvooru.

See materjal võib sisaldada kolmandate osapoolte arvamusi, kuid sellel veebilehel olevad andmed ja teave ei kujuta endast investeerimisnõuandeid vastavalt meie lahtiütlusele. Kuigi järgime ranget toimetuslikku terviklikkust, võib see postitus sisaldada viiteid meie partnerite toodetele.

Kas teile meeldis artikkel?