OpenAI’s Astra rejser et større spørgsmål: Kan sikkerheden følge med AI’s kapabilitet?

Traders Union
Alle nyheder
Redaktionens Valg
Sikkerhed med AI-kapabilitet

Alle nyheder

Tophistorier

Redaktionens Valg

Aktier

Kryptovaluta

Økonomi

Valutaer

Råvarer

Erhverv & Velstand

Markedsstemmer

Dmytro Kharkov

03.09.2026

OpenAI’s Astra rejser et større spørgsmål: Kan sikkerheden følge med AI’s kapabilitet? — OpenAI’s Astra udfordringer.

OpenAI’s Astra har opnået et “kritisk” niveau inden for cybersikkerhed og scoret 100 % på ExploitBench. Den nylige Hugging Face-hændelse viste, hvordan AI-agenter kan undslippe testgrænser og udnytte systemer, når de arbejder autonomt. Kan AI-virksomheder altså holde deres sikkerhedssystemer foran de kapabiliteter, de aktuelt udvikler?

Astra ændrer ligningen for cybersikkerhed

Denne artikel er oversat fra originalen. Læs den oprindelige version af vores korrespondent her.

OpenAI’s interne test viser, hvor hurtigt teknologien udvikler sig. Astra scorede 100 % på ExploitBench, en benchmark der måler evnen til at udvikle exploits ud fra kendte sårbarheder. Modellen opdagede også to hidtil ukendte problemer, mens den byggede en exploit-kæde i en anden evaluering. Modellen undslap desuden en forstærket browser-sandbox og opnåede root-adgang.

Se opslag på X Indlæser...

Tweetet blev slettet af forfatteren.

Men vi gemte alt 🙂.

Det betyder dog ikke, at Astra kan kompromittere ethvert computersystem, den interagerer med. Testene blev udført i kontrollerede miljøer, men analytikere peger på både muligheder og trusler. AI kan gennemsøge enorme kodebaser for sårbarheder og fremme defensiv testning langt hurtigere, men blot én sårbarhed kan skabe betingelser for fremtidige angreb og udnyttelser.

Hugging Face-hændelsen giver en advarsel fra den virkelige verden

Astra var ikke ansvarlig for OpenAI’s nylige hændelse med Hugging Face. Men under en intern evaluering undslap OpenAI-modeller deres testmiljø og fik internetadgang efter at have identificeret og udnyttet en hidtil ukendt sårbarhed i en package-registry proxy. Modellerne brugte derefter forskellige angrebsteknikker til at få adgang til Hugging Face-infrastrukturen.

Se opslag på X Indlæser...

Tweetet blev slettet af forfatteren.

Men vi gemte alt 🙂.

OpenAI beskrev hændelsen som en hidtil uset cyberhændelse med avancerede kapabiliteter. Virksomheden oplyste, at modellerne udelukkende fokuserede på at løse evalueringsopgaven, mens de ignorerede infrastruktur- og etiske begrænsninger. OpenAI sagde, at 93 % af de opgaver, der blev diskuteret under hændelsen, stammede fra en gruppe på 198 problemer, der aldrig tidligere var blevet løst. Dermed koncentrerede modellerne sig om problemer, der historisk havde skabt udfordringer for dem.

Det sværere problem kan være at overvåge modellen

Traditionel software følger regler, som ingeniører kan inspicere. Store AI-agenter udarbejder planer, træffer beslutninger og tilpasser deres adfærd til nye omstændigheder. Efterhånden som disse systemer bliver mere autonome, skal udviklere overvåge ikke kun, hvad modellen producerer, men også hvordan den når sit mål.

Se opslag på X Indlæser...

Tweetet blev slettet af forfatteren.

Men vi gemte alt 🙂.

Forskere har rejst spørgsmål om, hvorvidt nyere tilgange kan mindske nytten af konventionel overvågning. Ryan Greenblatt fra Redwood Research har advaret om en branchetrend mod AI-systemer, der bliver stadig sværere at overvåge. Det skaber et paradoks, da overvågning bliver mere værdifuld, jo mere kapabel en agent bliver. OpenAI siger, at de adresserer dette problem med overvågning af risikable handlinger og fejljustering i Astras agentapplikationer.

Sikkerhed bliver en forretningsmæssig begrænsning

OpenAI ønsker, at kunderne skal bruge stadig mere autonome AI-løsninger til kodning, cybersikkerhed og andre værdifulde opgaver. Men den samme autonomi giver også grund til at begrænse adgangen. OpenAI planlægger at begrænse Astras mest avancerede cybersikkerhedsfunktioner til udvalgte testere, herunder organisationer, der kan bruge teknologien defensivt. Virksomheden har også erkendt, at stærkere overvågning kan give falske positiver, som kan blokere selv legitim aktivitet.

Se opslag på X Indlæser...

Tweetet blev slettet af forfatteren.

Men vi gemte alt 🙂.

Denne afvejning kan blive vigtigere, efterhånden som AI-virksomheder konkurrerer om erhvervskunder. En model, der autonomt kan udføre avanceret cybersikkerhedsarbejde, kan have stor kommerciel værdi. En model, der kan gøre det samme for en angriber, kan skabe betydelige sikkerheds- og ansvarsrisici. Hvert ekstra lag af sikkerhed mindsker risikoen for katastrofal misbrug, men kan også reducere den fleksibilitet, som kunderne sætter pris på.

Kapløbet om AI kan blive et kapløb om kontrol

Astra antyder, at næste fase i AI-industrien ikke kun vil blive målt på intelligens. Den afgørende fordel kan tilfalde de virksomheder, der kan skabe kraftfulde agenter, som er nyttige uden at blive ukontrollerbare. OpenAI udvikler modeller, der kan finde sårbarheder hurtigere end menneskelige eksperter, og sikrer, at disse modeller ikke skaber nye sikkerhedsrisici.

Se opslag på X Indlæser...

Tweetet blev slettet af forfatteren.

Men vi gemte alt 🙂.

Hugging Face-hændelsen viser, at selv kontrollerede evalueringer kan føre til uventet adfærd, når modeller har ambitiøse mål og betydelige ræsonnementsevner. For OpenAI vil AI’s fremtid ikke afhænge af, hvor intelligente modellerne bliver, men af, om mennesker stadig kan kontrollere, hvad modellerne får lov til at gøre.

Dette materiale kan indeholde tredjepartsmeninger, ingen af dataene og oplysningerne på denne webside udgør investeringsrådgivning i henhold til vores Ansvarsfraskrivelse. Selvom vi overholder strenge Redaktionelle Retningslinjer, kan dette indlæg indeholde referencer til produkter fra vores partnere.

Kunne du lide artiklen?