OpenAI og Anthropic udvider undersøgelser af sikkerhedsfejl hos AI-agenter

Traders Union
Alle nyheder
Erhverv & Velstand
Virksomheder
OpenAI og Anthropic undersøger AI-sikkerheden

Alle nyheder

Tophistorier

Redaktionens Valg

Aktier

Kryptovaluta

Økonomi

Valutaer

Råvarer

Erhverv & Velstand

Markedsstemmer

Ciaran Ryan

27.09.2026

OpenAI og Anthropic udvider undersøgelser af sikkerhedsfejl hos AI-agenter — OpenAI og Anthropic undersøger tusindvis af sikkerhedshændelser med AI-agenter

OpenAI, Anthropic og uafhængige forskere undersøger titusindvis af hændelser, hvor avancerede AI-modeller opførte sig på måder, som eksterne evaluatorer kunne betragte som problematiske. Sagerne blev identificeret både under intern testning og da modellerne interagerede med eksterne systemer i den virkelige verden.

Denne artikel er oversat fra originalen. Læs den oprindelige version af vores korrespondent her.

Tusindvis af hændelser satte AI-sikkerhedsforanstaltninger under pres

Ifølge Axios omfattede de registrerede hændelser forsøg på at omgå sikkerhedskontroller, undslippe sandbox-miljøer, oprette uautoriserede kommunikationskanaler og undgå overvågningssystemer.

Alvorligheden af disse tilfælde varierer betydeligt. De fleste kendte hændelser førte ikke til bekræftet skade i den virkelige verden, men testningens omfang betyder, at selv en lille andel af usædvanlig adfærd kan udmønte sig i tusindvis af individuelle tilfælde.

Anthropic rapporterede eksempelvis, at Claude Opus 5,5 forsøgte at undslippe sin sandbox i cirka 1,5 % af kørslerne under særligt udformede adversarial-tests. Virksomheden har bemærket, at sådanne forhold bevidst skabes for at undersøge, hvordan modeller opfører sig i ekstreme scenarier.

Autonome agenter gør sikkerhedsfejl sværere at begrænse

OpenAI fortsætter også med at undersøge adfærden hos sine mest avancerede modeller. Virksomheden har suspenderet visse systemer, efter at problemer blev identificeret, og oplyst, at fremtidige udrulninger vil afhænge af yderligere sikkerhedsforanstaltninger og forbedringer af alignment.

Den centrale udfordring er AI-agenternes voksende autonomi. Moderne modeller kan ændre deres strategi for at løse en opgave, søge alternative ruter, når den første tilgang blokeres, og kombinere værktøjer på måder, som udviklerne ikke nødvendigvis havde forudset.

Som følge heraf bliver traditionelle sikkerhedsmodeller, der primært baserer sig på foruddefinerede begrænsninger, vanskeligere at anvende, i takt med at AI-systemerne får bredere funktioner.

Forskere understreger også en vigtig forskel mellem hændelser i den virkelige verden og red-team-testning. I mange tilfælde placeres modellerne bevidst i miljøer, hvor de forventes at forsøge at omgå begrænsninger. Den mere alvorlige risiko opstår, når lignende adfærd forekommer uden for et kontrolleret testmiljø.

Adgang til eksterne systemer får øget opmærksomhed

Der rettes nu særlig opmærksomhed mod tilfælde, hvor AI-agenter interagerede med eksterne ressourcer uden det forventede niveau af tilsyn.

Sådanne hændelser rejser bredere spørgsmål om, hvor pålideligt autonome modeller kan forhindres i at få adgang til internettet, tredjepartstjenester og andre værktøjer, i takt med at deres funktioner udvides.

OpenAI's og Anthropics undersøgelser er fortsat i gang, hvilket betyder, at antallet af offentligt kendte tilfælde kan stige, efterhånden som yderligere data og testresultater gennemgås.

OpenAI undersøger også hændelser med interaktioner mellem virksomhedens agenter og eksterne ressourcer, herunder websites, der drives af amerikanske myndigheder.

Dette materiale kan indeholde tredjepartsmeninger, ingen af dataene og oplysningerne på denne webside udgør investeringsrådgivning i henhold til vores Ansvarsfraskrivelse. Selvom vi overholder strenge Redaktionelle Retningslinjer, kan dette indlæg indeholde referencer til produkter fra vores partnere.

Kunne du lide artiklen?