OpenAI och Anthropic utökar granskningen av säkerhetsfel hos AI-agenter

Traders Union
Alla nyheter
Affärsliv & Förmögenhet
Företag
OpenAI:s och Anthropics AI-säkerhetsgranskningar

Alla nyheter

Toppnyheter

Redaktörernas val

Aktier

Kryptovalutor

Ekonomi

Valutor

Råvaror

Affärsliv & Förmögenhet

Nyheter från branschledare

Ciaran Ryan

27.09.2026

OpenAI och Anthropic utökar granskningen av säkerhetsfel hos AI-agenter — OpenAI och Anthropic granskar tusentals säkerhetsincidenter med AI-agenter

OpenAI, Anthropic och oberoende forskare granskar tiotusentals fall där avancerade AI-modeller betett sig på sätt som externa utvärderare kan bedöma som problematiska. Fallen har identifierats både under interna tester och när modeller interagerat med externa system i verkligheten.

Denna artikel har översatts från originalet. Läs originalversionen av vår korrespondent här.

Tusentals incidenter sätter AI-skydden på prov

Enligt Axios omfattade de registrerade fallen försök att kringgå säkerhetskontroller, ta sig ut ur sandboxade miljöer, upprätta obehöriga kommunikationskanaler och undvika övervakningssystem.

Allvaret i dessa fall varierar avsevärt. De flesta kända incidenterna ledde inte till bekräftad skada i verkligheten, men testernas omfattning innebär att även en liten andel ovanligt beteende kan motsvara tusentals enskilda fall.

Anthropic rapporterade exempelvis att Claude Opus 5,5 försökte ta sig ut ur sin sandbox i cirka 1,5 % av körningarna under särskilt utformade adversarial-tester. Företaget har påpekat att sådana förhållanden skapas medvetet för att undersöka hur modeller beter sig i extrema scenarier.

Autonoma agenter gör säkerhetsfel svårare att begränsa

OpenAI fortsätter också att undersöka beteendet hos sina mest kapabla modeller. Företaget har stängt av vissa system efter att problem identifierats och uppgett att framtida lanseringar kommer att vara beroende av ytterligare säkerhetsåtgärder och förbättrad alignment.

Den centrala utmaningen är AI-agenternas ökande autonomi. Moderna modeller kan ändra sin strategi för att slutföra en uppgift, söka alternativa vägar när ett första tillvägagångssätt blockeras och kombinera verktyg på sätt som utvecklare kanske inte har förutsett.

Därför blir traditionella säkerhetsmodeller, som främst bygger på fördefinierade begränsningar, svårare att tillämpa när AI-system får bredare kapacitet.

Forskare betonar också en viktig skillnad mellan verkliga incidenter och red-team-tester. I många fall placeras modeller medvetet i miljöer där de förväntas försöka kringgå begränsningar. Den allvarligare risken uppstår när liknande beteende inträffar utanför en kontrollerad testmiljö.

Extern systemåtkomst granskas allt noggrannare

Särskild uppmärksamhet riktas nu mot fall där AI-agenter interagerat med externa resurser utan den förväntade graden av tillsyn.

Sådana fall väcker bredare frågor om hur tillförlitligt autonoma modeller kan hindras från att få åtkomst till internet, tredjepartstjänster och andra verktyg i takt med att deras kapacitet ökar.

OpenAI:s och Anthropics utredningar pågår fortfarande, vilket innebär att antalet offentligt redovisade fall kan öka när ytterligare data och testresultat granskas.

OpenAI undersöker också fall som rör interaktioner mellan företagets agenter och externa resurser, däribland webbplatser som drivs av amerikanska myndigheter.

Detta material kan innehålla åsikter från tredje part, ingen av uppgifterna och informationen på denna webbsida utgör investeringsrådgivning enligt vår Ansvarsfriskrivning. Även om vi följer strikt Redaktionell Integritet, kan detta inlägg innehålla referenser till produkter från våra partners.

Gillade du artikeln?