OpenAI stödjer Trumps order om granskning av AI-modeller

OpenAI stödjer Trumps order om granskning av AI-modeller
OpenAI stödjer Trumps order om AI-granskning

OpenAI har meddelat att de kommer att följa president Donald Trumps exekutiva order som uppmanar ledande AI-företag att ge den amerikanska regeringen tidig tillgång till kraftfulla modeller före lansering. Beslutet placerar en av världens ledande AI-utvecklare bakom ett frivilligt ramverk som kan forma hur frontier-modeller granskas för cybersäkerhetsrisker.

Höjdpunkter

  • OpenAI meddelar att de kommer att följa Trumps order om frivillig granskning av AI-modeller.
  • Ordern efterfrågar upp till 30 dagars tidig tillgång till vissa frontier-modeller före lansering.
  • Regeringen kommer att utveckla sekretessbelagda benchmarks för att bedöma avancerade cyberförmågor.
  • Vita huset uppger att ramverket är frivilligt och inte ett licensieringssystem.

Denna artikel har översatts från originalet. Läs originalversionen av vår korrespondent här.

OpenAI stödjer frivillig granskning

George Osborne, OpenAI:s chef för OpenAI for Countries, sa till CNBC att företaget kommer att ansluta sig till ordern och menade att demokratiska regeringar har en roll i hur tekniken används och distribueras. Osborne, tidigare brittisk finansminister, sa att OpenAI tar sitt ansvar på allvar och proaktivt har föreslagit sätt för regeringar att övervaka säkerhetsfrågor.

Osborne började på OpenAI för att leda deras OpenAI for Countries-initiativ, ett program fokuserat på att samarbeta med regeringar kring AI-infrastruktur och implementering. OpenAI har positionerat detta arbete som en del av en bredare satsning för att anpassa nationella AI-system till demokratiska värden och den offentliga sektorns behov.

Vad ordern kräver

Trump undertecknade den exekutiva ordern den 2 juni. Den instruerar amerikanska myndigheter att utveckla en sekretessbelagd benchmarking-process för att bedöma avancerade cyberförmågor hos AI-modeller och avgöra när ett system ska klassificeras som en ”covered frontier model”.

Ordern ber AI-utvecklare att delta i ett frivilligt ramverk som skulle ge den federala regeringen tillgång till berörda frontier-modeller i upp till 30 dagar innan de släpps till andra betrodda partners. Vita huset sa att syftet är att stärka cybersäkerheten och främja säker innovation, samtidigt som ordern slår fast att den inte skapar krav på obligatorisk licensiering, förhandsgodkännande eller tillstånd för utveckling eller lansering av AI-modeller.

Ett nytt test för AI-tillsyn

För OpenAI kan deltagandet hjälpa till att bygga förtroende hos tillsynsmyndigheter och nationella säkerhetsorgan i takt med att deras modeller blir mer kapabla och djupare integrerade i offentliga och privata system.

Policyn visar också den balansgång Washington försöker gå: ökad insyn i risker med frontier-AI utan att sakta ner amerikanska företag i den globala AI-kapplöpningen. 

Nästa test blir om andra stora AI-laboratorier ansluter sig till samma ramverk och om granskningsfönstret på 30 dagar ger myndigheterna tillräckligt med tid att identifiera allvarliga cyberrisker innan nya modeller lanseras.

Det har tidigare rapporterats att börsintroduktioner av SpaceX och OpenAI kan öka riskerna inom AI-sektorn.

Detta material kan innehålla åsikter från tredje part, ingen av uppgifterna och informationen på denna webbsida utgör investeringsrådgivning enligt vår Ansvarsfriskrivning. Även om vi följer strikt Redaktionell Integritet, kan detta inlägg innehålla referenser till produkter från våra partners.