Anthropic-blokkering setter OpenAI, Google og Meta i beredskap

Anthropic-blokkering setter OpenAI, Google og Meta i beredskap
Anthropic-blokkering advarer Silicon Valley om AI-kontroll

​Washingtons ordre om å begrense tilgangen til Anthropics mest avanserte AI-modeller har forvandlet en teknisk sikkerhetsstrid til en advarsel for hele AI-industrien i Silicon Valley. Grepet viser at den amerikanske regjeringen nå er villig til å behandle banebrytende modeller ikke bare som kommersielle produkter, men også som strategiske eiendeler knyttet til nasjonal sikkerhet.

Høydepunkter

  • USA beordret Anthropic til å begrense utenlandsk tilgang til Fable 5 og Mythos 5.
  • Grepet fulgte bekymringer om at modellenes sikkerhetsbarrierer kunne omgås.
  • Saken setter en mulig presedens for OpenAI, Google og Meta.
  • Zhipu-aksjer hoppet 33 % da investorer satset på kinesiske AI-alternativer.

Denne artikkelen ble oversatt fra originalen. Les den opprinnelige versjonen av vår korrespondent her.

Ifølge Bloomberg deaktiverte Anthropic tilgangen til Claude Fable 5 og Claude Mythos 5 etter å ha mottatt et direktiv fra amerikanske myndigheter som siterte nasjonale sikkerhetshensyn og begrenset utenlandsk bruk av modellene. Modellene hadde blitt lansert bare dager tidligere, og Anthropic uttalte at restriksjonene tvang dem til å suspendere tilgangen bredt i stedet for å administrere grenser bruker-for-bruker.

Eksportkontroll når AI-modeller

Den umiddelbare bekymringen var om modellenes sikkerhetsbarrierer kunne omgås. Rapporter sa at amerikanske tjenestemenn ble urolige over bevis på at Fable 5 kunne manipuleres til å avsløre programvaresårbarheter, mens Anthropic argumenterte for at reaksjonen var uforholdsmessig og at lignende risikoer eksisterer på tvers av avanserte AI-systemer.

Ordren markerer en kraftig eskalering i Washingtons tilnærming. Tidligere denne måneden utstedte Det hvite hus en presidentordre bygget rundt samarbeid med utviklere av banebrytende AI og cybersikkerhetsbyråer, inkludert et frivillig rammeverk for engasjement før bredere modellanseringer. Anthropic-saken antyder at frivillig samarbeid raskt kan vike for obligatoriske kontroller når tjenestemenn mener en modell utgjør en sikkerhetsrisiko.

Anthropic har sendt senior teknisk personell til Washington for å diskutere restriksjonene med myndighetene. Selskapet prøver å løse de spesifikke bekymringene samtidig som de unngår en presedens som kan bremse fremtidige modellanseringer i hele bransjen.

Silicon Valley står overfor en ny regelbok

Striden kommer på et sensitivt tidspunkt for AI-selskaper. Anthropic, OpenAI, Google og Meta kappes om å bygge mer kapable systemer, mens myndighetene kjemper med å avgjøre hvor mye kontroll de bør utøve over modeller som kan skrive kode, finne sårbarheter og støtte vitenskapelig forskning.

Bekymringen gjelder ikke bare tilgang til en chatbot. Amerikanske tjenestemenn fokuserer i økende grad på modellvekter, de underliggende filene som gir avanserte systemer deres evner. Hvis disse vektene blir stjålet eller kopiert av utenlandske motstandere, frykter beslutningstakere at rivaler kan replikere kraftige AI-systemer uten å bære kostnadene ved å utvikle dem.

Saken spiller også inn i AI-kappløpet mellom USA og Kina. Det kinesiske AI-selskapet Zhipu steg 33 % da Wall Street-analytikere økte innsatsen på at strammere amerikansk kontroll kan øke etterspørselen etter innenlandske kinesiske modeller. JPMorgan opprettholdt en overvekt-anbefaling og hevet kursmålet på Zhipu fra 950 HKD til 1 400 HKD, med henvisning til selskapets modelltransparens og prisposisjon i et konkurranseutsatt marked.

AI-politikk blir markedspolitikk

Anthropic-blokkeringen er viktig fordi den visker ut grensen mellom regulering, nasjonal sikkerhet og kapitalmarkeder. Selskapet er verdsatt til mer enn 900 milliarder dollar og er blant AI-oppstartsselskapene som forventes å søke børsnotering, noe som gjør regulatorisk risiko sentral for investorenes tillit.

For Silicon Valley er budskapet tydelig: banebrytende AI-selskaper kan ikke lenger kontrollere tidspunkt, geografi eller kommersiell utrulling av sine mest kapable modeller. Hvis USA bruker lignende kontroller på andre utviklere, må investorer prise inn en ny risiko som ligner mindre på vanlig teknologiregulering og mer på eksportkontrollpolitikk for brikker eller våpensystemer.

Vi har også rapportert at Anthropic advarer om risikoen ved selvforbedrende AI.

Dette materialet kan inneholde tredjeparts meninger, ingen av dataene og informasjonen på denne nettsiden utgjør investeringsråd i henhold til vår Ansvarsfraskrivelse. Selv om vi følger strenge Redaksjonelle Retningslinjer, kan dette innlegget inneholde referanser til produkter fra våre partnere.