Anthropics oppfordring om lavere tempo: Kan sikkerhet dempe KI-kappløpet uten å gi fra seg ledelsen?

​Anthropic har lenge posisjonert seg som KI-selskapet med fokus på sikkerhet, som balanserer fremskritt innen modeller med strenge sikkerhetstiltak. Men administrerende direktør Dario Amodeis nylige oppfordring om å senke tempoet i kapabilitetsutviklingen reiser spørsmålet om effektiv tilbakeholdenhet kan sameksistere med kommersielt lederskap uten å tape terreng til andre konkurrenter eller Kina.

En oppfordring om å senke tempoet ved fronten

Mens selskapet forbereder seg på en mulig Nasdaq-børsnotering (som forventes å nå et nivå på rundt 2 billioner dollar), oppfordret administrerende direktør Dario Amodei offentlig KI-laboratorier i frontlinjen til å «senke tempoet ved fronten». Tretrinnsplanen hans tar sikte på å redusere hastigheten på kapabilitetsfremskritt slik at sikkerhetstiltak kan holde tritt. Medgründer Jack Clark la til at myndigheter kan bli nødt til å påby verifiserbare nødstoppmekanismer for KI. 

Se innlegget på X Laster inn...

Tweeten ble slettet av forfatteren.

Men vi lagret alt 🙂.

Bare noen dager tidligere publiserte selskapet en detaljert rapport om trusseletterretning som ga en rekke eksempler på hvordan ulike personer hadde forsøkt å misbruke Claude til cyberoperasjoner og til og med programvare for våpen. Amodei advarte også om at mer kapable KI-«svermer» potensielt kan kontrollere en stor andel av internett innen 6–12 måneder. OpenAIs Sam Altman og Elon Musk uttrykte også lignende syn på problemet. Altman sa at OpenAI allerede hadde tatt noen grep for å innføre lavere tempo internt.

Lønnsomhet møter forsiktighet

Fra et finansielt perspektiv rapporterer Anthropic gjennomgående sterke økonomiske resultater. Selskapet forventer et andre kvartal på rad med positiv justert driftsinntekt. Bruttomarginene ligger over 80 prosent før inntektsandeler til partnere og opplæringskostnader. Omsetningen i andre kvartal nådde rundt 11,5 milliarder dollar, mens annualiserte inntekter nådde 65 milliarder dollar ved utgangen av juli. Disse tallene forklarer hvorfor børsnoteringen er planlagt. Anthropic har valgt Nasdaq som noteringsplattform og forbereder seg på en mulig debut i oktober. 

Se innlegget på X Laster inn...

Tweeten ble slettet av forfatteren.

Men vi lagret alt 🙂.

Vedvarende lønnsomhet er viktig for å styrke tilliten blant investorer som er bekymret for kontantforbrenningen som er typisk for KI-laboratorier i frontlinjen. Rask inntektsvekst avhenger imidlertid av fortsatt kapabilitetsutvikling og bedriftskunders bruk av modeller som Claude. Å senke utviklingstempoet kan gi konkurrenter rom til å ta igjen forspranget eller la kinesiske selskaper redusere avstanden. Amodei mener at fremskrittene fortsatt vil fremstå som raske under et lavere tempo, men at det vil være mulig å forhindre de fleste sikkerhetsrisikoer.

Nødstoppmekanismer og uavhengig innsyn

Jack Clark spisset diskusjonen ytterligere. I et intervju med BBC sa Anthropic-medgründeren at de fleste laboratorier allerede har interne muligheter til å stenge systemer ned. Det vanskeligere spørsmålet, argumenterte han, er om myndigheter bør kreve verifiserbare nødstoppmekanismer som kan bekreftes av uavhengige tredjeparter. Slike mekanismer vil sikre eksternt ansvar.  

Se innlegget på X Laster inn...

Tweeten ble slettet av forfatteren.

Men vi lagret alt 🙂.

Anthropic godtok en uavhengig gjennomgang fra METR av tidligere hendelser der Claude-modeller fikk tilgang til eksterne systemer under testing. Disse tiltakene har en positiv innvirkning på Anthropics sikkerhetsprofil, og kan gi et konkurransefortrinn mot rivaler som beveger seg raskere. Men det oppstår også nye spørsmål knyttet til interne prosesser og kostnader ved etterlevelse, samt regulatoriske krav.

Tilbakeholdenhetens geopolitikk

Amodei understreket at demokratiske land bør samordne tilbakeholdenhet uten å overlate teknologisk lederskap til Kina. Kinesiske selskaper og statsrelaterte aktører er systematisk til stede i Anthropics rapporter om misbruk, inkludert forsøk på modelldestillering og etterretningsinnhenting. Enkelte amerikanske lovgivere har vist til advarsler fra forskere, er enige i eksistensiell risiko og tar til orde for strengere regler. Andre, inkludert personer med bånd til administrasjonen, ser sikkerhetsdrevne pauser som en gave til Beijing. 

Se innlegget på X Laster inn...

Tweeten ble slettet av forfatteren.

Men vi lagret alt 🙂.

Eksportkontroller og selektive tilgangsbegrensninger for avanserte modeller har allerede vist geopolitikkens voksende rolle i geopolitikken. En koordinert nedbremsing som Kina velger å ikke delta i, kan stille amerikanske selskaper dårligere. Rapporter viser at enkelte selskaper som Nvidia, Palantir og Booz Allen har begrenset visse Anthropic-modeller på grunn av bekymringer rundt datalagring og immaterielle rettigheter. Dermed påvirker sikkerhetshendelser eller endringer i retningslinjer direkte tilliten på selskapsnivå.

Balansering av merkevare og konkurranse

Anthropic bruker Constitutional AI, grundig testing og offentlige trusselrapporter for å skape et bilde av et ansvarlig selskap og bidra til å tiltrekke risikosky bedriftskunder. Den nylige lanseringen av Claude for Financial Advisors, med koblinger til BlackRock, Charles Schwab og Addepar, tyder på kommersiell ekspansjon selv mens selskapet tar til orde for tilbakeholdenhet. Hvis konkurrenter leverer store kapabilitetssprang og tar markedsandeler, kan investorer og kunder tolke forsiktighet som nøling, så ledelsen bør balansere alle relevante hensyn i denne sammenhengen.

Se innlegget på X Laster inn...

Tweeten ble slettet av forfatteren.

Men vi lagret alt 🙂.

Tidligere bransjeomfattende sikkerhetsdiskusjoner har resultert i frivillige forpliktelser som viste seg vanskelige å håndheve under konkurransepress. Anthropic forsøker å løse dette problemet ved å gå foran med åpenhet og tilgang for tredjeparter, samtidig som selskapet fortsatt forfølger aggressiv vekst med sikte på en fremtidig børsnotering. Suksessen vil avhenge av om nok aktører følger etter – og om markedene vil belønne forsiktighet like høyt som kapabilitet.