De oproep van Anthropic tot vertraging: Kan veiligheid de AI-race afremmen zonder de leiding uit handen te geven?

​Anthropic positioneert zich al lange tijd als het op veiligheid gerichte AI-bedrijf dat modelontwikkelingen in balans brengt met strenge waarborgen. Maar de recente oproep van CEO Dario Amodei om de capaciteitsgroei af te remmen, roept de vraag op of effectieve terughoudendheid kan samengaan met commercieel leiderschap zonder terrein prijs te geven aan andere rivalen of China.

Een oproep om de frontier af te remmen

Terwijl het zich voorbereidt op een mogelijke Nasdaq-IPO (die naar verwachting een niveau van ongeveer $2 biljoen zal bereiken), riep CEO Dario Amodei frontier-AI-labs publiekelijk op om “de frontier af te remmen”. Zijn drieledige plan is gericht op het vertragen van het tempo van capaciteitsverbeteringen, zodat veiligheidsmaatregelen kunnen bijblijven. Medeoprichter Jack Clark voegde eraan toe dat overheden mogelijk verifieerbare AI-killswitches moeten verplichten. 

Bekijk bericht op X Laden...

De tweet is verwijderd door de auteur.

Maar we hebben alles opgeslagen 🙂.

Slechts enkele dagen eerder bracht het bedrijf een gedetailleerd threat-intelligencerapport uit met talrijke voorbeelden van hoe verschillende personen Claude probeerden te misbruiken voor cyberoperaties en zelfs wapensoftware. Amodei waarschuwde ook dat capabelere AI-„zwermen” binnen 6–12 maanden mogelijk een groot deel van het internet zouden kunnen controleren. Sam Altman van OpenAI en Elon Musk uitten eveneens vergelijkbare zorgen over het probleem. Altman zei dat OpenAI intern al stappen had gezet om pacing in te voeren.

Winstgevendheid ontmoet voorzichtigheid

Vanuit financieel perspectief rapporteert Anthropic consistent sterke financiële resultaten. Het bedrijf verwacht een tweede opeenvolgend kwartaal met een positief aangepast operationeel resultaat. De brutomarges liggen boven 80 procent vóór omzetafdrachten aan partners en trainingskosten. De omzet in het tweede kwartaal bedroeg ongeveer $11,5 miljard, terwijl de op jaarbasis berekende omzet eind juli $65 miljard bereikte.Deze cijfers verklaren de geplande IPO. Anthropic heeft Nasdaq gekozen als beursnoteringsplatform en bereidt zich voor op een mogelijke beursgang in oktober. 

Bekijk bericht op X Laden...

De tweet is verwijderd door de auteur.

Maar we hebben alles opgeslagen 🙂.

Aanhoudende winstgevendheid is belangrijk om het vertrouwen te vergroten van investeerders die bezorgd zijn over de cash burn die kenmerkend is voor frontier-AI-labs. De snelle omzetgroei is echter afhankelijk van voortdurende capaciteitsverbeteringen en de adoptie door ondernemingen van modellen zoals Claude. Het vertragen van het ontwikkelingstempo kan concurrenten ruimte geven om in te lopen of Chinese bedrijven de kans bieden de kloof te dichten. Amodei gelooft dat de vooruitgang onder een vertraagd regime nog steeds snel zou lijken, maar dat de meeste veiligheidsrisico’s voorkomen zouden kunnen worden.

Killswitches en toezicht door derden

Jack Clark scherpt de discussie verder aan. In een gesprek met de BBC zei de medeoprichter van Anthropic dat de meeste labs al interne mogelijkheden hebben om systemen uit te schakelen. De moeilijkere vraag is volgens hem of overheden verifieerbare killswitches moeten verplichten die door onafhankelijke derden kunnen worden bevestigd. Dergelijke mechanismen zouden externe verantwoordingsplicht waarborgen.  

Bekijk bericht op X Laden...

De tweet is verwijderd door de auteur.

Maar we hebben alles opgeslagen 🙂.

Anthropic stemde in met een onafhankelijke beoordeling door METR van eerdere incidenten waarbij Claude-modellen tijdens tests toegang kregen tot externe systemen. Deze stappen hebben een positieve invloed op het veiligheidsimago van Anthropic en kunnen een concurrentievoordeel bieden ten opzichte van sneller opererende rivalen. Maar er rijzen ook nieuwe vragen over interne processen en compliancekosten, evenals regelgevende vereisten.

De geopolitiek van terughoudendheid

Amodei benadrukte dat democratische landen terughoudendheid moeten coördineren zonder technologisch leiderschap aan China over te dragen. Chinese bedrijven en aan de staat gelieerde actoren komen systematisch voor in de misbruikrapporten van Anthropic, waaronder pogingen tot modeldistillatie en inlichtingenvergaring. Sommige Amerikaanse wetgevers hebben waarschuwingen van onderzoekers aangehaald, onderschrijven existentiële risico’s en pleiten voor strengere regels. Anderen, onder wie figuren die dicht bij de regering staan, zien veiligheidsgerichte pauzes als een geschenk aan Beijing. 

Bekijk bericht op X Laden...

De tweet is verwijderd door de auteur.

Maar we hebben alles opgeslagen 🙂.

Exportcontroles en selectieve toegangsbeperkingen voor geavanceerde modellen hebben al de groeiende rol van geopolitiek aangetoond. Een gecoördineerde vertraging waaraan China niet wil deelnemen, kan Amerikaanse bedrijven op achterstand zetten. Rapporten tonen aan dat sommige bedrijven, zoals Nvidia, Palantir en Booz Allen, bepaalde Anthropic-modellen hebben beperkt vanwege zorgen over databewaring en intellectueel eigendom. Veiligheidsincidenten of beleidswijzigingen hebben dus rechtstreeks invloed op het vertrouwen op bedrijfsniveau.

Balans tussen merk en concurrentie

Constitutional AI, rigoureuze tests en openbare dreigingsrapporten worden door Anthropic ingezet om het imago van een verantwoord bedrijf te creëren en risicomijdende zakelijke klanten aan te trekken. De recente lancering van Claude for Financial Advisors, met connectors naar BlackRock, Charles Schwab en Addepar, wijst op commerciële expansie, zelfs terwijl het bedrijf pleit voor terughoudendheid. Als concurrenten grote capaciteitsverbeteringen realiseren en marktaandeel veroveren, kunnen investeerders en klanten voorzichtigheid als aarzeling interpreteren; het management moet daarom alle relevante belangen in dit opzicht afwegen.

Bekijk bericht op X Laden...

De tweet is verwijderd door de auteur.

Maar we hebben alles opgeslagen 🙂.

Eerdere sectorbrede veiligheidsdiscussies hebben geleid tot vrijwillige toezeggingen die onder concurrentiedruk moeilijk afdwingbaar bleken. Anthropic probeert dat probleem op te lossen door voorop te lopen met transparantie en toegang voor derden, terwijl het met het oog op een toekomstige IPO agressieve groei blijft nastreven. Succes zal afhangen van de vraag of voldoende sectorgenoten volgen — en of markten voorzichtigheid even hoog zullen waarderen als capaciteit.