Anthropic varnar för AI:s ”existentiella risker” inför börsnotering
Anthropic har för första gången formellt varnat investerare för att företagets teknik kan innebära ”existentiella risker för mänskligheten”. Varningen finns i företagets prospekt inför börsnoteringen, som de senaste dagarna har cirkulerat bland en begränsad grupp partner.
Denna artikel har översatts från originalet. Läs originalversionen av vår korrespondent här.
Företaget, som leds av Dario Amodei och värderas till närmare 1 000B dollar, ägnade nästan en tredjedel av det omfattande dokumentet åt riskfaktorer. Bland annat listar Anthropic möjligheten att allt mer avancerade AI-modeller kan manipulera människor, ägna sig åt utpressning och uppvisa annat oförutsägbart beteende, enligt Financial Times.
Dokumentet beskriver även mer konventionella risker för investerare. En av dem är företagets stora beroende av en liten grupp kunder. Enligt personer med insyn i prospektet stod bara två kunder för nästan en fjärdedel av Anthropics intäkter i fjol.
Anthropic förbereder börsnotering
Sådana varningar kan komplicera företagets värdering inför börsintroduktionen. Anthropic väntas genomföra det som kan bli historiens största börsnotering sett till värdering.
Claude-utvecklaren offentliggjorde också mer information om kostnaderna för att bygga avancerade AI-modeller. Företaget väntas noteras på Nasdaq i höst.
Anthropic uppgav för investerare att företaget planerar att spendera 518B dollar under de kommande åren på molninfrastruktur, beräkningskapacitet och andra åtaganden som krävs för att stödja den snabba tillväxten.
Företagets finansiärer räknar med att Anthropic går till börsen med en värdering över 2 000B dollar. Det skulle vara mer än dubbelt så högt som nivån i den senaste finansieringsrundan i maj och över SpaceX:s värdering på 1 780B dollar i juni. Investerarnas optimism drivs till stor del av företagets snabba tillväxt.
Samtidigt får oro kring AI-säkerhet allt större uppmärksamhet. Nuvarande och tidigare Anthropic-anställda har nyligen offentligt varnat för att okontrollerad AI-utveckling teoretiskt kan utgöra ett hot mot mänskligheten inom det kommande decenniet.
Förra veckan sade Amodei till FN:s säkerhetsråd att AI kan hota mänskligheten och är ”den viktigaste globala säkerhetsfrågan som världen står inför i dag”.
Den här månaden uppmanade Anthropics vd också till en inbromsning av utvecklingen av de mest avancerade AI-systemen. Hans förslag om närmare branschsamverkan och starkare säkerhetsåtgärder fick stöd av OpenAI:s vd Sam Altman och Elon Musk.
Oron har intensifierats efter en rad uppmärksammade cybersäkerhetsincidenter där AI-agenter fick tillgång till externa system. Förra veckan uppgav OpenAI att dess verktyg hade hackat ”dussintals” externa webbplatser, däribland myndighetssajter.
På måndagen skrotade OpenAI också planerna på att lansera sin senaste modell nästa månad och hänvisade till säkerhetsproblem.
Intäktstillväxten medför massiva kostnader
Anthropics prospekt avslöjade också nya detaljer om företagets finansiella utveckling. I fjol översteg rörelseförlusten 8B dollar när utgifterna för beräkningskapacitet ökade kraftigt.
Intäkterna ökade tolvfalt till nästan 4,6B dollar. Samtidigt drev kostnaderna för att träna och köra modellerna upp rörelsekostnaderna till närmare 13B dollar.
För att säkra den beräkningskapacitet som krävs har Anthropic tecknat avtal med Google, SpaceX och ett antal mindre företag.
Både intäkter och utgifter har fortsatt att öka kraftigt i år. Anthropic genererade 11,5B dollar i intäkter under andra kvartalet och är på väg mot ett andra kvartal i rad med rörelsevinst, men endast på justerad basis.
Varför Anthropic behöver en börsnotering
En börsnotering skulle ge Anthropic tillgång till en ny kapitalkälla i en tid då utvecklingen av avancerade AI-modeller kräver enorma investeringar. Företaget har redan informerat investerare om att åtagandena för molninfrastruktur, beräkningskapacitet och andra resurser kommer att uppgå till 518B dollar under de kommande åren.
En börsnotering skulle också göra det möjligt för Anthropic att minska sitt beroende av privata finansieringsrundor och ge tidiga investerare möjlighet att gradvis sälja sina innehav på den offentliga marknaden. Den snabba intäktstillväxten hjälper företaget att motivera en hög värdering, men efter noteringen måste det regelbundet visa investerarna att affärstillväxten kan uppväga de enorma kostnaderna för beräkningskapacitet och infrastruktur.
Anthropic har också nyligen introducerat en billigare modell för artificiell intelligens.
Senaste Anthropic nyheterna
- Forex
- Crypto