Anthropic před IPO odhaluje „existenční rizika“ AI

Anthropic před IPO odhaluje „existenční rizika“ AI
Jak AI ohrožuje svět?

​Anthropic poprvé formálně varoval investory, že jeho technologie by mohla představovat „existenční rizika pro lidstvo“. Varování se objevuje v prospektu k IPO společnosti, který byl v posledních dnech distribuován omezené skupině partnerů.

Tento článek byl přeložen z originálu. Přečtěte si původní verzi od našeho korespondenta zde.

Společnost vedená Dariem Amodeiem a oceněná téměř na 1 bilion $ věnovala rizikovým faktorům téměř třetinu rozsáhlého dokumentu. Anthropic mezi nimi uvádí možnost, že stále pokročilejší modely AI by mohly manipulovat s lidmi, uchylovat se k vydírání a vykazovat další nepředvídatelné chování, uvádí Financial Times.

Dokument rovněž popisuje konvenčnější rizika pro investory. Jedním z nich je silná závislost společnosti na malé skupině zákazníků. Podle lidí obeznámených s prospektem představovali jen dva klienti v loňském roce téměř čtvrtinu tržeb Anthropic.

Anthropic se připravuje na IPO

Taková varování by mohla zkomplikovat ocenění společnosti před vstupem na burzu. Očekává se, že Anthropic zahájí IPO, které by se podle ocenění mohlo stát největším v historii.

Vývojář Claude zveřejnil také více informací o nákladech potřebných k vývoji nejmodernějších modelů AI. Očekává se, že společnost vstoupí na Nasdaq letos na podzim.

Anthropic investorům sdělil, že v příštích letech plánuje vynaložit 518 mld. $ na cloudovou infrastrukturu, výpočetní výkon a další závazky potřebné k podpoře rychlého růstu.

Podporovatelé společnosti očekávají, že Anthropic vstoupí na burzu s oceněním nad 2 biliony $. To by bylo více než dvojnásobek hodnoty dosažené při posledním kole financování v květnu a více než ocenění SpaceX ve výši 1,78 bilionu $, kterého dosáhla v červnu. Optimismus investorů je do značné míry poháněn rychlým růstem společnosti.

Obavy o bezpečnost AI jsou však stále výraznější. Současní i bývalí zaměstnanci Anthropic nedávno veřejně varovali, že nekontrolovaný vývoj AI by teoreticky mohl během příštího desetiletí představovat hrozbu pro lidstvo.

Minulý týden Amodei Radě bezpečnosti OSN řekl, že AI by mohla ohrozit lidstvo a představuje „nejdůležitější globální bezpečnostní otázku, které dnes svět čelí“.

Generální ředitel Anthropic tento měsíc také vyzval ke zpomalení vývoje nejpokročilejších systémů AI. Jeho návrhy na užší spolupráci v odvětví a přísnější bezpečnostní opatření podpořili generální ředitel OpenAI Sam Altman a Elon Musk.

Obavy zesílily po sérii významných incidentů v oblasti kybernetické bezpečnosti, při nichž agenti AI získali přístup k externím systémům. OpenAI minulý týden uvedla, že její nástroje napadly „desítky“ externích webů včetně vládních stránek.

OpenAI v pondělí také zrušila plány na vydání svého nejnovějšího modelu v příštím měsíci s odvoláním na bezpečnostní obavy.

Růst tržeb přináší masivní náklady

Prospekt Anthropic odhalil také nové podrobnosti o finanční výkonnosti společnosti. Její provozní ztráta loni překročila 8 mld. $, protože výdaje na výpočetní výkon prudce vzrostly.

Tržby se zvýšily dvanáctinásobně na téměř 4,6 mld. $. Náklady na trénování a provoz modelů zároveň zvýšily provozní výdaje téměř na 13 mld. $.

Aby si zajistil potřebný výpočetní výkon, Anthropic uzavřel dohody se společnostmi Google, SpaceX a řadou menších firem.

Tržby i výdaje letos nadále prudce rostou. Anthropic ve druhém čtvrtletí vytvořil tržby ve výši 11,5 mld. $ a směřuje ke druhému po sobě jdoucímu čtvrtletí s provozním ziskem, byť pouze na upravené bázi.

Proč Anthropic potřebuje IPO

Vstup na burzu by Anthropic umožnil přístup k novému zdroji kapitálu v době, kdy vývoj pokročilých modelů AI vyžaduje obrovské výdaje. Společnost již investorům sdělila, že její závazky za cloudovou infrastrukturu, výpočetní výkon a další zdroje v příštích letech dosáhnou 518 mld. $.

IPO by Anthropic také umožnilo snížit závislost na soukromých kolech financování a poskytlo raným investorům příležitost postupně prodávat své podíly na veřejném trhu. Rychlý růst tržeb společnosti pomáhá ospravedlnit vysoké ocenění, po vstupu na burzu však bude muset investorům pravidelně dokazovat, že růst podnikání dokáže vyvážit obrovské náklady na výpočetní výkon a infrastrukturu.

Anthropic také nedávno představil levnější model umělé inteligence.

Tento materiál může obsahovat názory třetích stran, žádná data a informace na této webové stránce nepředstavují investiční poradenství podle našeho Prohlášení. I když dodržujeme přísnou Redakční integritu, tento příspěvek může obsahovat odkazy na produkty od našich partnerů.