Az Anthropic az IPO előtt feltárja az AI „egzisztenciális kockázatait”

Az Anthropic az IPO előtt feltárja az AI „egzisztenciális kockázatait”
Hogyan fenyegeti az AI a világot?

​Az Anthropic most először figyelmeztette hivatalosan a befektetőket arra, hogy technológiája „egzisztenciális kockázatot jelenthet az emberiségre nézve”. A figyelmeztetés a vállalat IPO-tájékoztatójában szerepel, amelyet az elmúlt napokban korlátozott számú partnerrel osztottak meg.

Ezt a cikket az eredetiből fordítottuk. Olvassa el tudósítónk eredeti változatát itt.

A Dario Amodei vezette, közel 1T dollárra értékelt vállalat a terjedelmes dokumentum csaknem egyharmadát a kockázati tényezőknek szentelte. Ezek között az Anthropic felsorolja annak lehetőségét is, hogy az egyre fejlettebb AI-modellek manipulálhatják az embereket, zsarolhatnak, illetve más kiszámíthatatlan viselkedést tanúsíthatnak – írja a Financial Times.

A dokumentum a befektetőket érintő hagyományosabb kockázatokat is részletezi. Ezek egyike a vállalat erős függősége az ügyfelek egy szűk körétől. A tájékoztatót ismerő személyek szerint tavaly mindössze két ügyfél adta az Anthropic bevételének csaknem negyedét.

Az Anthropic IPO-ra készül

Az ilyen figyelmeztetések megnehezíthetik a vállalat értékelését a tőzsdei bevezetés előtt. Az Anthropic várhatóan a történelem legnagyobb értékeltségű IPO-ját indítja el.

A Claude fejlesztője a csúcstechnológiás AI-modellek létrehozásához szükséges költségekről is több információt hozott nyilvánosságra. A vállalat várhatóan ősszel vezeti be részvényeit a Nasdaqon.

Az Anthropic arról tájékoztatta a befektetőket, hogy a következő években 518B dollárt tervez költeni felhőinfrastruktúrára, számítási kapacitásra és a gyors növekedését támogató egyéb kötelezettségekre.

A vállalat támogatói arra számítanak, hogy az Anthropic 2T dollár feletti értékeltség mellett lép tőzsdére. Ez több mint kétszerese lenne a májusi legutóbbi finanszírozási körben elért szintnek, és meghaladná a SpaceX júniusban elért 1,78T dolláros értékeltségét is. A befektetők optimizmusát nagyrészt a vállalat gyors növekedése táplálja.

Az AI biztonságával kapcsolatos aggodalmak ugyanakkor egyre hangsúlyosabbá válnak. Az Anthropic jelenlegi és korábbi munkatársai a közelmúltban nyilvánosan figyelmeztettek arra, hogy az AI ellenőrizetlen fejlesztése elméletileg akár a következő évtizeden belül is veszélyt jelenthet az emberiségre.

Amodei a múlt héten az ENSZ Biztonsági Tanácsában azt mondta, hogy az AI veszélyt jelenthet az emberiségre, és „a világ előtt álló legfontosabb globális biztonsági kérdés”.

Az Anthropic vezérigazgatója ebben a hónapban a legfejlettebb AI-rendszerek fejlesztésének lassítását is szorgalmazta. Az iparági együttműködés szorosabbá tételére és erősebb biztonsági intézkedésekre vonatkozó javaslatait az OpenAI vezérigazgatója, Sam Altman, valamint Elon Musk is támogatta.

Az aggodalmakat tovább fokozta a nagy visszhangot kiváltó kiberbiztonsági incidensek sorozata, amelyek során AI-agentek külső rendszerekhez fértek hozzá. Az OpenAI a múlt héten közölte, hogy eszközei „tucatnyi” külső weboldalt – köztük kormányzati oldalakat – törtek fel.

Az OpenAI hétfőn azt is elvetette, hogy legújabb modelljét a következő hónapban kiadja, biztonsági aggályokra hivatkozva.

A bevételnövekedés hatalmas költségekkel jár

Az Anthropic IPO-tájékoztatója új részleteket is feltárt a vállalat pénzügyi teljesítményéről. Tavaly a működési vesztesége meghaladta a 8B dollárt, mivel a számítási kapacitásra fordított kiadások megugrottak.

A bevétel tizenkétszeresére, csaknem 4,6B dollárra nőtt. Ezzel párhuzamosan a modellek betanításának és futtatásának költségei közel 13B dollárra emelték a működési ráfordításokat.

A szükséges számítási kapacitás biztosítása érdekében az Anthropic megállapodásokat kötött a Google-lel, a SpaceX-szel és több kisebb vállalattal.

Idén mind a bevétel, mind a kiadások meredeken emelkedtek tovább. Az Anthropic a második negyedévben 11,5B dollár bevételt ért el, és egymást követő második negyedévben is működési nyereséget érhet el, bár csak korrigált alapon.

Miért van szüksége az Anthropicnak IPO-ra?

A tőzsdére lépés új tőkeforráshoz biztosítana hozzáférést az Anthropic számára egy olyan időszakban, amikor a fejlett AI-modellek fejlesztése hatalmas kiadásokat igényel. A vállalat már tájékoztatta a befektetőket arról, hogy a felhőinfrastruktúrával, számítási kapacitással és egyéb erőforrásokkal kapcsolatos kötelezettségei a következő években elérik az 518B dollárt.

Az IPO azt is lehetővé tenné az Anthropic számára, hogy csökkentse függőségét a magánfinanszírozási köröktől, és lehetőséget biztosítson a korai befektetőknek részesedésük fokozatos értékesítésére a nyilvános piacon. A gyors bevételnövekedés segít igazolni a magas értékeltséget, a tőzsdei bevezetést követően azonban a vállalatnak rendszeresen bizonyítania kell a befektetőknek, hogy az üzleti növekedés ellensúlyozni tudja a számítási kapacitás és az infrastruktúra hatalmas költségeit.

Az Anthropic a közelmúltban egy alacsonyabb költségű mesterségesintelligencia-modellt is bemutatott.

Ez az anyag harmadik felek véleményét tartalmazhatja, a weboldalon található adatok és információk egyike sem minősül befektetési tanácsnak a Jogi nyilatkozatunk szerint. Bár szigorú Szerkesztői Integritást követünk, ez a bejegyzés tartalmazhat hivatkozásokat partnereink termékeire.