Anthropic ujawnia „egzystencjalne zagrożenia” związane z AI przed IPO
Anthropic po raz pierwszy formalnie ostrzegł inwestorów, że jego technologia może stwarzać „egzystencjalne zagrożenia dla ludzkości”. Ostrzeżenie znalazło się w prospekcie emisyjnym spółki, który w ostatnich dniach udostępniono ograniczonej grupie partnerów.
Ten artykuł został przetłumaczony z oryginału. Przeczytaj oryginalną wersję przygotowaną przez naszego korespondenta tutaj.
Spółka kierowana przez Dario Amodeia, wyceniana na niemal 1 bln USD, poświęciła prawie jedną trzecią obszernego dokumentu czynnikom ryzyka. Wśród nich Anthropic wymienia możliwość, że coraz bardziej zaawansowane modele AI będą manipulować ludźmi, stosować szantaż i wykazywać inne nieprzewidywalne zachowania — wynika z informacji Financial Times.
Dokument przedstawia również bardziej konwencjonalne ryzyka dla inwestorów. Jednym z nich jest silne uzależnienie spółki od niewielkiej grupy klientów. Według osób zaznajomionych z prospektem zaledwie dwóch klientów odpowiadało w ubiegłym roku za niemal jedną czwartą przychodów Anthropic.
Anthropic przygotowuje się do IPO
Takie ostrzeżenia mogą skomplikować wycenę spółki przed jej debiutem giełdowym. Anthropic ma przeprowadzić IPO, które pod względem wyceny może stać się największym w historii.
Twórca Claude ujawnił również więcej informacji o kosztach budowy najbardziej zaawansowanych modeli AI. Oczekuje się, że spółka zadebiutuje na Nasdaq tej jesieni.
Anthropic poinformował inwestorów, że w nadchodzących latach planuje wydać 518 mld USD na infrastrukturę chmurową, moc obliczeniową i inne zobowiązania niezbędne do obsługi szybkiego wzrostu.
Inwestorzy Anthropic oczekują, że spółka wejdzie na giełdę przy wycenie przekraczającej 2 bln USD. Byłoby to ponad dwukrotnie więcej niż wycena osiągnięta podczas ostatniej rundy finansowania w maju oraz więcej niż wycena SpaceX wynosząca 1,78 bln USD, osiągnięta w czerwcu. Optymizm inwestorów wynika w dużej mierze z szybkiego wzrostu spółki.
Jednak obawy dotyczące bezpieczeństwa AI stają się coraz bardziej widoczne. Obecni i byli pracownicy Anthropic ostrzegali ostatnio publicznie, że niekontrolowany rozwój AI może teoretycznie zagrozić ludzkości w ciągu najbliższej dekady.
W ubiegłym tygodniu Amodei powiedział Radzie Bezpieczeństwa ONZ, że AI może zagrozić ludzkości i jest „najważniejszym globalnym problemem bezpieczeństwa, przed którym stoi dziś świat”.
W tym miesiącu dyrektor generalny Anthropic wezwał również do spowolnienia rozwoju najbardziej zaawansowanych systemów AI. Jego propozycje zacieśnienia współpracy w branży i wprowadzenia silniejszych zabezpieczeń poparli dyrektor generalny OpenAI Sam Altman oraz Elon Musk.
Obawy nasiliły się po serii głośnych incydentów cyberbezpieczeństwa, w których agenci AI uzyskali dostęp do systemów zewnętrznych. W ubiegłym tygodniu OpenAI poinformowało, że jego narzędzia zhakowały „dziesiątki” zewnętrznych stron internetowych, w tym witryny rządowe.
W poniedziałek OpenAI zrezygnowało również z planów udostępnienia najnowszego modelu w przyszłym miesiącu, powołując się na obawy dotyczące bezpieczeństwa.
Wzrost przychodów wiąże się z ogromnymi kosztami
Prospekt emisyjny Anthropic ujawnił również nowe szczegóły dotyczące wyników finansowych spółki. W ubiegłym roku jej strata operacyjna przekroczyła 8 mld USD, ponieważ wydatki na moc obliczeniową gwałtownie wzrosły.
Przychody wzrosły dwunastokrotnie, do niemal 4,6 mld USD. Jednocześnie koszty trenowania i obsługi modeli zwiększyły wydatki operacyjne do prawie 13 mld USD.
Aby zapewnić sobie potrzebną moc obliczeniową, Anthropic podpisał umowy z Google, SpaceX oraz szeregiem mniejszych firm.
Zarówno przychody, jak i wydatki nadal gwałtownie rosną w tym roku. Anthropic wygenerował 11,5 mld USD przychodów w drugim kwartale i jest na dobrej drodze do wypracowania drugiego z rzędu kwartalnego zysku operacyjnego, choć tylko w ujęciu skorygowanym.
Dlaczego Anthropic potrzebuje IPO
Wejście na giełdę zapewniłoby Anthropic dostęp do nowego źródła kapitału w czasie, gdy rozwój zaawansowanych modeli AI wymaga ogromnych nakładów. Spółka już poinformowała inwestorów, że jej zobowiązania z tytułu infrastruktury chmurowej, mocy obliczeniowej i innych zasobów sięgną w nadchodzących latach 518 mld USD.
IPO pozwoliłoby również Anthropic ograniczyć zależność od prywatnych rund finansowania i dałoby wczesnym inwestorom możliwość stopniowej sprzedaży udziałów na rynku publicznym. Szybki wzrost przychodów pomaga spółce uzasadnić wysoką wycenę, jednak po debiucie będzie musiała regularnie udowadniać inwestorom, że rozwój działalności może zrównoważyć ogromne koszty mocy obliczeniowej i infrastruktury.
Anthropic niedawno wprowadził również tańszy model sztucznej inteligencji.