Anthropic впервые официально предупредила инвесторов, что ее технологии могут нести «экзистенциальные риски для человечества». Такое предупреждение содержится в проспекте к IPO, который компания в последние дни разослала ограниченному кругу партнеров.
Компания, которую возглавляет Дарио Амодеи и которая оценивается почти в $1 трлн, посвятила почти треть объемного документа разделу о рисках. Среди них Anthropic перечисляет возможность того, что все более продвинутые модели ИИ смогут манипулировать людьми, прибегать к шантажу и демонстрировать другие непредсказуемые формы поведения, пишет Financial Times.
В документе также указаны более привычные для инвесторов риски. Один из них — высокая зависимость от небольшой группы клиентов. По данным источников, знакомых с проспектом, почти четверть выручки Anthropic в прошлом году обеспечили всего два клиента.
Anthropic готовится к IPO
Такие предупреждения могут усложнить оценку компании накануне выхода на биржу. Ожидается, что IPO Anthropic станет крупнейшим в истории по предполагаемой оценке.
Разработчик Claude также раскрыл больше информации о расходах, необходимых для создания передовых моделей ИИ. Листинг компании ожидается на Nasdaq этой осенью.
Anthropic сообщила инвесторам, что в ближайшие годы планирует потратить $518 млрд на облачную инфраструктуру, вычислительные мощности и другие обязательства, необходимые для быстрого роста бизнеса.
Инвесторы компании рассчитывают, что Anthropic сможет выйти на биржу с оценкой свыше $2 трлн. Это более чем вдвое превышает уровень последнего раунда финансирования в мае и выше оценки SpaceX в $1,78 трлн, достигнутой в июне. Оптимизм инвесторов связан прежде всего с очень высокими темпами роста бизнеса.
Однако опасения вокруг безопасности ИИ становятся все заметнее. Действующие и бывшие сотрудники Anthropic в последнее время публично предупреждали, что неконтролируемое развитие ИИ теоретически может представлять угрозу для человечества уже в ближайшее десятилетие.
На прошлой неделе Амодеи заявил в Совете Безопасности ООН, что ИИ может угрожать человечеству и является «самой важной проблемой глобальной безопасности, с которой сегодня сталкивается мир».
В этом месяце глава Anthropic также призвал замедлить развитие самых передовых ИИ-систем. Его предложения о более тесном сотрудничестве отрасли и усилении мер безопасности поддержали глава OpenAI Сэм Альтман и Илон Маск.
Опасения усилились после серии громких инцидентов в сфере кибербезопасности, в которых ИИ-агенты смогли получить доступ к внешним системам. На прошлой неделе OpenAI сообщила, что ее инструменты взломали «десятки» внешних сайтов, включая государственные ресурсы.
В понедельник OpenAI также отказалась от планов выпустить новую модель в следующем месяце, сославшись на соображения безопасности.
Рост выручки сопровождается огромными расходами
Проспект Anthropic раскрыл и новые данные о финансовых результатах компании. В прошлом году операционный убыток превысил $8 млрд на фоне резкого роста расходов на вычислительные мощности.
Выручка за год выросла в 12 раз и почти достигла $4,6 млрд. При этом расходы на обучение и работу моделей увеличили операционные затраты почти до $13 млрд.
Для обеспечения необходимой вычислительной мощности Anthropic заключила соглашения с Google, SpaceX и рядом более мелких компаний.
В этом году как выручка, так и расходы продолжают быстро расти. Во втором квартале выручка Anthropic составила $11,5 млрд, а компания движется ко второму кварталу подряд с операционной прибылью, хотя пока только на скорректированной основе.
Зачем Anthropic нужно IPO
Выход на биржу даст Anthropic доступ к новому источнику капитала в момент, когда развитие передовых моделей требует огромных расходов. Компания уже предупредила инвесторов, что в ближайшие годы ее обязательства по облачной инфраструктуре, вычислительным мощностям и другим ресурсам достигнут $518 млрд.
IPO также позволит Anthropic меньше зависеть от закрытых раундов финансирования и даст ранним инвесторам возможность постепенно продавать свои доли на публичном рынке. Быстрый рост выручки помогает компании обосновывать высокую оценку, однако после листинга ей придется регулярно доказывать инвесторам, что рост бизнеса способен компенсировать огромные затраты на вычисления и инфраструктуру.
Напомним, компания Anthropic представила экономичную модель искусственного интеллекта.
Последние новости Anthropic
- Forex
- Crypto