Anthropic advierte de los «riesgos existenciales» de la IA antes de su OPV
Anthropic ha advertido formalmente a los inversores por primera vez de que su tecnología podría plantear «riesgos existenciales para la humanidad». La advertencia aparece en el folleto de la OPV de la compañía, que en los últimos días se ha distribuido a un grupo limitado de socios.
Este artículo ha sido traducido del original. Lea la versión original de nuestro corresponsal aquí.
La compañía, dirigida por Dario Amodei y valorada en casi 1 billón de dólares, dedicó casi un tercio del extenso documento a los factores de riesgo. Entre ellos, Anthropic menciona la posibilidad de que los modelos de IA cada vez más avanzados manipulen a las personas, recurran al chantaje y presenten otros comportamientos impredecibles, según el Financial Times.
El documento también expone riesgos más convencionales para los inversores. Uno de ellos es la fuerte dependencia de la compañía de un pequeño grupo de clientes. Según personas familiarizadas con el folleto, solo dos clientes representaron casi una cuarta parte de los ingresos de Anthropic el año pasado.
Anthropic se prepara para la OPV
Estas advertencias podrían complicar la valoración de la compañía antes de su debut bursátil. Se espera que Anthropic lance lo que podría convertirse en la mayor OPV de la historia por valoración.
El desarrollador de Claude también reveló más información sobre los costes necesarios para crear modelos de IA de vanguardia. Se espera que la compañía cotice en el Nasdaq este otoño.
Anthropic comunicó a los inversores que prevé gastar 518.000 millones de dólares en los próximos años en infraestructura cloud, capacidad informática y otras obligaciones necesarias para sostener su rápido crecimiento.
Los accionistas de la compañía esperan que Anthropic salga a bolsa con una valoración superior a 2 billones de dólares. Eso sería más del doble del nivel alcanzado en su última ronda de financiación, celebrada en mayo, y superaría la valoración de SpaceX de 1,78 billones de dólares lograda en junio. El optimismo de los inversores está impulsado en gran medida por el rápido crecimiento de la compañía.
Sin embargo, las preocupaciones sobre la seguridad de la IA están cobrando cada vez más importancia. Empleados actuales y antiguos de Anthropic han advertido recientemente en público de que el desarrollo descontrolado de la IA podría, en teoría, suponer una amenaza para la humanidad en la próxima década.
La semana pasada, Amodei declaró ante el Consejo de Seguridad de la ONU que la IA podría amenazar a la humanidad y es «el problema de seguridad global más importante al que se enfrenta hoy el mundo».
Este mes, el CEO de Anthropic también pidió ralentizar el desarrollo de los sistemas de IA más avanzados. Sus propuestas de una mayor cooperación sectorial y medidas de seguridad más estrictas recibieron el respaldo del CEO de OpenAI, Sam Altman, y de Elon Musk.
Las preocupaciones se han intensificado tras una serie de incidentes de ciberseguridad de gran repercusión en los que agentes de IA obtuvieron acceso a sistemas externos. La semana pasada, OpenAI afirmó que sus herramientas habían pirateado «docenas» de sitios web externos, incluidos sitios gubernamentales.
El lunes, OpenAI también descartó sus planes de lanzar su modelo más reciente el próximo mes, alegando motivos de seguridad.
El crecimiento de los ingresos conlleva costes enormes
El folleto de Anthropic también reveló nuevos detalles sobre el desempeño financiero de la compañía. El año pasado, sus pérdidas operativas superaron los 8,000 millones de dólares, mientras el gasto en capacidad informática se disparaba.
Los ingresos se multiplicaron por doce, hasta casi 4,600 millones de dólares. Al mismo tiempo, el coste de entrenar y ejecutar sus modelos elevó los gastos operativos hasta casi 13.000 millones de dólares.
Para asegurarse la capacidad informática que necesita, Anthropic ha firmado acuerdos con Google, SpaceX y varias empresas más pequeñas.
Tanto los ingresos como el gasto han seguido aumentando con fuerza este año. Anthropic generó 11.500 millones de dólares de ingresos en el segundo trimestre y va camino de registrar su segundo trimestre consecutivo con beneficios operativos, aunque solo sobre una base ajustada.
Por qué Anthropic necesita una OPV
Salir a bolsa daría a Anthropic acceso a una nueva fuente de capital en un momento en que el desarrollo de modelos de IA avanzados requiere un gasto enorme. La compañía ya ha comunicado a los inversores que sus obligaciones por infraestructura cloud, capacidad informática y otros recursos alcanzarán los 518.000 millones de dólares en los próximos años.
Una OPV también permitiría a Anthropic reducir su dependencia de las rondas de financiación privadas y ofrecería a los primeros inversores la oportunidad de vender gradualmente sus participaciones en el mercado público. El rápido crecimiento de los ingresos ayuda a la compañía a justificar una valoración elevada, pero tras su cotización tendrá que demostrar periódicamente a los inversores que el crecimiento del negocio puede compensar los enormes costes informáticos y de infraestructura.
Anthropic también ha presentado recientemente un modelo de inteligencia artificial de menor coste.
Últimas noticias sobre Anthropic
- Forex
- Crypto