Anthropic alerte sur les « risques existentiels » de l’IA avant son IPO
Anthropic a officiellement averti les investisseurs pour la première fois que sa technologie pourrait présenter des « risques existentiels pour l’humanité ». Cet avertissement figure dans le prospectus d’IPO de l’entreprise, qui a été communiqué à un groupe limité de partenaires ces derniers jours.
Cet article a été traduit de l'original. Lisez la version originale de notre correspondant ici.
L’entreprise, dirigée par Dario Amodei et valorisée à près de 1 000 Md$, a consacré près d’un tiers de ce long document aux facteurs de risque. Parmi ceux-ci, Anthropic évoque la possibilité que des modèles d’IA de plus en plus avancés manipulent les individus, se livrent au chantage et adoptent d’autres comportements imprévisibles, selon le Financial Times.
Le document présente également des risques plus conventionnels pour les investisseurs. L’un d’eux tient à la forte dépendance de l’entreprise à un petit groupe de clients. Selon des personnes au fait du prospectus, seulement deux clients ont représenté près d’un quart du chiffre d’affaires d’Anthropic l’an dernier.
Anthropic prépare son IPO
De tels avertissements pourraient compliquer la valorisation de l’entreprise avant son introduction en Bourse. Anthropic devrait lancer ce qui pourrait devenir la plus importante IPO de l’histoire en termes de valorisation.
Le développeur de Claude a également révélé davantage d’informations sur les coûts nécessaires au développement de modèles d’IA de pointe. L’entreprise devrait s’introduire au Nasdaq cet automne.
Anthropic a indiqué aux investisseurs qu’elle prévoyait de consacrer 518 Md$ au cours des prochaines années à l’infrastructure cloud, à la puissance de calcul et à d’autres engagements nécessaires pour soutenir sa croissance rapide.
Les soutiens financiers de l’entreprise s’attendent à ce qu’Anthropic soit introduite en Bourse avec une valorisation supérieure à 2 000 Md$. Ce montant représenterait plus du double de celui atteint lors de son dernier tour de financement en mai, et dépasserait la valorisation de SpaceX, établie à 1 780 Md$ en juin. L’optimisme des investisseurs est principalement alimenté par la croissance rapide de l’entreprise.
Cependant, les préoccupations liées à la sécurité de l’IA prennent une importance croissante. Des employés actuels et anciens d’Anthropic ont récemment averti publiquement que le développement incontrôlé de l’IA pourrait, en théorie, représenter une menace pour l’humanité au cours de la prochaine décennie.
La semaine dernière, Amodei a déclaré au Conseil de sécurité de l’ONU que l’IA pourrait menacer l’humanité et constituait « le problème de sécurité mondiale le plus important auquel le monde est aujourd’hui confronté ».
Ce mois-ci, le CEO d’Anthropic a également appelé à ralentir le développement des systèmes d’IA les plus avancés. Ses propositions en faveur d’une coopération accrue au sein du secteur et de mesures de sécurité renforcées ont reçu le soutien du CEO d’OpenAI, Sam Altman, et d’Elon Musk.
Les inquiétudes se sont intensifiées après une série d’incidents de cybersécurité très médiatisés au cours desquels des agents d’IA ont accédé à des systèmes externes. La semaine dernière, OpenAI a déclaré que ses outils avaient piraté « des dizaines » de sites web externes, notamment des sites gouvernementaux.
Lundi, OpenAI a également abandonné son projet de lancer son dernier modèle le mois prochain, invoquant des préoccupations de sécurité.
La croissance du chiffre d’affaires s’accompagne de coûts massifs
Le prospectus d’Anthropic a également révélé de nouveaux détails sur les performances financières de l’entreprise. L’an dernier, sa perte d’exploitation a dépassé 8 Md$ tandis que les dépenses en puissance de calcul ont bondi.
Le chiffre d’affaires a été multiplié par douze pour atteindre près de 4,6 Md$. Dans le même temps, le coût de l’entraînement et de l’exploitation de ses modèles a porté les charges d’exploitation à près de 13 Md$.
Pour obtenir la puissance de calcul dont elle a besoin, Anthropic a signé des accords avec Google, SpaceX et plusieurs entreprises plus petites.
Le chiffre d’affaires comme les dépenses ont continué d’augmenter fortement cette année. Anthropic a généré 11,5 Md$ de chiffre d’affaires au deuxième trimestre et est en bonne voie pour enregistrer un deuxième trimestre consécutif de bénéfice d’exploitation, bien que celui-ci ne soit établi que sur une base ajustée.
Pourquoi Anthropic a besoin d’une IPO
Une cotation en Bourse donnerait à Anthropic accès à une nouvelle source de capitaux, à un moment où le développement de modèles d’IA avancés exige des dépenses considérables. L’entreprise a déjà informé les investisseurs que ses engagements liés à l’infrastructure cloud, à la puissance de calcul et à d’autres ressources atteindraient 518 Md$ au cours des prochaines années.
Une IPO permettrait également à Anthropic de réduire sa dépendance aux tours de financement privés et offrirait aux premiers investisseurs la possibilité de vendre progressivement leurs participations sur le marché public. La forte croissance du chiffre d’affaires aide l’entreprise à justifier une valorisation élevée, mais après sa cotation, elle devra démontrer régulièrement aux investisseurs que la croissance de son activité peut compenser les coûts considérables du calcul et de l’infrastructure.
Anthropic a également récemment lancé un modèle d’intelligence artificielle moins coûteux.
Dernières actualités d’Anthropic
- Forex
- Crypto