L’appel d’Anthropic à ralentir : la sécurité peut-elle freiner la course à l’IA sans céder la tête ?

​Anthropic se positionne depuis longtemps comme l’entreprise d’IA axée sur la sécurité, qui concilie les avancées des modèles avec des garde-fous rigoureux. Mais le récent appel du PDG Dario Amodei à modérer les gains de capacité soulève la question de savoir si une retenue efficace peut coexister avec le leadership commercial sans céder du terrain à d’autres concurrents ou à la Chine.

Un appel à modérer l’IA de pointe

Alors qu’il prépare une éventuelle IPO au Nasdaq (dont la valorisation devrait atteindre environ 2 000 milliards de dollars), le PDG Dario Amodei a publiquement appelé les laboratoires d’IA de pointe à « modérer l’IA de pointe ». Son plan en trois étapes vise à ralentir le rythme des avancées en matière de capacités afin que les mesures de sécurité puissent suivre. Le cofondateur Jack Clark a ajouté que les gouvernements pourraient devoir imposer des coupe-circuits d’IA vérifiables. 

Voir la publication sur X Chargement…

Le tweet a été supprimé par son auteur.

Mais nous avons tout sauvegardé 🙂.

Quelques jours plus tôt, l’entreprise avait publié un rapport détaillé sur le renseignement lié aux menaces, fournissant de nombreux exemples de tentatives d’utilisation abusive de Claude pour des opérations cybernétiques et même des logiciels d’armement. Amodei a également averti que des « essaims » d’IA plus performants pourraient potentiellement contrôler une grande partie d’Internet dans les 6 à 12 prochains mois. Sam Altman d’OpenAI et Elon Musk ont également exprimé des points de vue similaires sur le problème. Altman a déclaré qu’OpenAI avait déjà pris certaines mesures pour instaurer ce rythme en interne.

La rentabilité rencontre la prudence

D’un point de vue financier, Anthropic affiche des résultats financiers constamment solides. L’entreprise prévoit un deuxième trimestre consécutif de résultat opérationnel ajusté positif. Les marges brutes dépassent 80 pour cent avant les parts de revenus des partenaires et les coûts d’entraînement. Le chiffre d’affaires du deuxième trimestre a atteint environ 11,5 milliards de dollars, tandis que le chiffre d’affaires annualisé a atteint 65 milliards de dollars à la fin juillet. Ces chiffres expliquent l’IPO prévue. Anthropic a choisi le Nasdaq comme plateforme de cotation et prépare une éventuelle introduction en octobre. 

Voir la publication sur X Chargement…

Le tweet a été supprimé par son auteur.

Mais nous avons tout sauvegardé 🙂.

Une rentabilité durable est importante pour renforcer la confiance des investisseurs préoccupés par la consommation de trésorerie typique des laboratoires d’IA de pointe. Toutefois, la forte croissance des revenus dépend de la poursuite des avancées en matière de capacités et de l’adoption par les entreprises de modèles tels que Claude. Ralentir le rythme du développement pourrait donner aux concurrents le temps de rattraper leur retard ou permettre aux entreprises chinoises de combler l’écart. Amodei estime que les progrès resteraient rapides dans un régime de ralentissement, tout en permettant de prévenir la plupart des risques de sécurité.

Coupe-circuits et regard de tiers

Jack Clark a davantage précisé le débat. S’exprimant auprès de la BBC, le cofondateur d’Anthropic a déclaré que la plupart des laboratoires disposent déjà de moyens internes pour arrêter les systèmes. La question plus difficile, a-t-il soutenu, est de savoir si les gouvernements devraient exiger des coupe-circuits vérifiables pouvant être confirmés par des tiers indépendants. De tels mécanismes garantiraient une responsabilité externe.  

Voir la publication sur X Chargement…

Le tweet a été supprimé par son auteur.

Mais nous avons tout sauvegardé 🙂.

Anthropic a accepté un examen indépendant par METR d’incidents antérieurs au cours desquels des modèles Claude avaient accédé à des systèmes externes pendant des tests. Ces mesures renforcent l’image de marque d’Anthropic en matière de sécurité et pourraient lui procurer un avantage concurrentiel face à des rivaux plus rapides. Mais elles soulèvent également de nouvelles questions concernant les processus internes, les coûts de conformité et les exigences réglementaires.

La géopolitique de la retenue

Amodei a souligné que les pays démocratiques devraient coordonner leur retenue sans abandonner le leadership technologique à la Chine. Les entreprises chinoises et les acteurs liés à l’État sont systématiquement présents dans les rapports d’Anthropic sur les usages abusifs, notamment à travers des tentatives de distillation de modèles et de collecte de renseignements. Certains législateurs américains ont cité les avertissements de chercheurs, souscrivent à l’idée d’un risque existentiel et plaident pour des règles plus strictes. D’autres, y compris des personnalités proches de l’administration, considèrent les pauses motivées par la sécurité comme un cadeau à Pékin. 

Voir la publication sur X Chargement…

Le tweet a été supprimé par son auteur.

Mais nous avons tout sauvegardé 🙂.

Les contrôles à l’exportation et les restrictions d’accès sélectives aux modèles avancés ont déjà montré le rôle croissant de la géopolitique. Un ralentissement coordonné auquel la Chine refuserait de participer pourrait désavantager les entreprises américaines. Des rapports montrent que certaines entreprises comme Nvidia, Palantir et Booz Allen ont restreint certains modèles d’Anthropic en raison de préoccupations liées à la conservation des données et à la propriété intellectuelle. Ainsi, les incidents de sécurité ou les changements de politique affectent directement la confiance au niveau de l’entreprise.

Équilibrer marque et concurrence

L’IA constitutionnelle, les tests rigoureux et les rapports publics sur les menaces sont utilisés par Anthropic pour projeter l’image d’une entreprise responsable et attirer des clients entreprises averses au risque. Le récent lancement de Claude for Financial Advisors, avec des connecteurs vers BlackRock, Charles Schwab et Addepar, indique une expansion commerciale malgré son plaidoyer en faveur de la retenue. Si les concurrents réalisent des bonds de capacités et gagnent des parts de marché, les investisseurs et les clients pourraient interpréter la prudence comme de l’hésitation ; la direction doit donc concilier toutes les préoccupations pertinentes à cet égard.

Voir la publication sur X Chargement…

Le tweet a été supprimé par son auteur.

Mais nous avons tout sauvegardé 🙂.

Les précédentes discussions sectorielles sur la sécurité ont abouti à des engagements volontaires qui se sont révélés difficiles à faire respecter sous la pression concurrentielle. Anthropic tente de résoudre ce problème en misant sur la transparence et l’accès de tiers, tout en poursuivant une croissance agressive dans la perspective d’une future IPO. Le succès dépendra du nombre de pairs qui suivront — et de la volonté des marchés de récompenser la prudence autant que les capacités.