El llamamiento de Anthropic a ralentizar el ritmo: ¿puede la seguridad frenar la carrera de la IA sin ceder el liderazgo?

​Anthropic se ha posicionado durante mucho tiempo como la empresa de IA centrada en la seguridad, que equilibra los avances de los modelos con salvaguardas rigurosas. Sin embargo, el reciente llamamiento del CEO Dario Amodei a moderar los avances en capacidades plantea la cuestión de si una contención efectiva puede coexistir con el liderazgo comercial sin ceder terreno ante otros rivales o China.

Un llamamiento a moderar la frontera

Mientras se prepara para una posible OPV en Nasdaq (que se espera alcance una valoración de alrededor de 2 billones de dólares), el CEO Dario Amodei pidió públicamente a los laboratorios de IA de frontera que «moderen la frontera». Su plan de tres pasos busca ralentizar el ritmo de los avances en capacidades para que las medidas de seguridad puedan mantenerse al día. El cofundador Jack Clark añadió que los gobiernos podrían tener que exigir interruptores de apagado de IA verificables. 

Ver publicación en X Cargando...

El tuit fue eliminado por el autor.

Pero guardamos todo 🙂.

Tan solo unos días antes, la empresa publicó un informe detallado de inteligencia sobre amenazas que ofrecía numerosos ejemplos de cómo distintas personas habían intentado hacer un uso indebido de Claude para operaciones cibernéticas e incluso software de armas. Amodei también advirtió que «enjambres» de IA más capaces podrían llegar a controlar una gran parte de internet en un plazo de 6–12 meses. Sam Altman, de OpenAI, y Elon Musk también expresaron opiniones similares sobre el problema. Altman afirmó que OpenAI ya había tomado algunas medidas para introducir internamente una moderación del ritmo.

La rentabilidad se encuentra con la cautela

Desde una perspectiva financiera, Anthropic informa de resultados financieros consistentemente sólidos. La empresa espera un segundo trimestre consecutivo con ingresos operativos ajustados positivos. Los márgenes brutos se sitúan por encima del 80 por ciento antes de las participaciones en ingresos de socios y los costes de entrenamiento. Los ingresos del segundo trimestre alcanzaron aproximadamente 11.500 millones de dólares, y los ingresos anualizados llegaron a 65.000 millones de dólares a finales de julio. Estas cifras explican la OPV prevista. Anthropic ha seleccionado Nasdaq como plataforma de cotización y se prepara para un posible debut en octubre. 

Ver publicación en X Cargando...

El tuit fue eliminado por el autor.

Pero guardamos todo 🙂.

La rentabilidad sostenida es importante para aumentar la confianza de los inversores preocupados por la quema de efectivo típica de los laboratorios de IA de frontera. Sin embargo, el rápido crecimiento de los ingresos depende de los continuos avances en capacidades y de la adopción empresarial de modelos como Claude. Ralentizar el ritmo de desarrollo podría dar margen a los competidores para ponerse al día o permitir que las empresas chinas reduzcan la brecha. Amodei cree que el progreso seguiría pareciendo rápido bajo un régimen de ritmo moderado, pero que sería posible prevenir la mayoría de los riesgos de seguridad.

Interruptores de apagado y supervisión externa

Jack Clark profundizó aún más en el debate. En declaraciones a la BBC, el cofundador de Anthropic afirmó que la mayoría de los laboratorios ya cuentan con posibilidades internas para apagar los sistemas. La cuestión más difícil, sostuvo, es si los gobiernos deberían exigir interruptores de apagado verificables que pudieran ser confirmados por terceros independientes. Estos mecanismos garantizarían una rendición de cuentas externa.  

Ver publicación en X Cargando...

El tuit fue eliminado por el autor.

Pero guardamos todo 🙂.

Anthropic aceptó una revisión independiente por parte de METR de incidentes anteriores en los que modelos Claude accedieron a sistemas externos durante las pruebas. Estas medidas tienen un impacto positivo en la marca de seguridad de Anthropic y podrían proporcionar una ventaja competitiva frente a rivales que avanzan más rápido. Sin embargo, también surgen nuevas preguntas sobre los procesos internos y los costes de cumplimiento, así como sobre los requisitos regulatorios.

La geopolítica de la contención

Amodei subrayó que los países democráticos deberían coordinar la contención sin ceder el liderazgo tecnológico a China. Las empresas chinas y los actores vinculados al Estado aparecen sistemáticamente en los informes de uso indebido de Anthropic, incluidos intentos de destilación de modelos y recopilación de inteligencia. Algunos legisladores estadounidenses han citado las advertencias de investigadores, coinciden en la existencia de un riesgo existencial y abogan por normas más estrictas. Otros, incluidas figuras cercanas a la administración, consideran que las pausas impulsadas por la seguridad son un regalo para Pekín. 

Ver publicación en X Cargando...

El tuit fue eliminado por el autor.

Pero guardamos todo 🙂.

Los controles a la exportación y las restricciones selectivas de acceso a modelos avanzados ya han demostrado el papel creciente de la geopolítica. Una ralentización coordinada a la que China se niegue a sumarse podría dejar a las empresas estadounidenses en desventaja. Los informes muestran que algunas empresas, como Nvidia, Palantir y Booz Allen, han restringido determinados modelos de Anthropic por preocupaciones sobre la retención de datos y la propiedad intelectual. Por tanto, los incidentes de seguridad o los cambios de política afectan directamente a la confianza a nivel corporativo.

Equilibrar la marca y la competencia

Anthropic utiliza la IA constitucional, las pruebas rigurosas y los informes públicos sobre amenazas para proyectar la imagen de una empresa responsable y ayudar a atraer a clientes empresariales reacios al riesgo. El reciente lanzamiento de Claude para asesores financieros, con conectores a BlackRock, Charles Schwab y Addepar, indica una expansión comercial incluso mientras aboga por la contención. Si los competidores logran saltos de capacidad y captan cuota de mercado, los inversores y clientes podrían interpretar la cautela como vacilación, por lo que la dirección debería equilibrar adecuadamente todas las preocupaciones al respecto.

Ver publicación en X Cargando...

El tuit fue eliminado por el autor.

Pero guardamos todo 🙂.

Los anteriores debates de seguridad en toda la industria han dado lugar a compromisos voluntarios que resultaron difíciles de hacer cumplir bajo presión competitiva. Anthropic intenta resolver ese problema liderando con transparencia y acceso de terceros, al tiempo que sigue persiguiendo un crecimiento agresivo con la expectativa de una futura OPV. El éxito dependerá de que suficientes pares la sigan y de que los mercados valoren la cautela tanto como la capacidad.