L'invito di Anthropic a rallentare: la sicurezza può frenare la corsa all'AI senza cedere il primato?

​Anthropic si è da tempo posizionata come l'azienda di AI incentrata sulla sicurezza, che bilancia i progressi dei modelli con rigorose misure di protezione. Ma il recente invito del CEO Dario Amodei a rallentare i progressi nelle capacità solleva la questione se una moderazione efficace possa coesistere con la leadership commerciale senza cedere terreno ad altri rivali o alla Cina.

Un invito a rallentare la frontiera

Mentre si prepara a una potenziale IPO al Nasdaq (che dovrebbe raggiungere una valutazione di circa $2 trilioni), il CEO Dario Amodei ha invitato pubblicamente i laboratori di AI di frontiera a «rallentare la frontiera». Il suo piano in tre fasi mira a rallentare il ritmo dei progressi nelle capacità affinché le misure di sicurezza possano tenere il passo. Il cofondatore Jack Clark ha aggiunto che i governi potrebbero dover imporre kill switch verificabili per l'AI. 

Visualizza il post su X Caricamento...

Il tweet è stato eliminato dall’autore.

Ma abbiamo salvato tutto 🙂.

Solo pochi giorni prima, l'azienda aveva pubblicato un dettagliato rapporto di threat intelligence che forniva numerosi esempi di come diverse persone avessero tentato di abusare di Claude per operazioni informatiche e persino software per armi. Amodei ha inoltre avvertito che «sciami» di AI più capaci potrebbero potenzialmente controllare un'ampia frazione di Internet entro 6–12 mesi. Anche Sam Altman di OpenAI ed Elon Musk hanno espresso opinioni simili sul problema. Altman ha affermato che OpenAI aveva già adottato alcune misure per introdurre internamente un rallentamento.

La redditività incontra la prudenza

Dal punto di vista finanziario, Anthropic riporta risultati finanziari costantemente solidi. L'azienda prevede un secondo trimestre consecutivo di reddito operativo rettificato positivo. I margini lordi si attestano oltre l'80 percento prima delle quote di ricavi dei partner e dei costi di addestramento. I ricavi del secondo trimestre hanno raggiunto circa $11,5 miliardi, con ricavi annualizzati pari a $65 miliardi entro la fine di luglio. Questi dati spiegano il progetto di IPO. Anthropic ha scelto il Nasdaq come piattaforma di quotazione e si sta preparando a un possibile debutto a ottobre. 

Visualizza il post su X Caricamento...

Il tweet è stato eliminato dall’autore.

Ma abbiamo salvato tutto 🙂.

La redditività sostenuta è importante per accrescere la fiducia degli investitori, preoccupati dal consumo di cassa tipico dei laboratori di AI di frontiera. Tuttavia, la rapida crescita dei ricavi dipende dai continui progressi nelle capacità e dall'adozione da parte delle imprese di modelli come Claude. Rallentare il ritmo di sviluppo potrebbe lasciare ai concorrenti spazio per recuperare o consentire alle aziende cinesi di colmare il divario. Amodei ritiene che i progressi apparirebbero comunque rapidi in un regime cadenzato, ma che sarebbe possibile prevenire la maggior parte dei rischi per la sicurezza.

Kill switch e supervisione di terze parti

Jack Clark ha ulteriormente precisato il dibattito. Parlando alla BBC, il cofondatore di Anthropic ha affermato che la maggior parte dei laboratori dispone già di possibilità interne per spegnere i sistemi. La questione più difficile, ha sostenuto, è se i governi debbano richiedere kill switch verificabili che possano essere confermati da terze parti indipendenti. Tali meccanismi garantirebbero responsabilità esterna.  

Visualizza il post su X Caricamento...

Il tweet è stato eliminato dall’autore.

Ma abbiamo salvato tutto 🙂.

Anthropic ha accettato una revisione indipendente da parte di METR di precedenti incidenti in cui i modelli Claude hanno avuto accesso a sistemi esterni durante i test. Queste misure hanno un impatto positivo sul marchio di sicurezza di Anthropic e potrebbero offrire un vantaggio competitivo rispetto a rivali che si muovono più rapidamente. Tuttavia, emergono anche nuove questioni riguardanti i processi interni, i costi di conformità e i requisiti normativi.

La geopolitica della moderazione

Amodei ha sottolineato che i Paesi democratici dovrebbero coordinare la moderazione senza cedere la leadership tecnologica alla Cina. Le aziende cinesi e gli attori legati allo Stato sono sistematicamente presenti nei rapporti di Anthropic sugli abusi, inclusi tentativi di distillazione dei modelli e raccolta di intelligence. Alcuni legislatori statunitensi hanno citato gli avvertimenti dei ricercatori, concordano sull'esistenza del rischio esistenziale e sostengono regole più severe. Altri, comprese figure vicine all'amministrazione, considerano le pause dettate dalla sicurezza un regalo a Pechino. 

Visualizza il post su X Caricamento...

Il tweet è stato eliminato dall’autore.

Ma abbiamo salvato tutto 🙂.

I controlli sulle esportazioni e le restrizioni selettive di accesso ai modelli avanzati hanno già mostrato il ruolo crescente della geopolitica nella geopolitica. Un rallentamento coordinato a cui la Cina rifiutasse di aderire potrebbe lasciare le aziende statunitensi in svantaggio. I rapporti mostrano che alcune aziende, come Nvidia, Palantir e Booz Allen, hanno limitato alcuni modelli Anthropic a causa di preoccupazioni relative alla conservazione dei dati e alla proprietà intellettuale. Pertanto, incidenti di sicurezza o cambiamenti nelle politiche emergono e incidono direttamente sulla fiducia a livello aziendale.

Bilanciare brand e concorrenza

L'AI costituzionale, i test rigorosi e i rapporti pubblici sulle minacce sono utilizzati da Anthropic per creare l'immagine di un'azienda responsabile e contribuire ad attrarre clienti aziendali avversi al rischio. Il recente lancio di Claude per consulenti finanziari, con connettori a BlackRock, Charles Schwab e Addepar, indica un'espansione commerciale pur sostenendo la moderazione. Se i concorrenti realizzeranno salti di capacità e conquisteranno quote di mercato, investitori e clienti potrebbero interpretare la prudenza come esitazione; la direzione dovrebbe quindi bilanciare adeguatamente tutte le preoccupazioni al riguardo.

Visualizza il post su X Caricamento...

Il tweet è stato eliminato dall’autore.

Ma abbiamo salvato tutto 🙂.

Le precedenti discussioni sulla sicurezza a livello di settore hanno prodotto impegni volontari che si sono rivelati difficili da far rispettare sotto la pressione competitiva. Anthropic sta cercando di risolvere questo problema puntando su trasparenza e accesso di terze parti, pur perseguendo una crescita aggressiva in vista di una futura IPO. Il successo dipenderà dal fatto che un numero sufficiente di concorrenti seguirà l'esempio e che i mercati premieranno la prudenza tanto quanto le capacità.