Apelul Anthropic pentru încetinire: Poate siguranța să tempereze cursa AI fără a ceda poziția de lider?

​Anthropic s-a poziționat de mult timp drept compania de AI axată pe siguranță, care echilibrează progresele modelelor cu măsuri riguroase de protecție. Însă apelul recent al CEO-ului Dario Amodei de a tempera creșterea capabilităților ridică întrebarea dacă o limitare eficientă poate coexista cu poziția de lider comercial fără a ceda teren în fața altor rivali sau a Chinei.

Un apel pentru temperarea avansului de frontieră

În timp ce se pregătește pentru un potențial IPO pe Nasdaq (care ar urma să atingă o valoare de aproximativ 2 trilioane $), CEO-ul Dario Amodei a cerut public laboratoarelor de AI de frontieră să „tempereze avansul de frontieră”. Planul său în trei pași urmărește să încetinească ritmul progreselor în materie de capabilități, astfel încât măsurile de siguranță să poată ține pasul. Cofondatorul Jack Clark a adăugat că guvernele ar putea fi nevoite să impună mecanisme verificabile de oprire de urgență pentru AI. 

Vezi postarea pe X Se încarcă...

Tweetul a fost șters de autor.

Dar noi am salvat totul 🙂.

Cu doar câteva zile înainte, compania a publicat un raport detaliat de threat intelligence care a oferit numeroase exemple despre modul în care diferite persoane au încercat să utilizeze abuziv Claude pentru operațiuni cibernetice și chiar pentru software destinat armelor. Amodei a avertizat, de asemenea, că „roiuri” de AI mai capabile ar putea controla o mare parte a internetului în decurs de 6–12 luni. Sam Altman de la OpenAI și Elon Musk au exprimat, de asemenea, opinii similare cu privire la această problemă. Altman a declarat că OpenAI a făcut deja câțiva pași pentru a introduce intern temperarea ritmului.

Profitabilitatea întâlnește prudența

Din perspectivă financiară, Anthropic raportează rezultate financiare constant solide. Compania se așteaptă la al doilea trimestru consecutiv cu venit operațional ajustat pozitiv. Marjele brute depășesc 80 la sută înainte de cotele din venituri ale partenerilor și de costurile de antrenare. Veniturile din al doilea trimestru au atins aproximativ 11,5 miliarde $, iar veniturile anualizate au ajuns la 65 miliarde $ până la sfârșitul lunii iulie. Aceste cifre explică IPO-ul planificat. Anthropic a selectat Nasdaq ca platformă de listare și se pregătește pentru un posibil debut în octombrie. 

Vezi postarea pe X Se încarcă...

Tweetul a fost șters de autor.

Dar noi am salvat totul 🙂.

Profitabilitatea susținută este importantă pentru creșterea încrederii investitorilor preocupați de consumul de numerar tipic laboratoarelor de AI de frontieră. Totuși, creșterea rapidă a veniturilor depinde de progrese continue ale capabilităților și de adoptarea de către companii a unor modele precum Claude. Încetinirea ritmului de dezvoltare ar putea oferi concurenților spațiu să recupereze sau ar putea permite companiilor chineze să reducă decalajul. Amodei consideră că progresul ar părea în continuare rapid într-un regim de ritm temperat, dar că ar fi posibilă prevenirea majorității riscurilor de siguranță.

Mecanisme de oprire de urgență și supraveghere terță

Jack Clark a aprofundat discuția. Vorbind pentru BBC, cofondatorul Anthropic a spus că majoritatea laboratoarelor dispun deja de posibilități interne de a opri sistemele. Întrebarea mai dificilă, a susținut el, este dacă guvernele ar trebui să impună mecanisme verificabile de oprire de urgență, care ar putea fi confirmate de terți independenți. Astfel de mecanisme ar asigura responsabilizarea externă.  

Vezi postarea pe X Se încarcă...

Tweetul a fost șters de autor.

Dar noi am salvat totul 🙂.

Anthropic a acceptat o evaluare independentă realizată de METR a incidentelor anterioare în care modelele Claude au accesat sisteme externe în timpul testării. Acești pași au un impact pozitiv asupra brandului de siguranță al Anthropic și pot oferi un avantaj competitiv față de rivalii care se mișcă mai rapid. Însă apar și noi întrebări legate de procesele interne și costurile de conformitate, precum și de cerințele de reglementare.

Geopolitica reținerii

Amodei a subliniat că țările democratice ar trebui să coordoneze reținerea fără a ceda Chinei poziția de lider tehnologic. Companiile chineze și actorii afiliați statului sunt prezenți în mod sistematic în rapoartele Anthropic privind utilizarea abuzivă, inclusiv în tentative de distilare a modelelor și colectare de informații. Unii legislatori americani au invocat avertismentele cercetătorilor, sunt de acord cu riscul existențial și susțin reguli mai stricte. Alții, inclusiv persoane apropiate administrației, consideră că pauzele motivate de siguranță sunt un cadou pentru Beijing. 

Vezi postarea pe X Se încarcă...

Tweetul a fost șters de autor.

Dar noi am salvat totul 🙂.

Controalele la export și restricțiile selective de acces la modelele avansate au arătat deja rolul tot mai important al geopoliticii. O încetinire coordonată, la care China refuză să participe, ar putea dezavantaja companiile americane. Rapoartele arată că unele firme, precum Nvidia, Palantir și Booz Allen, au restricționat anumite modele Anthropic din cauza preocupărilor privind păstrarea datelor și proprietatea intelectuală. Astfel, incidentele de siguranță sau schimbările de politici afectează direct încrederea la nivel corporativ.

Echilibrarea brandului și a concurenței

AI constituțională, testarea riguroasă și rapoartele publice privind amenințările sunt utilizate de Anthropic pentru a crea imaginea unei companii responsabile și pentru a atrage clienți corporativi reticenți la risc. Lansarea recentă a Claude for Financial Advisors, cu conectori către BlackRock, Charles Schwab și Addepar, indică expansiune comercială chiar și în timp ce compania pledează pentru reținere. Dacă rivalii realizează salturi de capabilități și captează cotă de piață, investitorii și clienții ar putea interpreta prudența drept ezitare, astfel că managementul ar trebui să echilibreze toate preocupările relevante în această privință.

Vezi postarea pe X Se încarcă...

Tweetul a fost șters de autor.

Dar noi am salvat totul 🙂.

Discuțiile anterioare la nivelul întregii industrii privind siguranța au produs angajamente voluntare care s-au dovedit dificil de aplicat sub presiunea concurențială. Anthropic încearcă să rezolve această problemă punând accent pe transparență și accesul terților, în timp ce urmărește în continuare o creștere agresivă, în perspectiva unui viitor IPO. Succesul va depinde de măsura în care suficienți concurenți îi vor urma exemplul — și de dacă piețele vor recompensa prudența la fel de mult ca pe capabilități.