Apel Anthropic o spowolnienie: czy bezpieczeństwo może ograniczyć wyścig AI bez oddawania prowadzenia?

​Anthropic od dawna pozycjonuje się jako firma AI skoncentrowana na bezpieczeństwie, równoważąca postępy w rozwoju modeli rygorystycznymi zabezpieczeniami. Jednak niedawny apel CEO Dario Amodeiego o ograniczenie tempa wzrostu możliwości rodzi pytanie, czy skuteczna powściągliwość może współistnieć z komercyjnym przywództwem bez oddawania pola innym rywalom lub Chinom.

Apel o spowolnienie rozwoju AI na granicy możliwości

Przygotowując się do potencjalnego IPO na Nasdaq (którego wartość ma osiągnąć około 2 bln USD), CEO Dario Amodei publicznie wezwał laboratoria AI działające na granicy możliwości do „spowolnienia rozwoju AI na granicy możliwości”. Jego trzyetapowy plan ma na celu spowolnienie tempa postępów w zakresie możliwości, aby środki bezpieczeństwa mogły za nimi nadążyć. Współzałożyciel Jack Clark dodał, że rządy mogą być zmuszone nakazać stosowanie weryfikowalnych wyłączników awaryjnych AI. 

Wyświetl post na X Ładowanie...

Tweet został usunięty przez autora.

Ale wszystko zapisaliśmy 🙂.

Zaledwie kilka dni wcześniej firma opublikowała szczegółowy raport dotyczący analizy zagrożeń, zawierający liczne przykłady prób niewłaściwego wykorzystania Claude'a do operacji cybernetycznych, a nawet oprogramowania dla broni. Amodei ostrzegł również, że bardziej zaawansowane „roje” AI mogłyby potencjalnie kontrolować dużą część internetu w ciągu 6–12 miesięcy. Sam Altman z OpenAI i Elon Musk również wyrazili podobne poglądy na ten problem. Altman powiedział, że OpenAI podjęło już pewne kroki, aby wewnętrznie wprowadzić ograniczanie tempa rozwoju.

Rentowność spotyka się z ostrożnością

Z perspektywy finansowej Anthropic raportuje konsekwentnie dobre wyniki finansowe. Firma oczekuje drugiego z rzędu kwartału z dodatnim skorygowanym zyskiem operacyjnym. Marże brutto przekraczają 80 procent przed uwzględnieniem udziałów partnerów w przychodach i kosztów szkolenia. Przychody w drugim kwartale osiągnęły około 11,5 mld USD, a przychody w ujęciu rocznym do końca lipca sięgnęły 65 mld USD.Liczby te wyjaśniają, dlaczego planowane jest IPO. Anthropic wybrał Nasdaq jako platformę notowań i przygotowuje się do możliwego debiutu w październiku. 

Wyświetl post na X Ładowanie...

Tweet został usunięty przez autora.

Ale wszystko zapisaliśmy 🙂.

Utrzymująca się rentowność jest ważna dla zwiększenia zaufania inwestorów, którzy obawiają się spalania gotówki typowego dla laboratoriów AI działających na granicy możliwości. Jednak szybki wzrost przychodów zależy od dalszego rozwoju możliwości i wdrażania przez przedsiębiorstwa modeli takich jak Claude. Spowolnienie tempa rozwoju mogłoby dać konkurentom przestrzeń do nadrobienia zaległości lub umożliwić chińskim firmom zmniejszenie dystansu. Amodei uważa, że postęp nadal wydawałby się szybki w warunkach ograniczonego tempa, ale możliwe byłoby zapobieżenie większości zagrożeń dla bezpieczeństwa.

Wyłączniki awaryjne i nadzór stron trzecich

Jack Clark jeszcze bardziej zaostrzył dyskusję. W rozmowie z BBC współzałożyciel Anthropic powiedział, że większość laboratoriów ma już wewnętrzne możliwości wyłączania systemów. Jak argumentował, trudniejsze pytanie brzmi, czy rządy powinny wymagać weryfikowalnych wyłączników awaryjnych, które mogłyby zostać potwierdzone przez niezależne strony trzecie. Takie mechanizmy zapewniłyby zewnętrzną rozliczalność.  

Wyświetl post na X Ładowanie...

Tweet został usunięty przez autora.

Ale wszystko zapisaliśmy 🙂.

Anthropic zgodził się na niezależny przegląd przeprowadzony przez METR wcześniejszych incydentów, w których modele Claude uzyskiwały dostęp do zewnętrznych systemów podczas testów. Działania te pozytywnie wpływają na markę Anthropic kojarzoną z bezpieczeństwem i mogą zapewnić przewagę konkurencyjną nad szybciej działającymi rywalami. Pojawiają się jednak również nowe pytania dotyczące procesów wewnętrznych, kosztów zgodności oraz wymogów regulacyjnych.

Geopolityka powściągliwości

Amodei podkreślił, że kraje demokratyczne powinny skoordynować powściągliwość, nie oddając technologicznego przywództwa Chinom. Chińskie firmy i podmioty powiązane z państwem systematycznie pojawiają się w raportach Anthropic dotyczących niewłaściwego użycia, w tym w kontekście prób destylacji modeli i zbierania danych wywiadowczych. Niektórzy amerykańscy ustawodawcy powołali się na ostrzeżenia badaczy, zgadzają się co do ryzyka egzystencjalnego i opowiadają się za zaostrzeniem przepisów. Inni, w tym osoby bliskie administracji, postrzegają przerwy motywowane bezpieczeństwem jako prezent dla Pekinu. 

Wyświetl post na X Ładowanie...

Tweet został usunięty przez autora.

Ale wszystko zapisaliśmy 🙂.

Kontrole eksportowe i selektywne ograniczenia dostępu do zaawansowanych modeli już pokazały rosnącą rolę geopolityki w geopolityce. Skoordynowane spowolnienie, do którego Chiny nie zechcą dołączyć, mogłoby postawić amerykańskie firmy w niekorzystnej sytuacji. Raporty wskazują, że niektóre firmy, takie jak Nvidia, Palantir i Booz Allen, ograniczyły dostęp do niektórych modeli Anthropic z powodu obaw dotyczących przechowywania danych i własności intelektualnej. Dlatego incydenty związane z bezpieczeństwem lub zmiany polityki bezpośrednio wpływają na zaufanie na poziomie korporacyjnym.

Równoważenie marki i konkurencji

Anthropic wykorzystuje Constitutional AI, rygorystyczne testy i publiczne raporty o zagrożeniach do budowania wizerunku odpowiedzialnej firmy oraz przyciągania ostrożnych klientów korporacyjnych. Niedawne uruchomienie Claude for Financial Advisors, z konektorami do BlackRock, Charles Schwab i Addepar, wskazuje na ekspansję komercyjną nawet przy jednoczesnym opowiadaniu się za powściągliwością. Jeśli konkurenci zapewnią skokowy wzrost możliwości i zdobędą udział w rynku, inwestorzy oraz klienci mogą interpretować ostrożność jako wahanie, dlatego zarząd powinien w tym zakresie równoważyć wszystkie istotne kwestie.

Wyświetl post na X Ładowanie...

Tweet został usunięty przez autora.

Ale wszystko zapisaliśmy 🙂.

Wcześniejsze ogólnobranżowe dyskusje na temat bezpieczeństwa zaowocowały dobrowolnymi zobowiązaniami, które pod presją konkurencji okazały się trudne do wyegzekwowania. Anthropic próbuje rozwiązać ten problem, stawiając na transparentność i dostęp stron trzecich, a jednocześnie nadal realizując agresywny wzrost w oczekiwaniu na przyszłe IPO. Sukces będzie zależał od tego, czy wystarczająco wielu konkurentów pójdzie tym śladem — oraz czy rynki wynagrodzą ostrożność równie wysoko jak możliwości.