Blokáda Anthropicu staví OpenAI, Google a Meta do pozoru
Příkaz Washingtonu omezující přístup k nejpokročilejším modelům AI společnosti Anthropic proměnil technický spor o bezpečnost ve varování pro celý průmysl AI v Silicon Valley. Tento krok ukazuje, že americká vláda je nyní ochotna pohlížet na špičkové modely nejen jako na komerční produkty, ale také jako na strategická aktiva spojená s národní bezpečností.
Hlavní body
- USA nařídily společnosti Anthropic omezit zahraniční přístup k modelům Fable 5 a Mythos 5.
- Tento krok následoval po obavách, že by mohly být obejity bezpečnostní pojistky modelů.
- Případ vytváří možný precedent pro OpenAI, Google a Meta.
- Akcie Zhipu vyskočily o 33 %, protože investoři sázejí na čínské alternativy AI.
Tento článek byl přeložen z originálu. Přečtěte si původní verzi od našeho korespondenta zde.
Podle agentury Bloomberg společnost Anthropic zablokovala přístup k modelům Claude Fable 5 a Claude Mythos 5 poté, co obdržela směrnici vlády USA odkazující na obavy o národní bezpečnost a omezující zahraniční využití těchto modelů. Modely byly vydány jen několik dní předtím a společnost Anthropic uvedla, že omezení ji donutila k plošnému pozastavení přístupu namísto správy limitů pro jednotlivé uživatele.
Exportní kontroly zasahují modely AI
Bezprostřední obavou bylo, zda lze obejít bezpečnostní pojistky modelů. Zprávy uvádějí, že americké úředníky znepokojily důkazy, že modelem Fable 5 lze manipulovat za účelem odhalení softwarových zranitelností, zatímco Anthropic argumentoval, že reakce byla nepřiměřená a že podobná rizika existují u všech pokročilých systémů AI.
Tento příkaz představuje prudkou eskalaci v přístupu Washingtonu. Začátkem tohoto měsíce vydal Bílý dům exekutivní příkaz postavený na spolupráci s vývojáři špičkové AI a agenturami pro kybernetickou bezpečnost, včetně dobrovolného rámce pro zapojení před širším vydáním modelů. Případ Anthropic naznačuje, že dobrovolná spolupráce může rychle ustoupit povinným kontrolám, pokud se úředníci domnívají, že model představuje bezpečnostní riziko.
Anthropic vyslal do Washingtonu vedoucí technické pracovníky, aby o omezeních jednali s vládními úředníky. Společnost se snaží vyřešit konkrétní obavy a zároveň se vyhnout precedentu, který by mohl zpomalit budoucí uvádění modelů na trh v celém odvětví.
Silicon Valley čelí novým pravidlům
Spor přichází v citlivé době pro společnosti zabývající se AI. Anthropic, OpenAI, Google a Meta závodí v budování schopnějších systémů, zatímco vlády se snaží rozhodnout, jak velkou kontrolu by měly vykonávat nad modely, které dokážou psát kód, hledat zranitelnosti a podporovat vědecký výzkum.
Obavy se netýkají pouze přístupu k chatbotu. Američtí úředníci se stále více zaměřují na váhy modelů (model weights), základní soubory, které dávají pokročilým systémům jejich schopnosti. Pokud by tyto váhy byly ukradeny nebo zkopírovány cizími protivníky, tvůrci politik se obávají, že by rivalové mohli replikovat výkonné systémy AI, aniž by nesli náklady na jejich vývoj.
Případ také hraje roli v americko-čínském závodě v oblasti AI. Čínská AI společnost Zhipu vzrostla o 33 %, protože analytici z Wall Street zvýšili sázky na to, že přísnější americké kontroly by mohly zvýšit poptávku po domácích čínských modelech. JPMorgan potvrdila rating „overweight“ a zvýšila cílovou cenu pro Zhipu z 950 HK$ na 1 400 HK$ s odkazem na transparentnost modelů společnosti a cenovou pozici na konkurenčním trhu.
Politika AI se stává tržní politikou
Blokáda Anthropicu je významná, protože stírá hranici mezi regulací, národní bezpečností a kapitálovými trhy. Společnost je oceněna na více než 900 miliard dolarů a patří mezi AI startupy, u nichž se očekává vstup na burzu, takže regulační riziko je klíčové pro důvěru investorů.
Pro Silicon Valley je vzkaz jasný: špičkové AI společnosti již nemusí mít pod kontrolou načasování, geografii ani komerční zavádění svých nejschopnějších modelů. Pokud USA uplatní podobné kontroly i na ostatní vývojáře, investoři budou muset započítat nové riziko, které vypadá méně jako běžná technologická regulace a více jako politika exportních kontrol pro čipy nebo zbraňové systémy.
Informovali jsme také, že Anthropic varuje před riziky sebezdokonalující se AI.
Nejnovější zprávy META
- Forex
- Crypto