Az Anthropic lassítási felhívása: Megfékezheti-e a biztonság az AI-versenyt a vezető szerep feladása nélkül?

​Az Anthropic régóta biztonságközpontú AI-vállalatként pozicionálja magát, amely a modellfejlesztéseket szigorú biztosítékokkal egyensúlyozza ki. Dario Amodei vezérigazgató közelmúltbeli felhívása azonban, hogy szabjanak ütemet a képességek fejlődésének, felveti a kérdést: együtt létezhet-e a hatékony önmérséklet a kereskedelmi vezető szereppel anélkül, hogy teret engednének más versenytársaknak vagy Kínának.

Felhívás a frontvonal ütemezésére

Miközben egy lehetséges Nasdaq IPO-ra készül (amely várhatóan megközelíti a 2 billió dolláros értéket), Dario Amodei vezérigazgató nyilvánosan arra szólította fel a frontvonalbeli AI-laborokat, hogy „ütemezzék a frontvonalat”. Háromlépéses terve a képességek fejlődési ütemének lassítását célozza, hogy a biztonsági intézkedések lépést tudjanak tartani. Jack Clark társalapító hozzátette, hogy a kormányoknak esetleg kötelezővé kellene tenniük az ellenőrizhető AI-vészleállítókat. 

Bejegyzés megtekintése az X-en Betöltés...

A tweetet a szerző törölte.

De mi mindent elmentettünk 🙂.

Néhány nappal korábban a vállalat részletes fenyegetésintelligencia-jelentést tett közzé, amely számos példát mutatott be arra, hogyan próbáltak különböző emberek visszaélni a Claude-dal kiberhadműveletekhez, sőt fegyverszoftverekhez is. Amodei arra is figyelmeztetett, hogy a fejlettebb AI-„rajok” 6–12 hónapon belül potenciálisan az internet jelentős részét irányíthatják. Az OpenAI-tól Sam Altman és Elon Musk is hasonló véleményt fogalmazott meg a problémáról. Altman szerint az OpenAI már tett lépéseket a belső ütemezés bevezetésére.

A jövedelmezőség találkozik az óvatossággal

Pénzügyi szempontból az Anthropic következetesen erős pénzügyi eredményekről számol be. A vállalat az egymást követő második negyedévben vár pozitív korrigált működési eredményt. A bruttó árrés a partnerbevétel-megosztások és a képzési költségek előtt 80 százalék felett áll. A második negyedéves árbevétel megközelítőleg 11,5 milliárd dollárt ért el, az évesített bevétel pedig július végére elérte a 65 milliárd dollárt. Ezek a számok magyarázzák a tervezett IPO-t. Az Anthropic a Nasdaqot választotta tőzsdei bevezetési platformnak, és egy lehetséges októberi debütálásra készül. 

Bejegyzés megtekintése az X-en Betöltés...

A tweetet a szerző törölte.

De mi mindent elmentettünk 🙂.

A tartós jövedelmezőség fontos a befektetői bizalom növeléséhez, mivel a befektetők aggódnak a frontvonalbeli AI-laborokra jellemző gyors készpénzfelhasználás miatt. A gyors bevételnövekedés azonban a képességek folyamatos fejlődésétől és az olyan modellek vállalati elfogadásától függ, mint a Claude. A fejlesztési tempó lassítása teret adhat a versenytársak felzárkózásának, vagy lehetővé teheti a kínai vállalatok számára a különbség ledolgozását. Amodei úgy véli, hogy a fejlődés ütemezett rendszerben is gyorsnak tűnne, ugyanakkor a biztonsági kockázatok többsége megelőzhető lenne.

Vészleállítók és független ellenőrzés

Jack Clark tovább élezte a vitát. Az Anthropic társalapítója a BBC-nek nyilatkozva elmondta, hogy a legtöbb laboratóriumnak már vannak belső lehetőségei a rendszerek leállítására. Szerinte a nehezebb kérdés az, hogy a kormányoknak elő kellene-e írniuk olyan ellenőrizhető vészleállítókat, amelyeket független harmadik felek is megerősíthetnének. Az ilyen mechanizmusok külső elszámoltathatóságot biztosítanának.  

Bejegyzés megtekintése az X-en Betöltés...

A tweetet a szerző törölte.

De mi mindent elmentettünk 🙂.

Az Anthropic beleegyezett abba, hogy a METR függetlenül felülvizsgálja azokat a korábbi incidenseket, amelyek során a Claude-modellek tesztelés közben külső rendszerekhez fértek hozzá. Ezek a lépések pozitívan hatnak az Anthropic biztonsági márkájára, és versenyelőnyt jelenthetnek a gyorsabban mozgó riválisokkal szemben. Ugyanakkor új kérdések merülnek fel a belső folyamatokkal, a megfelelési költségekkel és a szabályozási követelményekkel kapcsolatban is.

Az önmérséklet geopolitikája

Amodei hangsúlyozta, hogy a demokratikus országoknak összehangoltan kellene önmérsékletet tanúsítaniuk anélkül, hogy technológiai vezető szerepüket átengednék Kínának. A kínai cégek és államhoz kötődő szereplők rendszeresen megjelennek az Anthropic visszaélési jelentéseiben, többek között modell-desztillációs kísérletek és hírszerzési információgyűjtés kapcsán. Egyes amerikai törvényhozók kutatói figyelmeztetésekre hivatkoztak, egyetértenek az egzisztenciális kockázatokról szóló állásponttal, és szigorúbb szabályokat szorgalmaznak. Mások – köztük a kormányzathoz közel álló személyek – a biztonság által indokolt szüneteket Pekingnek adott ajándékként értelmezik. 

Bejegyzés megtekintése az X-en Betöltés...

A tweetet a szerző törölte.

De mi mindent elmentettünk 🙂.

Az exportkorlátozások és a fejlett modellekhez való hozzáférés szelektív korlátozása már megmutatta a geopolitika növekvő szerepét a geopolitikában. Egy olyan összehangolt lassítás, amelyhez Kína nem csatlakozik, hátrányos helyzetbe hozhatja az amerikai vállalatokat. Beszámolók szerint egyes cégek, például az Nvidia, a Palantir és a Booz Allen, adatmegőrzési és szellemi tulajdonnal kapcsolatos aggályok miatt korlátozták bizonyos Anthropic-modellek használatát. Így a biztonsági incidensek vagy a szakpolitikai változások közvetlenül befolyásolják a vállalati szintű bizalmat.

A márka és a verseny egyensúlyozása

Az Anthropic az alkotmányos AI-t, a szigorú tesztelést és a nyilvános fenyegetési jelentéseket arra használja, hogy felelős vállalati képet alakítson ki, és vonzza a kockázatkerülő vállalati ügyfeleket. A Claude for Financial Advisors közelmúltbeli bevezetése, amely BlackRock-, Charles Schwab- és Addepar-konnektorokkal rendelkezik, kereskedelmi bővülésre utal, még akkor is, amikor a vállalat önmérsékletet szorgalmaz. Ha a versenytársak jelentős képességugrásokat érnek el és piaci részesedést szereznek, a befektetők és az ügyfelek az óvatosságot bizonytalanságként értelmezhetik, ezért a vezetésnek e tekintetben minden lényeges szempontot egyensúlyban kell tartania.

Bejegyzés megtekintése az X-en Betöltés...

A tweetet a szerző törölte.

De mi mindent elmentettünk 🙂.

A korábbi, iparági szintű biztonsági egyeztetések önkéntes kötelezettségvállalásokat eredményeztek, amelyeket versenynyomás alatt nehéznek bizonyult betartatni. Az Anthropic ezt a problémát átláthatósággal és harmadik felek hozzáférésével igyekszik megoldani, miközben egy jövőbeli IPO várakozásában továbbra is agresszív növekedést folytat. A siker attól függ, hogy elegendő versenytárs követi-e ezt a példát – és hogy a piacok a képességekkel azonos mértékben jutalmazzák-e az óvatosságot.