Anthropicin kehotus hidastaa kehitystä: Voiko turvallisuus hillitä tekoälykilpaa ilman johtoaseman luovuttamista?

​Anthropic on pitkään profiloitunut turvallisuuteen keskittyvänä tekoäly-yhtiönä, joka tasapainottaa mallien kehityksen tiukkojen suojatoimien kanssa. Toimitusjohtaja Dario Amodein tuore kehotus hidastaa kyvykkyyksien kasvua herättää kuitenkin kysymyksen siitä, voiko tehokas pidättyvyys kulkea käsi kädessä kaupallisen johtajuuden kanssa ilman, että yhtiö menettää asemiaan muille kilpailijoille tai Kiinalle.

Kehotus hidastaa kehityksen kärkeä

Valmistautuessaan mahdolliseen Nasdaq-listautumisantiiin (jonka odotetaan yltävän noin 2 biljoonan dollarin tasolle) toimitusjohtaja Dario Amodei kehotti julkisesti huipputason tekoälylaboratorioita ”hidastamaan kehityksen kärkeä”. Hänen kolmivaiheisen suunnitelmansa tavoitteena on hidastaa kyvykkyyksien kehitysvauhtia, jotta turvallisuustoimet ehtivät pysyä mukana. Perustajajäsen Jack Clark lisäsi, että hallitusten on ehkä määrättävä todennettavista tekoälyn hätäpysäytyskytkimistä. 

Näytä julkaisu X:ssä Ladataan...

Tweetin poisti sen kirjoittaja.

Mutta me tallensimme kaiken 🙂.

Vain päiviä aiemmin yhtiö julkaisi yksityiskohtaisen uhkatiedusteluraportin, jossa esitettiin lukuisia esimerkkejä siitä, miten eri henkilöt olivat yrittäneet väärinkäyttää Claudea kyberoperaatioihin ja jopa aseohjelmistoihin. Amodei varoitti myös, että kyvykkäämmät tekoälyparvet voisivat mahdollisesti hallita suurta osaa internetistä 6–12 kuukauden kuluessa. Myös OpenAI:n Sam Altman ja Elon Musk esittivät samankaltaisia näkemyksiä ongelmasta. Altman sanoi, että OpenAI oli jo ottanut joitakin askelia käyttöön sisäisen kehitystahdin säätelemiseksi.

Kannattavuus kohtaa varovaisuuden

Taloudellisesta näkökulmasta Anthropic raportoi johdonmukaisesti vahvoja taloudellisia tuloksia. Yhtiö odottaa toista peräkkäistä vuosineljännestä, jolloin oikaistu liikevoitto on positiivinen. Bruttokate on yli 80 prosenttia ennen kumppaneille maksettavia tulonjako-osuuksia ja koulutuskustannuksia. Toisen vuosineljänneksen liikevaihto oli noin 11,5 miljardia dollaria, ja vuositasolle laskettu liikevaihto nousi 65 miljardiin dollariin heinäkuun loppuun mennessä. Nämä luvut selittävät suunnitellun listautumisannin. Anthropic on valinnut Nasdaqin listautumispaikakseen ja valmistautuu mahdolliseen lokakuun debyyttiin. 

Näytä julkaisu X:ssä Ladataan...

Tweetin poisti sen kirjoittaja.

Mutta me tallensimme kaiken 🙂.

Jatkuva kannattavuus on tärkeää sijoittajien luottamuksen vahvistamiseksi, sillä sijoittajia huolestuttaa huipputason tekoälylaboratorioille tyypillinen kassankulutus. Liikevaihdon nopea kasvu riippuu kuitenkin jatkuvasta kyvykkyyksien kehityksestä ja Clauden kaltaisten mallien käyttöönotosta yrityksissä. Kehitysvauhdin hidastaminen voisi antaa kilpailijoille tilaa kiriä kiinni tai mahdollistaa kiinalaisten yhtiöiden eron kuromisen umpeen. Amodei uskoo, että eteneminen näyttäisi edelleen nopealta hallitumman tahdin järjestelmässä, mutta useimmat turvallisuusriskit olisi mahdollista ehkäistä.

Hätäpysäytyskytkimet ja ulkopuolinen valvonta

Jack Clark tarkensi keskustelua entisestään. BBC:lle puhuessaan Anthropicin perustajajäsen sanoi, että useimmilla laboratorioilla on jo sisäiset mahdollisuudet sammuttaa järjestelmiä. Vaikeampi kysymys on hänen mukaansa se, pitäisikö hallitusten vaatia todennettavia hätäpysäytyskytkimiä, jotka riippumattomat kolmannet osapuolet voisivat vahvistaa. Tällaiset mekanismit varmistaisivat ulkoisen vastuuvelvollisuuden.  

Näytä julkaisu X:ssä Ladataan...

Tweetin poisti sen kirjoittaja.

Mutta me tallensimme kaiken 🙂.

Anthropic hyväksyi METR:n tekemän riippumattoman arvioinnin aiemmista tapauksista, joissa Claude-mallit käyttivät testauksen aikana ulkoisia järjestelmiä. Nämä toimet vahvistavat Anthropicin turvallisuusbrändiä ja voivat tarjota kilpailuedun nopeammin eteneviin kilpailijoihin nähden. Ne herättävät kuitenkin myös uusia kysymyksiä sisäisistä prosesseista, compliance-kustannuksista ja sääntelyvaatimuksista.

Pidättyvyyden geopolitiikka

Amodei korosti, että demokraattisten maiden tulisi koordinoida pidättyvyyttä luovuttamatta teknologista johtoasemaa Kiinalle. Kiinalaiset yhtiöt ja valtioon kytkeytyvät toimijat esiintyvät järjestelmällisesti Anthropicin väärinkäyttöraporteissa, mukaan lukien yritykset mallien distillaatioon ja tiedustelutiedon keräämiseen. Jotkut Yhdysvaltain lainsäätäjät ovat viitanneet tutkijoiden varoituksiin, yhtyvät näkemyksiin eksistentiaalisista riskeistä ja kannattavat tiukempia sääntöjä. Toiset, mukaan lukien hallintoa lähellä olevat henkilöt, pitävät turvallisuuslähtöisiä taukoja lahjana Pekingille. 

Näytä julkaisu X:ssä Ladataan...

Tweetin poisti sen kirjoittaja.

Mutta me tallensimme kaiken 🙂.

Vientivalvonta ja valikoivat pääsyrajoitukset kehittyneisiin malleihin ovat jo osoittaneet geopolitiikan kasvavan roolin geopolitiikassa. Koordinoitu hidastaminen, johon Kiina ei suostuisi osallistumaan, voisi asettaa yhdysvaltalaiset yhtiöt epäedulliseen asemaan. Raporttien mukaan jotkin yritykset, kuten Nvidia, Palantir ja Booz Allen, ovat rajoittaneet tiettyjä Anthropic-malleja datan säilyttämiseen ja immateriaalioikeuksiin liittyvien huolten vuoksi. Turvallisuuspoikkeamat tai politiikkamuutokset vaikuttavat siis suoraan luottamukseen yritystasolla.

Brändin ja kilpailun tasapainottaminen

Anthropic hyödyntää Constitutional AI:ta, tiukkaa testausta ja julkisia uhkaraportteja luodakseen kuvan vastuullisesta yhtiöstä sekä houkutellakseen riskinkarttavia yritysasiakkaita. Claude for Financial Advisorsin tuore lanseeraus, jossa on liitännät BlackRockiin, Charles Schwabiin ja Addepariin, viittaa kaupalliseen laajentumiseen, vaikka yhtiö samalla puoltaa pidättyvyyttä. Jos kilpailijat tarjoavat merkittäviä kyvykkyysharppauksia ja valtaavat markkinaosuutta, sijoittajat ja asiakkaat voivat tulkita varovaisuuden epäröinniksi, joten johdon tulisi tasapainottaa kaikki asiaankuuluvat huolenaiheet tässä suhteessa.

Näytä julkaisu X:ssä Ladataan...

Tweetin poisti sen kirjoittaja.

Mutta me tallensimme kaiken 🙂.

Aiemmissa koko toimialaa koskevissa turvallisuuskeskusteluissa on syntynyt vapaaehtoisia sitoumuksia, joiden toimeenpano on osoittautunut vaikeaksi kilpailupaineen alla. Anthropic pyrkii ratkaisemaan ongelman panostamalla läpinäkyvyyteen ja kolmansien osapuolten pääsyyn samalla, kun se tavoittelee edelleen aggressiivista kasvua tulevaa listautumisantia silmällä pitäen. Menestys riippuu siitä, seuraako riittävän moni verrokki perässä – ja palkitsevatko markkinat varovaisuuden yhtä paljon kuin kyvykkyyden.