Seruan Anthropic untuk memperlahankan kemajuan: Bolehkah keselamatan mengekang persaingan AI tanpa melepaskan kedudukan teratas?

​Anthropic telah lama memposisikan dirinya sebagai syarikat AI yang berfokus pada keselamatan, yang mengimbangi kemajuan model dengan perlindungan ketat. Namun, seruan terkini CEO Dario Amodei untuk memperlahankan peningkatan keupayaan menimbulkan persoalan sama ada kekangan yang berkesan boleh wujud seiring dengan kepimpinan komersial tanpa kehilangan kedudukan kepada pesaing lain atau China.

Seruan untuk memperlahankan kemajuan frontier

Ketika membuat persiapan bagi potensi IPO Nasdaq (dijangka mencapai paras sekitar $2 trilion), CEO Dario Amodei secara terbuka menyeru makmal AI frontier untuk “memperlahankan kemajuan frontier.” Pelan tiga langkahnya bertujuan memperlahankan kadar peningkatan keupayaan supaya langkah keselamatan dapat mengejar kemajuan tersebut. Pengasas bersama Jack Clark menambah bahawa kerajaan mungkin perlu mewajibkan kill switch AI yang boleh disahkan. 

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Hanya beberapa hari sebelumnya, syarikat itu menerbitkan laporan risikan ancaman terperinci yang memberikan banyak contoh tentang cara individu berbeza cuba menyalahgunakan Claude untuk operasi siber malah perisian senjata. Amodei turut memberi amaran bahawa “kawanan” AI yang lebih berkeupayaan berpotensi mengawal sebahagian besar internet dalam tempoh 6–12 bulan. Sam Altman dari OpenAI dan Elon Musk juga menyuarakan pandangan serupa mengenai masalah ini. Altman berkata OpenAI telah mengambil beberapa langkah untuk memperkenalkan pelaksanaan secara berperingkat secara dalaman.

Keuntungan bertemu kehati-hatian

Dari perspektif kewangan, Anthropic melaporkan prestasi kewangan yang kukuh secara konsisten. Syarikat itu menjangkakan suku kedua berturut-turut dengan pendapatan operasi larasan yang positif. Margin kasar berada melebihi 80 peratus sebelum perkongsian hasil dengan rakan kongsi dan kos latihan. Hasil suku kedua mencapai kira-kira $11.5 bilion, dengan hasil tahunan mencecah $65 bilion menjelang akhir Julai. Angka ini menjelaskan sebab IPO yang dirancang. Anthropic telah memilih Nasdaq sebagai platform penyenaraian dan sedang bersiap untuk kemungkinan penampilan sulung pada Oktober. 

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Keuntungan yang berterusan penting untuk meningkatkan keyakinan pelabur yang bimbang tentang kadar pembakaran tunai yang lazim bagi makmal AI frontier. Namun, pertumbuhan hasil yang pesat bergantung pada peningkatan keupayaan berterusan dan penerimaan model seperti Claude oleh perusahaan. Memperlahankan kadar pembangunan boleh memberi ruang kepada pesaing untuk mengejar atau membolehkan syarikat China merapatkan jurang. Amodei percaya kemajuan masih akan kelihatan pantas di bawah rejim yang diperlahankan, namun kebanyakan risiko keselamatan dapat dicegah.

Kill switch dan pemantauan pihak ketiga

Jack Clark memperincikan lagi perbincangan itu. Ketika bercakap kepada BBC, pengasas bersama Anthropic itu berkata kebanyakan makmal sudah mempunyai keupayaan dalaman untuk mematikan sistem. Persoalan yang lebih sukar, hujahnya, ialah sama ada kerajaan patut mewajibkan kill switch yang boleh disahkan oleh pihak ketiga bebas. Mekanisme sedemikian akan memastikan kebertanggungjawaban luaran.  

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Anthropic bersetuju menjalani semakan bebas oleh METR terhadap insiden terdahulu yang melibatkan model Claude mengakses sistem luaran semasa ujian. Langkah-langkah ini memberi kesan positif kepada jenama keselamatan Anthropic dan mungkin memberikan kelebihan daya saing berbanding pesaing yang bergerak lebih pantas. Namun, persoalan baharu turut timbul mengenai proses dalaman dan kos pematuhan, serta keperluan kawal selia.

Geopolitik kekangan

Amodei menegaskan bahawa negara demokrasi harus menyelaraskan kekangan tanpa menyerahkan kepimpinan teknologi kepada China. Syarikat China dan pihak yang berkaitan dengan negara disebut secara sistematik dalam laporan penyalahgunaan Anthropic, termasuk percubaan penyulingan model dan pengumpulan risikan. Sebahagian penggubal undang-undang AS telah merujuk amaran penyelidik, bersetuju tentang risiko kewujudan dan menyokong peraturan yang lebih ketat. Yang lain, termasuk tokoh yang rapat dengan pentadbiran, melihat jeda yang didorong oleh keselamatan sebagai hadiah kepada Beijing. 

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Kawalan eksport dan sekatan akses terpilih terhadap model lanjutan telah pun menunjukkan peranan geopolitik yang semakin meningkat dalam geopolitik. Perlahan secara terkoordinasi yang enggan disertai China boleh meletakkan syarikat AS pada kedudukan yang kurang menguntungkan. Laporan menunjukkan bahawa beberapa syarikat seperti Nvidia, Palantir dan Booz Allen telah mengehadkan model Anthropic tertentu berikutan kebimbangan tentang penyimpanan data dan harta intelek. Oleh itu, insiden keselamatan atau perubahan dasar yang timbul secara langsung menjejaskan kepercayaan pada peringkat korporat.

Mengimbangi jenama dan persaingan

Constitutional AI, ujian yang ketat dan laporan ancaman awam digunakan oleh Anthropic untuk membentuk imej sebagai syarikat yang bertanggungjawab serta membantu menarik pelanggan perusahaan yang mengelak risiko. Pelancaran terkini Claude for Financial Advisors, dengan penyambung kepada BlackRock, Charles Schwab dan Addepar, menunjukkan pengembangan komersial walaupun menyokong kekangan. Jika pesaing menghasilkan lonjakan keupayaan dan meraih bahagian pasaran, pelabur serta pelanggan boleh menafsirkan kehati-hatian sebagai teragak-agak, maka pihak pengurusan perlu mengimbangi semua kebimbangan yang wajar dalam hal ini.

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Perbincangan keselamatan terdahulu di seluruh industri telah menghasilkan komitmen sukarela yang sukar dikuatkuasakan di bawah tekanan persaingan. Anthropic cuba menyelesaikan masalah itu dengan mendahului melalui ketelusan dan akses pihak ketiga sambil masih mengejar pertumbuhan agresif dengan jangkaan IPO pada masa hadapan. Kejayaan bergantung pada sama ada cukup ramai rakan sejawat mengikutinya—dan sama ada pasaran akan menghargai kehati-hatian setinggi keupayaan.