Seruan Anthropic untuk memperlambat laju: Dapatkah keselamatan mengekang perlombaan AI tanpa kehilangan posisi terdepan?

​Anthropic telah lama memosisikan diri sebagai perusahaan AI yang berfokus pada keselamatan dan menyeimbangkan kemajuan model dengan perlindungan yang ketat. Namun, seruan terbaru CEO Dario Amodei untuk mengatur laju peningkatan kapabilitas menimbulkan pertanyaan apakah pembatasan yang efektif dapat berjalan berdampingan dengan kepemimpinan komersial tanpa kehilangan posisi dari pesaing lain atau China.

Seruan untuk mengatur laju pengembangan AI frontier

Saat mempersiapkan potensi IPO di Nasdaq (yang diperkirakan mencapai sekitar $2 triliun), CEO Dario Amodei secara terbuka menyerukan kepada laboratorium AI frontier untuk “mengatur laju pengembangan AI frontier.” Rencana tiga langkahnya bertujuan memperlambat laju kemajuan kapabilitas agar langkah-langkah keselamatan dapat mengimbanginya. Salah satu pendiri, Jack Clark, menambahkan bahwa pemerintah mungkin perlu mewajibkan kill switch AI yang dapat diverifikasi. 

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Hanya beberapa hari sebelumnya, perusahaan merilis laporan intelijen ancaman terperinci yang memberikan banyak contoh tentang bagaimana berbagai pihak mencoba menyalahgunakan Claude untuk operasi siber dan bahkan perangkat lunak senjata. Amodei juga memperingatkan bahwa “kawanan” AI yang lebih kapabel berpotensi mengendalikan sebagian besar internet dalam 6–12 bulan. Sam Altman dari OpenAI dan Elon Musk juga menyampaikan pandangan serupa mengenai masalah tersebut. Altman mengatakan bahwa OpenAI telah mengambil beberapa langkah untuk menerapkan pengaturan laju secara internal.

Profitabilitas bertemu kehati-hatian

Dari perspektif keuangan, Anthropic melaporkan hasil keuangan yang konsisten kuat. Perusahaan mengharapkan kuartal kedua berturut-turut dengan pendapatan operasional disesuaikan yang positif. Margin bruto berada di atas 80 persen sebelum pembagian pendapatan mitra dan biaya pelatihan. Pendapatan kuartal kedua mencapai sekitar $11,5 miliar, dengan pendapatan tahunan mencapai $65 miliar pada akhir Juli. Angka-angka ini menjelaskan alasan IPO yang direncanakan. Anthropic telah memilih Nasdaq sebagai platform pencatatan dan sedang mempersiapkan kemungkinan debut pada Oktober. 

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Profitabilitas berkelanjutan penting untuk meningkatkan kepercayaan investor yang khawatir terhadap pembakaran kas yang lazim terjadi pada laboratorium AI frontier. Namun, pertumbuhan pendapatan yang cepat bergantung pada kemajuan kapabilitas yang berkelanjutan dan adopsi model seperti Claude oleh perusahaan. Memperlambat laju pengembangan dapat memberi pesaing ruang untuk mengejar ketertinggalan atau memungkinkan perusahaan China mempersempit kesenjangan. Amodei meyakini bahwa kemajuan tetap akan terlihat cepat dalam rezim pengaturan laju, tetapi sebagian besar risiko keselamatan dapat dicegah.

Kill switch dan pengawasan pihak ketiga

Jack Clark semakin mempertajam diskusi. Dalam wawancara dengan BBC, salah satu pendiri Anthropic tersebut mengatakan bahwa sebagian besar laboratorium sudah memiliki kemampuan internal untuk mematikan sistem. Pertanyaan yang lebih sulit, menurutnya, adalah apakah pemerintah harus mewajibkan kill switch yang dapat diverifikasi dan dikonfirmasi oleh pihak ketiga independen. Mekanisme semacam itu akan memastikan akuntabilitas eksternal.  

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Anthropic menyetujui peninjauan independen oleh METR atas insiden-insiden sebelumnya ketika model Claude mengakses sistem eksternal selama pengujian. Langkah-langkah ini berdampak positif pada merek keselamatan Anthropic dan dapat memberikan keunggulan kompetitif dibandingkan pesaing yang bergerak lebih cepat. Namun, muncul pula pertanyaan baru terkait proses internal dan biaya kepatuhan serta persyaratan regulasi.

Geopolitik pembatasan

Amodei menekankan bahwa negara-negara demokratis harus mengoordinasikan pembatasan tanpa menyerahkan kepemimpinan teknologi kepada China. Perusahaan China dan aktor yang terkait dengan negara secara sistematis muncul dalam laporan penyalahgunaan Anthropic, termasuk upaya distilasi model dan pengumpulan intelijen. Sejumlah anggota parlemen AS mengutip peringatan para peneliti, sepakat mengenai risiko eksistensial, dan mendukung aturan yang lebih ketat. Pihak lain, termasuk tokoh-tokoh yang dekat dengan pemerintahan, memandang jeda yang didorong oleh keselamatan sebagai hadiah bagi Beijing. 

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Kontrol ekspor dan pembatasan akses selektif terhadap model canggih telah menunjukkan semakin besarnya peran geopolitik. Perlambatan terkoordinasi yang tidak diikuti China dapat menempatkan perusahaan AS pada posisi yang kurang menguntungkan. Laporan menunjukkan bahwa sejumlah perusahaan seperti Nvidia, Palantir, dan Booz Allen telah membatasi model Anthropic tertentu karena kekhawatiran terkait retensi data dan kekayaan intelektual. Jadi, insiden keselamatan atau perubahan kebijakan yang muncul secara langsung memengaruhi kepercayaan di tingkat korporasi.

Menyeimbangkan merek dan persaingan

Constitutional AI, pengujian ketat, dan laporan ancaman publik digunakan Anthropic untuk membangun citra sebagai perusahaan yang bertanggung jawab serta membantu menarik klien perusahaan yang menghindari risiko. Peluncuran terbaru Claude for Financial Advisors, dengan konektor ke BlackRock, Charles Schwab, dan Addepar, mengindikasikan ekspansi komersial bahkan ketika perusahaan mendorong pembatasan. Jika pesaing menghadirkan lompatan kapabilitas dan merebut pangsa pasar, investor serta pelanggan dapat menafsirkan kehati-hatian sebagai keraguan; karena itu, manajemen harus menyeimbangkan semua kekhawatiran yang relevan dalam hal ini.

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Diskusi keselamatan di seluruh industri sebelumnya telah menghasilkan komitmen sukarela yang terbukti sulit ditegakkan di bawah tekanan persaingan. Anthropic berupaya menyelesaikan masalah tersebut dengan mengedepankan transparansi dan akses pihak ketiga sambil tetap mengejar pertumbuhan agresif dengan harapan IPO di masa depan. Keberhasilan akan bergantung pada apakah cukup banyak rekan sejawat yang mengikuti—dan apakah pasar akan menghargai kehati-hatian setinggi kapabilitas.