Anthropic memperingatkan risiko AI yang mampu memperbaiki diri sendiri

Traders Union
Semua berita
Kripto
Anthropic memperingatkan risiko AI

Semua berita

Berita Utama

Pilihan Editor

Saham

Kripto

Ekonomi

Mata Uang

Komoditas

Suara Market

Eugene Komchuk

05.06.2026

Anthropic memperingatkan risiko AI yang mampu memperbaiki diri sendiri — Anthropic memperingatkan tentang ancaman AI

Perusahaan AI asal AS, Anthropic, telah memperingatkan bahwa pengembangan kecerdasan buatan melaju sangat cepat sehingga dalam waktu dekat, agen AI dapat secara mandiri membuat, melatih, dan meningkatkan sistem baru tanpa keterlibatan manusia. Dengan latar belakang ini, perusahaan tersebut menyerukan perlambatan dalam pengembangan jaringan saraf.

Artikel ini diterjemahkan dari aslinya. Baca versi asli oleh koresponden kami di sini.

Dalam sebuah postingan blog, Marina Favaro, kepala Anthropic Institute, dan salah satu pendiri Anthropic, Jack Clark, mengatakan bahwa agen AI sudah mampu menjalankan kode sendiri, mendelegasikan jam kerja ke agen lain, dan secara bertahap mendekati titik di mana mereka dapat mengambil alih seluruh siklus pengembangan.

“Sepanjang sejarah AI, manusia mengendalikan setiap tahap pengembangannya. Namun di Anthropic, kami mendelegasikan porsi pengembangan AI yang semakin besar kepada sistem AI itu sendiri, yang mempercepat pekerjaan kami,” kata mereka.

Menurut Favaro dan Clark, jika tren ini berlanjut dan sistem menerima daya komputasi yang cukup, AI pada akhirnya dapat muncul dengan kemampuan untuk merancang dan mengembangkan penerusnya sendiri secara otonom sepenuhnya.

Fokus pada keamanan

Pertumbuhan kemampuan tersebut menimbulkan kekhawatiran tentang skenario di mana AI dapat menjadi lebih pintar dengan sendirinya. Pada bulan Desember, OpenAI mengatakan sedang mempelajari cara-cara aman untuk mengembangkan dan menerapkan sistem AI yang semakin canggih, termasuk model yang mampu melakukan perbaikan diri secara rekursif.

OpenAI mengatakan ingin sistem seperti itu secara konsisten mengikuti niat manusia dalam skenario dunia nyata yang kompleks dan kondisi yang merugikan, menghindari perilaku katastrofik, tetap dapat dikendalikan dan diaudit, serta tetap selaras dengan nilai-benar manusia.

Mereka menambahkan bahwa begitu kualitas kode yang ditulis manusia dan kode yang ditulis AI mencapai kesetaraan, orang mungkin akan berhenti menulis kode sama sekali dan beralih hanya untuk meninjaunya. Namun, jika mereka tidak dapat meninjau kode secepat Claude menghasilkannya, peninjauan manusia akan menjadi hambatan utama dalam pengembangan AI.

Mengapa Memperlambat Pengembangan AI

Favaro dan Clark juga mengatakan skenario idealnya adalah memperlambat pengembangan sehingga masyarakat memiliki lebih banyak waktu untuk memahami konsekuensi “luar biasa” dari teknologi ini.

Pada bulan April, Anthropic menolak untuk merilis model AI-nya, Claude Mythos, ke publik karena kekhawatiran terkait ancaman keamanan siber global. Model tersebut dapat dengan mudah membuat eksploitasi perangkat lunak, sehingga perusahaan memutuskan untuk tidak mempublikasikannya untuk saat ini.

Pada hari yang sama, sekelompok pemimpin teknologi, termasuk perwakilan dari Anthropic dan OpenAI, menerbitkan surat terbuka yang mendesak pembuat undang-undang untuk memperkenalkan batasan yang lebih ketat pada AI. Para penulis memperingatkan bahwa teknologi tersebut dapat membantu aktor jahat mengatasi “hambatan pengetahuan” yang sebelumnya mencegah mereka membuat senjata biologis.

Pada saat yang sama, mereka menekankan bahwa sekadar memperlambat dapat menciptakan risiko baru jika hal itu memungkinkan pemain yang kurang berhati-hati untuk mengejar ketertinggalan teknologi dari para pemimpin industri. Tanpa mekanisme koordinasi global, perusahaan dan pemerintah akan terpaksa membuat keputusan keamanan yang sulit di bawah tekanan kompetitif dan geopolitik.

Apa yang membuat Claude berharga

Produk unggulan Anthropic adalah asisten AI Claude. Ini adalah keluarga model bahasa yang dirancang untuk bekerja dengan teks, kode, data, dan tugas-tugas kompleks di mana tidak hanya kecepatan respons yang penting, tetapi juga keamanan, keterkendalian, dan keandalan. Claude digunakan sebagai asisten universal: ia dapat menulis dan mengedit teks, menganalisis dokumen, menjelaskan topik yang kompleks, membantu pemrograman, menemukan kesalahan dalam kode, serta menyiapkan ringkasan, email, laporan, dan materi kerja lainnya.

Bagi bisnis, Claude berharga karena dapat mengambil alih sebagian pekerjaan intelektual rutin. Ia digunakan dalam dukungan pelanggan, analitik, pengembangan perangkat lunak, proses hukum dan keuangan, pemasaran, serta alat internal korporasi. Perusahaan menggunakan Claude sebagai asisten obrolan, API untuk integrasi ke dalam produk mereka, dan alat untuk mengotomatiskan tugas-tugas yang memerlukan pemrosesan informasi dalam jumlah besar dengan cepat dan menerima jawaban yang jelas dalam bahasa alami.

Sebagai pengingat, Claude membantu memulihkan kata sandi dompet yang berisi 5 Bitcoin.

Materi ini mungkin mengandung opini pihak ketiga, tidak ada data dan informasi di halaman web ini yang merupakan nasihat investasi menurut Disclaimer kami. Meskipun kami mematuhi Integritas Editorial yang ketat, postingan ini mungkin mengandung referensi ke produk dari mitra kami.

Suka artikel ini?