Anthropic imbas projek kripto untuk kesan kelemahan dengan AI
Anthropic memperkenalkan OSS Scanner, perkhidmatan yang menggunakan kecerdasan buatan untuk mengesan kelemahan dalam kod perisian. Pembangun klien rangkaian Ethereum Nethermind dan dompet Bitcoin ZEUS antara yang terawal memohon imbasan keselamatan.
Artikel ini telah diterjemahkan daripada versi asal. Baca versi asal oleh koresponden kami di sini.
Menurut pengumuman di laman web Anthropic, perkhidmatan ini direka untuk projek sumber terbuka dan menyediakan laporan tentang potensi kelemahan yang dijana oleh model AI paling berkuasa syarikat itu, termasuk Claude Mythos.
Sebelum ini, Anthropic sememangnya telah mengimbas perisian sumber terbuka untuk mencari isu keselamatan, tetapi hasilnya hanya dikongsi dengan pembangun selepas semakan manusia. Proses ini memakan masa dan melambatkan pembaikan kelemahan yang dikenal pasti.
Perkhidmatan baharu ini membolehkan peserta menerima laporan sejurus selepas analisis kod automatik selesai. Ini membantu pembangun mengenal pasti dan membaiki kelemahan dengan lebih pantas tanpa menunggu semakan manual selesai.
Projek kripto manakah yang mahu menggunakan AI Anthropic?
Nethermind, pembangun klien rangkaian Ethereum, antara projek terawal yang memohon menyertai program ini. Syarikat itu meminta imbasan keselamatan terhadap keseluruhan repositorinya bagi mengenal pasti potensi kelemahan dalam kod perisiannya.
Pembangun ZEUS, dompet self-custodial untuk Bitcoin dan Lightning Network, turut meminta semakan keselamatan terhadap aplikasi mereka. Mereka mahu memberi tumpuan khusus kepada kelemahan yang boleh menjejaskan pembayaran, private key pengguna dan sambungan kepada perkhidmatan Lightning.
Satu lagi permohonan datang daripada VirtEngine, platform pengkomputeran awan terdesentralisasi yang dibina menggunakan Cosmos SDK.
Pemohon lain termasuk pembangun pembantu AI, alat keselamatan ejen AI, perkhidmatan storan awan dan perisian untuk mengurus sistem tenaga.
Pada masa artikel ini diterbitkan, tiada satu pun permohonan tersebut diluluskan. Anthropic merancang untuk menilai projek secara individu dengan mengambil kira kepentingannya kepada infrastruktur digital, jumlah pengguna dan perkhidmatan yang bergantung padanya, serta tahap pendedahannya kepada serangan dari jauh.
Penggodam semakin kerap menggunakan kecerdasan buatan
Minat syarikat kripto terhadap program Anthropic hadir ketika jumlah serangan siber yang melibatkan kecerdasan buatan semakin meningkat. Model AI moden membolehkan penyerang menganalisis kod perisian, mengenal pasti kelemahan dan membangunkan eksploit dengan lebih pantas.
Pada Ogos, perkhidmatan swap Bitcoin Boltz terpaksa menggantung operasi susulan beberapa siri serangan berbantu AI. Syarikat itu berkata penyerang membangunkan eksploit baharu lebih pantas daripada keupayaan pembangunnya menampal kelemahan yang ditemui.
Perkhidmatan pembayaran kripto PayPerQ turut melaporkan serangan berulang yang disyaki didalangi dengan bantuan kecerdasan buatan.
Anthropic mengakui bahawa pembangunan AI boleh memberikan kelebihan kepada penyerang dalam jangka terdekat. Pencarian dan eksploitasi kelemahan semakin murah dan pantas, manakala pengesahan isu keselamatan serta pembaikannya masih memerlukan penglibatan manusia.
Program OSS Scanner bertujuan merapatkan jurang ini. Namun, akses tidak akan diberikan secara automatik. Anthropic berhasrat memilih projek berdasarkan kepentingannya terhadap keselamatan pengguna dan daya tahan infrastruktur digital.
Mengapa pembangun mempercayai Anthropic
Anthropic dikenali bukan sahaja sebagai pembangun keluarga model AI Claude, tetapi juga sebagai syarikat yang memberi penekanan khusus kepada keselamatan kecerdasan buatan. Syarikat itu diasaskan pada 2021 oleh bekas pekerja OpenAI, termasuk Dario dan Daniela Amodei. Sejak awal, syarikat ini menjadikan keselamatan dan kebolehkawalan model AI berkuasa sebagai salah satu keutamaan utamanya.
Reputasi Anthropic turut disokong oleh kerjasama dengan syarikat teknologi utama, termasuk Amazon dan Google, yang telah melaburkan berbilion dolar dalam pembangunannya. Syarikat itu juga bekerjasama secara meluas dengan pelanggan perusahaan yang mengutamakan kebolehpercayaan, perlindungan data dan kawalan terhadap penggunaan AI. Bagi projek mata wang kripto yang mengendalikan dana pengguna dan private key, faktor-faktor ini mungkin amat penting.
Sebagai peringatan, Anthropic sedang memperluas program sokongannya untuk syarikat pemula AI.
Berita Terkini Anthropic
- Forex
- Crypto