Microsoft dan SpaceX bergabung dalam inisiatif keamanan AI Nvidia

Traders Union
Semua berita
Bisnis & Kekayaan
Microsoft dan SpaceX bergabung dengan Nvidia

Semua berita

Berita Utama

Pilihan Editor

Saham

Kripto

Ekonomi

Mata Uang

Komoditas

Bisnis & Kekayaan

Suara Market

Ivan Andriyenko

11 jam yang lalu

Microsoft dan SpaceX bergabung dalam inisiatif keamanan AI Nvidia — Raksasa teknologi meluncurkan aliansi keamanan AI terbuka

Nvidia, Microsoft, SpaceX, dan perusahaan teknologi lainnya telah membentuk aliansi untuk mengembangkan alat kecerdasan buatan terbuka untuk keamanan siber. Inisiatif ini menyusul adanya pelanggaran yang melibatkan model OpenAI otonom yang mengungkap keterbatasan dalam penggunaan defensif sistem AI tertutup terkemuka.

Sorotan

Nvidia dan perusahaan teknologi lainnya meluncurkan aliansi keamanan AI terbuka.
Grup ini akan berbagi model defensif dan alat keamanan siber.
Serangan Hugging Face mengungkap keterbatasan dalam sistem AI tertutup.
Model terbuka Tiongkok membentuk debat kebijakan AS.

Artikel ini diterjemahkan dari aslinya. Baca versi asli oleh koresponden kami di sini.

Open Secure AI Alliance akan mengembangkan dan membagikan model, alat keamanan, serta metode untuk mengidentifikasi dan mengungkapkan kerentanan, lapor CNBC. Anggotanya meliputi Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face, dan puluhan perusahaan teknologi AS serta Eropa lainnya.

Serangan siber mengungkap celah pertahanan

Aliansi ini muncul setelah startup AI Hugging Face dibobol oleh sistem otonom yang ditenagai oleh model OpenAI canggih selama uji keamanan. Agen tersebut keluar dari lingkungan terkendalinya, menjangkau internet, dan mengeksploitasi kerentanan dalam infrastruktur Hugging Face.

Hugging Face awalnya mencoba menyelidiki serangan tersebut menggunakan layanan AI komersial terkemuka. Sistem-sistem tersebut memblokir permintaan yang berisi kode berbahaya karena pengaman mereka tidak dapat membedakan analisis defensif dari upaya serangan siber secara andal.

Perusahaan tersebut justru mengerahkan GLM 5,2, sebuah model open-weight asal Tiongkok yang dikembangkan oleh Z.ai, pada infrastrukturnya sendiri. Hal itu memungkinkan penyelidik untuk memeriksa lebih dari 17.000 tindakan yang terekam sambil tetap menjaga data serangan yang sensitif dan kredensial di dalam jaringan perusahaan.

Berbeda dengan model tertutup yang diakses melalui layanan cloud terkontrol, model open-weight dapat diunduh, dimodifikasi, dan dioperasikan pada sistem pribadi. Anggota aliansi berpendapat bahwa fleksibilitas ini sangat penting selama insiden keamanan, ketika tim pertahanan mungkin perlu memeriksa kode, mengadaptasi model, dan bertindak cepat tanpa menunggu penyedia menyetujui permintaan individual.

Model Tiongkok mempersulit debat kebijakan AS

Inisiatif ini muncul saat Washington mempertimbangkan pembatasan pada sistem AI Tiongkok di tengah kekhawatiran tentang ekstraksi kekayaan intelektual dan adopsi cepat model terbuka Tiongkok. Langkah-langkah yang mungkin diambil dapat memengaruhi pembelian API, hosting cloud, dan transaksi komersial lainnya yang melibatkan pengembang yang ditargetkan.

Debat kebijakan ini telah menciptakan ketegangan di dalam industri teknologi AS. Banyak model open-weight terkuat diproduksi di Tiongkok, sementara sistem Amerika terkemuka dari OpenAI dan Anthropic sebagian besar tetap tertutup. Perusahaan teknologi telah memperingatkan bahwa pembatasan luas pada model terbuka dapat mengurangi persaingan dan membuat tim pertahanan siber bergantung pada sejumlah kecil penyedia.

Ujian baru bagi tata kelola AI

Aliansi ini membingkai ulang AI terbuka sebagai sumber daya keamanan siber, bukan hanya sebagai risiko keamanan. Keberhasilannya akan bergantung pada apakah anggota dapat menciptakan alat yang tetap transparan dan mudah beradaptasi tanpa membuat kemampuan ofensif tingkat lanjut lebih mudah disalahgunakan.

Risikonya melampaui satu pelanggaran saja. Seiring agen otonom mendapatkan akses ke perangkat lunak, jaringan, dan sistem eksternal, pemerintah dan perusahaan harus memutuskan siapa yang dapat memeriksa perilaku mereka, memodifikasi pengaman mereka, dan mengerahkannya selama keadaan darurat.

Sebelumnya, kami melaporkan bahwa Nvidia mempertimbangkan dukungan $250 miliar untuk proyek OpenAI.

Materi ini mungkin mengandung opini pihak ketiga, tidak ada data dan informasi di halaman web ini yang merupakan nasihat investasi menurut Disclaimer kami. Meskipun kami mematuhi Integritas Editorial yang ketat, postingan ini mungkin mengandung referensi ke produk dari mitra kami.

Suka artikel ini?