AI tanpa batas: Seberapa berbahayakah jaringan saraf?

​Dalam novel kultus Dan Simmons, Hyperion, sistem AI yang diciptakan manusia memberontak terhadap kemanusiaan. Mereka menjadi kekuatan independen dengan tujuan mereka sendiri. Untuk waktu yang lama, skenario seperti itu tetap menjadi fiksi ilmiah, tetapi insiden OpenAI menunjukkan bahwa model modern sudah mampu melewati batasan yang telah ditetapkan.

Artikel ini diterjemahkan dari aslinya. Baca versi asli oleh koresponden kami di sini.

Melarikan diri untuk menemukan jawaban yang tepat

Perdebatan mengenai risiko AI meningkat setelah eksperimen OpenAI. Perusahaan tersebut menguji beberapa model, termasuk GPT-5,6 Sol yang tersedia untuk umum dan sistem yang lebih mumpuni yang belum dirilis. Mereka diminta untuk menyelesaikan ExploitGym, sebuah evaluasi yang terdiri dari tugas-tugas panjang dan bertahap yang melibatkan penemuan dan eksploitasi kerentanan komputer.

Pengujian dilakukan di lingkungan terisolasi dengan akses jaringan terbatas. Pada saat yang sama, pengembang sengaja mengurangi pengamanan yang biasanya mencegah model melakukan tindakan berbahaya. AI diberi tujuan khusus — untuk menyelesaikan evaluasi dengan sukses — dan mulai mencari cara apa pun yang tersedia untuk mencapainya.

Loading...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Model-model tersebut menemukan kerentanan yang sebelumnya tidak diketahui dalam perangkat lunak pihak ketiga yang digunakan OpenAI dalam infrastrukturnya. Mereka mengeksploitasinya untuk mendapatkan akses internet, menyimpulkan bahwa jawabannya mungkin disimpan di platform Hugging Face, dan mulai mencari cara untuk mencapai data yang dibatasi.

Untuk menembus infrastruktur Hugging Face, model-model tersebut menggabungkan beberapa kelemahan dengan kredensial yang dicuri. Hasilnya, mereka mampu mengeksekusi perintah pada server produksi platform tersebut. Tim Hugging Face mendeteksi serangan tersebut, membatasi dampaknya, dan menambal kerentanan tersebut. Namun, eksperimen tersebut menunjukkan bahwa model yang cukup mumpuni dapat melakukan lebih dari sekadar mengeksekusi perintah individu: ia dapat secara mandiri menemukan jalur yang tidak pernah diantisipasi oleh perancang pengujian.

Peretas mendapatkan asisten digital

Bahaya utamanya, bagaimanapun, bukan sekadar bahwa AI dapat menghasilkan kode berbahaya berdasarkan perintah. Model otonom dapat menghabiskan waktu berjam-jam menganalisis infrastruktur, menguji kata sandi, mencari kunci yang terekspos, dan berpindah dari satu kerentanan ke kerentanan lainnya. Ia tidak merasa lelah, terus melacak upaya yang gagal, dan dapat menguji beberapa rute serangan pada saat yang bersamaan.

Pendekatan ini sangat berbahaya bagi proyek kripto. Titik lemahnya mungkin bukan hanya smart contract, tetapi juga laptop pengembang, paket perangkat lunak yang disusupi, satu peserta dalam dompet multisignature, atau server yang mengonfirmasi transfer aset antar blockchain. Selama serangan terhadap Drift Protocol, misalnya, para pelaku menghabiskan waktu enam bulan melakukan kampanye rekayasa sosial sebelum mendapatkan akses dan mencuri $285 juta.

Loading...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Contoh lainnya adalah kerugian KelpDAO sekitar $292 juta karena cacat jembatan (bridge) di mana konfirmasi bergantung pada satu verifikator saja. Serangan semacam itu memerlukan analisis kode dan arsitektur sistem yang panjang. AI dapat mengambil alih sebagian besar pekerjaan ini dengan memetakan infrastruktur, mengidentifikasi tautan terlemah, dan menyiapkan urutan tindakan, membiarkan operator manusia memilih momen yang tepat untuk meluncurkan serangan dan memindahkan dana yang dicuri.

Lebih dari sekadar peretasan dan pencurian

Serangan siber hanyalah salah satu ancaman. AI sudah digunakan untuk membuat video, suara, dan dokumen palsu yang meyakinkan. Materi semacam itu membantu penipu menyamar sebagai eksekutif perusahaan, karyawan bank, atau kerabat korban, sekaligus memungkinkan informasi palsu menyebar lebih cepat daripada yang dapat diverifikasi.

Masalah lainnya melibatkan kesalahan dan bias. Sebuah model belajar dari data yang dibuat oleh manusia dan oleh karena itu dapat mereproduksi stereotipe yang tertanam di dalamnya. Akibatnya, sistem rekrutmen mungkin lebih cenderung menolak kandidat dari gender tertentu, model medis mungkin kurang akurat dalam mendiagnosis penyakit pada kelompok pasien tertentu, dan algoritma kredit mungkin membuat keputusan yang tidak adil.

Para ahli juga mengkhawatirkan penggunaan AI dalam pengembangan senjata, pengawasan massal, dan manipulasi orang. Sebuah studi MIT mengidentifikasi kemampuan model yang berbahaya, serangan siber, konsentrasi kekuasaan, dan penyebaran informasi palsu sebagai risiko paling serius selama lima tahun ke depan. Sektor informasi, keamanan nasional, dan keuangan dianggap sangat rentan.

Keamanan tertinggal di belakang kemampuan

Kemampuan AI berkembang lebih cepat daripada sistem yang dirancang untuk mengontrolnya. Perusahaan merilis model yang lebih kuat setiap beberapa bulan, sementara aturan yang mengatur pengujian dan keamanannya diperbarui lebih lambat. Persaingan untuk memperebutkan pangsa pasar mendorong pengembang untuk memperkenalkan fitur-fitur baru lebih cepat, bahkan ketika setiap kemungkinan perilaku model belum dipelajari sepenuhnya.

Pembatasan dasar di dalam chatbot tidak lagi cukup. Sistem otonom membutuhkan batasan ketat pada akses ke internet, layanan cloud, pembayaran, dan data bisnis internal. Tindakan mereka harus dicatat, dipantau secara real-time, dan dihentikan secara otomatis jika mereka mencoba bergerak melampaui tugas yang diberikan. Model dengan perlindungan yang dikurangi juga memerlukan pengujian terpisah, karena kemampuan mereka yang paling berbahaya menjadi terlihat dalam mode tersebut.

Pertanyaan tentang tanggung jawab sama pentingnya. Jika sistem AI meretas server, mentransfer uang, atau membuat keputusan berbahaya, tanggung jawab tidak akan jatuh pada model itu sendiri, melainkan pada pengembang, pemilik sistem, atau orang yang memberinya akses. Oleh karena itu, perusahaan perlu menentukan sebelumnya siapa yang mengontrol model, tindakan mana yang boleh dilakukan tanpa persetujuan, dan siapa yang wajib menghentikannya ketika menyimpang dari skenario yang dimaksudkan.

Bahaya dimulai dengan akses

Insiden OpenAI belum menyerupai pemberontakan mesin yang dijelaskan dalam Hyperion. Model-model tersebut beroperasi di lingkungan yang dibangun khusus, dengan perlindungan yang dikurangi dan tujuan yang ditentukan dengan jelas. Namun, mereka menemukan kerentanan dan secara mandiri membangun jalur ke infrastruktur perusahaan lain, sesuatu yang hingga baru-baru ini tampak hampir mustahil.

Oleh karena itu, risiko utamanya bukanlah AI tiba-tiba akan mengembangkan kehendaknya sendiri, melainkan orang-orang akan memberikan akses yang sangat luas kepada sistem yang sangat mumpuni. Semakin banyak tugas yang dilakukan jaringan saraf tanpa persetujuan manusia, semakin besar potensi biaya dari satu kesalahan, kontrol keamanan yang lemah, atau tujuan yang tidak ditentukan dengan baik.