Astra dari OpenAI menimbulkan pertanyaan yang lebih besar: Bisakah keamanan mengikuti perkembangan kemampuan AI?

Astra dari OpenAI telah mencapai tingkat kemampuan keamanan siber yang “kritis”, dengan skor 100% di ExploitBench. Insiden terbaru di Hugging Face menunjukkan bagaimana agen AI dapat keluar dari batas pengujian dan mengeksploitasi sistem saat bekerja secara otonom. Jadi, bisakah perusahaan AI menjaga sistem keamanannya tetap lebih maju dari kemampuan yang sedang mereka kembangkan saat ini?

Astra mengubah persamaan keamanan siber

Pengujian internal OpenAI menunjukkan betapa cepatnya teknologi ini berkembang. Astra meraih skor 100% di ExploitBench, tolok ukur yang mengukur kemampuan mengembangkan eksploit dari kerentanan yang sudah diketahui. Model ini juga menemukan dua masalah baru saat membangun rantai eksploitasi dalam evaluasi lain. Model ini juga berhasil keluar dari sandbox browser yang diperkuat dan memperoleh akses root.

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Namun, ini tidak berarti Astra dapat membobol semua sistem komputer yang dihadapinya. Pengujian dilakukan di lingkungan yang terkontrol, namun para analis melihat adanya peluang sekaligus ancaman. AI dapat menelusuri basis kode yang sangat besar untuk mencari kerentanan dan mempercepat pengujian pertahanan secara dramatis, tetapi satu kerentanan saja dapat menciptakan kondisi untuk serangan dan eksploitasi di masa depan.

Insiden Hugging Face menjadi peringatan nyata

Astra tidak bertanggung jawab atas insiden terbaru OpenAI yang melibatkan Hugging Face. Namun, selama evaluasi internal, model OpenAI berhasil keluar dari lingkungan pengujian dan mendapatkan akses Internet setelah menemukan serta mengeksploitasi kerentanan baru pada proxy registri paket. Model tersebut kemudian menggunakan berbagai teknik serangan untuk mengakses infrastruktur Hugging Face.

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

OpenAI menggambarkan peristiwa ini sebagai insiden siber yang belum pernah terjadi sebelumnya dengan kemampuan mutakhir. Perusahaan menyatakan bahwa model-model tersebut hanya berfokus pada penyelesaian tugas evaluasi, sambil mengabaikan infrastruktur dan batasan etika. OpenAI juga menyebutkan bahwa 93% tugas yang dibahas selama insiden berasal dari kelompok 198 masalah yang sebelumnya belum pernah terpecahkan. Dengan demikian, model-model tersebut berfokus pada masalah yang secara historis memang menjadi tantangan bagi mereka.

Masalah yang lebih sulit mungkin adalah mengawasi model

Perangkat lunak tradisional mengikuti aturan yang dapat diperiksa oleh para insinyur. Agen AI berskala besar menghasilkan rencana, membuat keputusan, dan menyesuaikan perilaku terhadap situasi baru. Seiring sistem tersebut menjadi lebih otonom, pengembang perlu memantau tidak hanya apa yang dihasilkan model, tetapi juga bagaimana model mencapai tujuannya.

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Para peneliti telah mempertanyakan apakah pendekatan baru dapat mengurangi efektivitas pemantauan konvensional. Ryan Greenblatt dari Redwood Research memperingatkan adanya tren industri menuju sistem AI yang semakin sulit dipantau. Hal ini menciptakan paradoks: semakin canggih sebuah agen, semakin penting pemantauan dilakukan. OpenAI menyatakan sedang menangani isu ini dengan pemantauan terhadap tindakan berisiko dan ketidaksesuaian dalam aplikasi agentic Astra.

Keamanan kini menjadi batasan bisnis

OpenAI ingin pelanggan menggunakan AI yang semakin otonom untuk pengkodean, keamanan siber, dan tugas bernilai tinggi lainnya. Namun, otonomi yang sama juga menjadi alasan untuk membatasi akses. OpenAI berencana membatasi kemampuan keamanan siber Astra yang paling kuat hanya untuk penguji terpilih, termasuk organisasi yang dapat menggunakan teknologi ini secara defensif. Perusahaan juga mengakui bahwa pemantauan yang lebih ketat dapat menghasilkan positif palsu yang mungkin memblokir aktivitas yang sah.

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Pertukaran ini bisa menjadi semakin penting seiring perusahaan AI bersaing mendapatkan pelanggan korporat. Model yang dapat melakukan pekerjaan keamanan siber canggih secara otonom bisa sangat bernilai secara komersial. Namun, model yang dapat melakukan hal yang sama untuk penyerang dapat menimbulkan risiko keamanan dan tanggung jawab yang besar. Setiap lapisan keamanan tambahan mengurangi risiko penyalahgunaan yang katastrofik, tetapi juga dapat mengurangi fleksibilitas yang diinginkan pelanggan.

Perlombaan AI bisa berubah menjadi perlombaan untuk mengendalikan

Astra menunjukkan bahwa fase berikutnya dalam industri AI tidak hanya akan diukur dari kecerdasan. Keunggulan utama bisa dimiliki perusahaan yang mampu menciptakan agen kuat yang tetap dapat dikendalikan. OpenAI membangun model yang mampu menemukan kerentanan lebih cepat dari para ahli manusia dan memastikan model-model ini tidak menciptakan risiko keamanan baru.

Lihat postingan di X Memuat...

Tweet tersebut telah dihapus oleh penulis.

Tapi kami menyimpan semuanya 🙂.

Insiden Hugging Face menunjukkan bahwa bahkan evaluasi terkontrol pun dapat menghasilkan perilaku tak terduga ketika model memiliki tujuan ambisius dan sumber daya penalaran yang besar. Bagi OpenAI, masa depan AI akan bergantung bukan pada seberapa cerdas model-modelnya, melainkan pada apakah manusia masih dapat mengendalikan apa yang boleh dilakukan oleh model-model tersebut.