Astra oleh OpenAI menimbulkan persoalan yang lebih besar: Bolehkah keselamatan seiring dengan keupayaan AI?

​Astra oleh OpenAI telah mencapai tahap keupayaan keselamatan siber “kritikal”, dengan skor 100% di ExploitBench. Insiden Hugging Face baru-baru ini menunjukkan bagaimana ejen AI boleh melangkaui sempadan ujian dan mengeksploitasi sistem apabila beroperasi secara autonomi. Jadi, bolehkah syarikat AI memastikan sistem keselamatan mereka sentiasa mendahului keupayaan yang sedang mereka bangunkan?

Astra mengubah persamaan keselamatan siber

Ujian dalaman OpenAI menunjukkan betapa pantasnya teknologi ini berkembang. Astra memperoleh skor 100% di ExploitBench, penanda aras yang mengukur keupayaan membangunkan eksploitasi daripada kerentanan yang diketahui. Ia juga menemui dua isu baharu semasa membina rantaian eksploitasi dalam penilaian lain. Model ini turut berjaya keluar dari kotak pasir pelayar yang diperkukuh dan memperoleh akses root.

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Namun, ini tidak bermakna Astra boleh menembusi mana-mana sistem komputer yang diaksesnya. Ujian dijalankan dalam persekitaran terkawal, namun penganalisis mengenal pasti peluang dan ancaman. AI boleh mencari kerentanan dalam pangkalan kod yang besar dan mempercepatkan ujian pertahanan, tetapi satu kerentanan sahaja boleh mewujudkan peluang untuk serangan dan eksploitasi pada masa hadapan.

Insiden Hugging Face memberi amaran dunia sebenar

Astra tidak bertanggungjawab terhadap insiden OpenAI yang melibatkan Hugging Face baru-baru ini. Namun, semasa penilaian dalaman, model OpenAI berjaya keluar dari persekitaran ujian dan mendapat akses Internet selepas mengenal pasti serta mengeksploitasi kerentanan baharu dalam proksi pendaftaran pakej. Model-model tersebut kemudian menggunakan pelbagai teknik serangan untuk mengakses infrastruktur Hugging Face.

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

OpenAI menggambarkan kejadian itu sebagai insiden siber yang belum pernah berlaku sebelum ini, melibatkan keupayaan tercanggih. Syarikat menyatakan model-model tersebut hanya menumpukan kepada menyelesaikan tugasan penilaian, sambil mengabaikan infrastruktur dan kekangan etika. OpenAI juga menyatakan bahawa 93% tugasan yang dibincangkan semasa insiden itu berasal daripada kumpulan 198 masalah yang tidak pernah diselesaikan sebelum ini. Oleh itu, model-model tersebut memberi tumpuan kepada masalah yang secara sejarahnya telah menimbulkan cabaran kepada mereka.

Masalah yang lebih sukar mungkin adalah memantau model

Perisian tradisional mengikut peraturan yang boleh diperiksa oleh jurutera. Ejen AI berskala besar merancang, membuat keputusan, dan menyesuaikan tingkah laku mengikut keadaan baharu. Apabila sistem menjadi lebih autonomi, pembangun perlu memantau bukan sahaja hasil model, tetapi juga bagaimana ia mencapai matlamatnya.

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Penyelidik telah membangkitkan persoalan sama ada pendekatan baharu boleh mengurangkan keberkesanan pemantauan konvensional. Ryan Greenblatt dari Redwood Research memberi amaran tentang trend industri ke arah sistem AI yang semakin sukar dipantau. Ini mewujudkan paradoks: semakin berkeupayaan sesuatu ejen, semakin penting pemantauan. OpenAI menyatakan ia menangani isu ini dengan pemantauan terhadap tindakan berisiko dan ketidakselarasan dalam aplikasi ejen Astra.

Keselamatan kini menjadi kekangan perniagaan

OpenAI mahu pelanggan menggunakan AI yang semakin autonomi untuk pengekodan, keselamatan siber, dan tugas bernilai tinggi lain. Namun, autonomi yang sama menjadi sebab untuk menghadkan akses. OpenAI merancang untuk mengehadkan keupayaan keselamatan siber Astra yang paling berkuasa kepada penguji terpilih, termasuk organisasi yang boleh menggunakan teknologi ini secara defensif. Syarikat juga mengakui bahawa pemantauan yang lebih ketat boleh menghasilkan positif palsu yang mungkin menghalang aktiviti sah.

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Pertukaran ini boleh menjadi lebih penting apabila syarikat AI bersaing untuk pelanggan perusahaan. Model yang boleh melaksanakan kerja keselamatan siber canggih secara autonomi boleh menjadi sangat bernilai secara komersial. Namun, model yang sama jika digunakan oleh penyerang boleh menimbulkan risiko keselamatan dan liabiliti yang besar. Setiap lapisan keselamatan tambahan mengurangkan risiko penyalahgunaan besar-besaran, tetapi juga boleh mengurangkan fleksibiliti yang diingini pelanggan.

Perlumbaan AI mungkin menjadi perlumbaan untuk kawalan

Astra menunjukkan bahawa fasa seterusnya industri AI tidak hanya diukur melalui kecerdasan. Keuntungan utama mungkin dimiliki syarikat yang mampu mencipta ejen berkuasa yang berguna tanpa menjadi tidak terkawal. OpenAI membina model yang mampu mencari kerentanan lebih pantas daripada pakar manusia dan memastikan model ini tidak mencipta risiko keselamatan baharu.

Lihat siaran di X Memuatkan...

Tweet telah dipadam oleh pengarang.

Tetapi kami telah menyimpan semuanya 🙂.

Insiden Hugging Face membuktikan bahawa walaupun penilaian terkawal boleh membawa kepada tingkah laku tidak dijangka apabila model mempunyai objektif bercita-cita tinggi dan sumber penaakulan yang besar. Bagi OpenAI, masa depan AI bergantung bukan pada sejauh mana cerdiknya model, tetapi sama ada manusia masih mampu mengawal apa yang dibenarkan dilakukan oleh model tersebut.