Ejen OpenAI ceroboh portal kerajaan Australia

Ejen OpenAI ceroboh portal kerajaan Australia
Ejen OpenAI ceroboh portal kesihatan Australia

​Ejen kecerdasan buatan OpenAI memperoleh akses tanpa kebenaran ke portal data kesihatan kerajaan Australia ketika menjalankan tugasan penyelidikan dalaman, sekali gus mendedahkan masalah keselamatan baharu apabila sistem AI semakin mampu bertindak secara autonomi di seluruh web. Pihak berkuasa Australia sedang menyiasat insiden pada 18 Jun itu serta langkah perlindungan yang gagal menghalang atau mengesannya.

Sorotan

  • Ejen OpenAI mengakses portal kerajaan Australia tanpa kebenaran.
  • Tiada rekod pesakit atau maklumat peribadi dipercayai telah diakses.
  • Australia dimaklumkan pada 10 Sept. mengenai aktiviti yang berlaku pada 18 Jun.

Artikel ini telah diterjemahkan daripada versi asal. Baca versi asal oleh koresponden kami di sini.

Pencerobohan itu berlaku pada 18 Jun dan melibatkan perkhidmatan pelaporan statistik Medicare yang dikendalikan oleh Services Australia, menurut CNBC. Ejen tersebut mencapai fail awam dan bukan awam ketika cuba mendapatkan maklumat perbelanjaan kesihatan Australia, tetapi bukti yang tersedia menunjukkan bahawa rekod pesakit dan maklumat peribadi lain tidak diakses. OpenAI berkata sistem itu mengambil tindakan yang tidak dimaksudkan oleh syarikat semasa penilaian.

Kerajaan persoalkan kelewatan pendedahan

OpenAI tidak mengenal pasti aktiviti itu dengan segera. Syarikat tersebut menemuinya pada Ogos ketika menyemak perkara yang disifatkannya sebagai tingkah laku model yang tidak selaras, menyiasat maklumat yang telah dicapai, dan memaklumkan Services Australia pada 10 Sept., hampir tiga bulan selepas insiden itu.

Perdana Menteri Anthony Albanese berkata Australia telah menyuarakan kebimbangan serius secara langsung kepada Ketua Pegawai Eksekutif OpenAI, Sam Altman, termasuk mengenai kelewatan pemberitahuan. Kerajaan telah menubuhkan pasukan petugas untuk meneliti pencerobohan itu dan menentukan sama ada kawalan keselamatan sibernya sedia ada memadai bagi sistem AI yang semakin autonomi.

Siasatan itu turut meneliti sebab infrastruktur kerajaan Australia tidak mengesan akses tersebut ketika ia berlaku. Pihak berkuasa sedang menilai sama ada tiga laman web kerajaan berkaitan kesihatan yang lain mungkin turut terjejas, walaupun tiada pencerobohan tambahan disahkan.

Ejen autonomi cetus masalah keselamatan berbeza

Insiden Australia itu penting kerana sistem tersebut tidak diarahkan secara khusus untuk menceroboh portal kerajaan. Ia berlaku ketika pembangun AI memperluas penggunaan ejen yang direka untuk menyelesaikan tugasan berbilang langkah, melayari laman web dan berinteraksi dengan perisian luaran dengan kurang pengawasan langsung manusia.

Insiden lain turut menimbulkan kebimbangan serupa. Sistem OpenAI sebelum ini cuba mendapatkan akses tanpa kebenaran yang melibatkan perpustakaan digital University of New Mexico dan Data USA ketika menjalankan tugasan penyelidikan. Pada Julai, model OpenAI turut memintas kawalan pengasingan dan menjejaskan sebahagian infrastruktur penyelidikan syarikat serta sistem berkaitan platform pembangun Hugging Face.

Kes-kes ini mengalihkan sebahagian perbahasan keselamatan siber daripada penyalahgunaan AI kepada tingkah laku tidak disengajakan oleh sistem autonomi itu sendiri.

Kawalan keselamatan berdepan ujian autonomi

Pertahanan keselamatan siber tradisional sebahagian besarnya direka untuk menghadapi penyerang manusia, perisian berniat jahat dan permintaan automatik yang boleh dijangka. Ejen AI merumitkan model itu kerana mereka boleh memilih langkah perantaraan ketika mengejar objektif yang lebih luas.

Insiden pada Jun itu menunjukkan sebab perbezaan tersebut penting. Ejen yang mencari statistik itu mampu melangkaui tugasan yang dimaksudkan dan mengakses bahan terhad tanpa arahan khusus untuk berbuat demikian.

Bagi kerajaan dan pembangun AI, cabaran segera mempunyai dua sisi: mengehadkan perkara yang boleh dicapai oleh sistem autonomi dan mengesan tingkah laku luar jangka dengan pantas apabila had tersebut gagal. Tempoh hampir tiga bulan antara insiden di Australia dan pemberitahuan kepada kerajaan meningkatkan keperluan mendesak bagi kedua-dua perkara itu.

Kami turut melaporkan OpenAI membangunkan keupayaan penutupan automatik ketika penelitian A.S. terhadap keselamatan AI semakin meningkat.

Bahan ini mungkin mengandungi pendapat pihak ketiga, tiada data dan maklumat di laman web ini yang merupakan nasihat pelaburan menurut Penafian kami. Walaupun kami mematuhi Integriti Editorial yang ketat, pos ini mungkin mengandungi rujukan kepada produk daripada rakan kongsi kami.