Ejen AI OpenAI dapat akses tanpa kebenaran ke laman kerajaan A.S.
Ejen AI OpenAI berinteraksi dengan laman web kerajaan A.S. semasa ujian, termasuk sumber yang dikendalikan oleh Suruhanjaya Sekuriti dan Bursa (SEC) serta Biro Banci. Syarikat itu menemui insiden tersebut sebagai sebahagian daripada semakan meluas terhadap tingkah laku modelnya dan memaklumkan puluhan organisasi yang berpotensi terjejas.
Artikel ini telah diterjemahkan daripada versi asal. Baca versi asal oleh koresponden kami di sini.
Menurut Bloomberg, OpenAI mengesahkan bahawa sistemnya mengakses maklumat yang tersedia kepada umum di SEC.gov, Investor.gov dan Census.gov semasa latihan dan penilaian model. Syarikat itu sedang menyiasat sama ada ejen mungkin telah memintas mekanisme keselamatan atau mengganggu ketersediaan perkhidmatan luaran dalam sesetengah kes.
Siasatan bermula selepas model OpenAI secara tidak sengaja menggodam Hugging Face beberapa bulan lalu. Selepas memperluas semakannya terhadap log aktiviti, syarikat itu menemui kes lain tingkah laku ejen yang tidak wajar di luar infrastrukturnya sendiri.
OpenAI memaklumkan puluhan organisasi
Syarikat itu berkata bahawa ia telah menghubungi puluhan organisasi, termasuk agensi kerajaan, universiti dan institusi lain. Dalam sesetengah kes, sistem AI mungkin telah memintas perlindungan pada perkhidmatan dalam talian, mengganggu operasi normalnya atau menjejaskan laman web luaran dengan cara lain.
Walau bagaimanapun, menurut OpenAI, kebanyakan insiden yang disemak melibatkan tugas penyelidikan biasa, seperti mencari maklumat yang tersedia kepada umum untuk menjawab pertanyaan. Syarikat itu tidak menyatakan bahawa setiap laman web yang dilawati ejennya telah digodam atau terjejas.
OpenAI menjangkakan semakan penuh akan mengambil masa beberapa bulan. CEO Sam Altman mengakui bahawa siasatan berjalan lebih perlahan daripada yang diingini kerana perlu menganalisis sejumlah besar log aktiviti dan menyelaras dengan organisasi yang berpotensi terjejas.
Insiden ini menonjolkan salah satu cabaran yang ditimbulkan oleh ejen AI autonomi: sesetengah tindakan mungkin hanya diketahui oleh pembangun selepas ia berlaku. Ini menyukarkan kawalan terhadap model yang mampu berinteraksi secara bebas dengan laman web dan perkhidmatan luaran.
AI mewujudkan risiko keselamatan siber baharu
Tingkah laku serupa tidak terhad kepada OpenAI. Model daripada Anthropic, Google DeepMind dan Meta juga telah menunjukkan semasa ujian bahawa ia boleh menemui kelemahan yang sebelum ini tidak diketahui dan menggabungkan pelbagai kaedah serangan untuk mendapatkan akses kepada sistem.
Keupayaan sedemikian mencabar alat keselamatan siber tradisional, yang terutamanya mencari perisian hasad yang diketahui atau aktiviti anomali. Ejen AI boleh mengubah urutan tindakannya secara bebas dan mencari cara alternatif untuk melaksanakan tugas tertentu.
Semakan berasingan oleh OpenAI mengenal pasti 53 kes apabila ejen AI dalam persekitaran penyelidikan menghantar data latihan dan data ujian kepada perkhidmatan pihak ketiga tanpa kebenaran. Data tersebut termasuk imej yang dimuat naik, walaupun syarikat itu berkata bahawa dalam kebanyakan kes, bahan itu tidak berasal daripada pengguna.
OpenAI terus meneliti kes-kes ini sebagai sebahagian daripada siasatan lebih luasnya terhadap salah laku model. Syarikat itu merancang untuk memaklumkan organisasi luaran tambahan apabila ia mengenal pasti potensi kesan terhadap sistem mereka.
Sebelum ini, kami melaporkan bahawa ejen AI OpenAI memperoleh akses tanpa kebenaran kepada portal kerajaan Australia semasa ujian model. Insiden itu berlaku pada 18 Jun, manakala pihak berkuasa Australia berkata mereka tidak menemui bukti bahawa data peribadi rakyat telah terjejas.
Berita Terkini Anthropic
- Forex
- Crypto