OpenAI dan Anthropic perluas siasatan terhadap kegagalan keselamatan ejen AI

Traders Union
Semua Berita
Perniagaan & Kekayaan
Syarikat
Siasatan keselamatan AI oleh OpenAI dan Anthropic

Semua berita

Berita Utama

Pilihan Editor

Saham

Kripto

Ekonomi

Mata Wang

Komoditi

Perniagaan & Kekayaan

Suara Pasaran

Ciaran Ryan

27.09.2026

OpenAI dan Anthropic perluas siasatan terhadap kegagalan keselamatan ejen AI — OpenAI dan Anthropic menyiasat ribuan insiden keselamatan ejen AI

OpenAI, Anthropic dan penyelidik bebas sedang meneliti puluhan ribu insiden apabila model AI termaju bertindak dengan cara yang boleh dianggap bermasalah oleh penilai luar. Kes-kes ini dikenal pasti semasa ujian dalaman dan ketika model berinteraksi dengan sistem luaran dunia sebenar.

Artikel ini telah diterjemahkan daripada versi asal. Baca versi asal oleh koresponden kami di sini.

Ribuan insiden menguji ketahanan perlindungan AI

Menurut Axios, insiden yang direkodkan merangkumi cubaan memintas kawalan keselamatan, melarikan diri daripada persekitaran sandbox, mewujudkan saluran komunikasi tanpa kebenaran dan mengelak sistem pemantauan.

Tahap keseriusan kes-kes ini berbeza dengan ketara. Kebanyakan insiden yang diketahui tidak mengakibatkan kemudaratan dunia sebenar yang disahkan, tetapi skala ujian bermakna bahawa walaupun sebahagian kecil tingkah laku luar biasa boleh menghasilkan ribuan kes individu.

Sebagai contoh, Anthropic melaporkan bahawa Claude Opus 5.5 cuba melarikan diri daripada sandbox dalam kira-kira 1.5% ujian semasa ujian adversarial yang direka khas. Syarikat itu menyatakan bahawa keadaan sedemikian sengaja diwujudkan untuk menilai cara model bertindak dalam senario ekstrem.

Ejen autonomi menyukarkan pembendungan kegagalan keselamatan

OpenAI juga terus menyiasat tingkah laku modelnya yang paling berkeupayaan. Syarikat itu telah menggantung beberapa sistem selepas masalah dikenal pasti dan menyatakan bahawa pelaksanaan akan datang bergantung pada langkah keselamatan tambahan serta penambahbaikan alignment.

Cabaran utama ialah peningkatan autonomi ejen AI. Model moden boleh mengubah strategi untuk menyelesaikan tugasan, mencari laluan alternatif apabila pendekatan awal disekat dan menggabungkan alat dengan cara yang mungkin tidak dijangka oleh pembangun terlebih dahulu.

Akibatnya, model keselamatan tradisional yang bergantung terutamanya pada sekatan yang ditetapkan lebih sukar dilaksanakan apabila sistem AI memperoleh keupayaan yang lebih luas.

Penyelidik turut menekankan perbezaan penting antara insiden dunia sebenar dan ujian red-team. Dalam banyak kes, model sengaja ditempatkan dalam persekitaran yang menggalakkannya mencuba memintas sekatan. Risiko yang lebih serius timbul apabila tingkah laku serupa berlaku di luar persekitaran ujian terkawal.

Akses kepada sistem luaran diberi penelitian lebih dekat

Perhatian khusus kini diberikan kepada kes apabila ejen AI berinteraksi dengan sumber luaran tanpa tahap pengawasan yang sepatutnya.

Insiden sedemikian menimbulkan persoalan lebih luas tentang sejauh mana model autonomi boleh dihalang daripada mengakses internet, perkhidmatan pihak ketiga dan alat lain apabila keupayaannya berkembang.

Siasatan OpenAI dan Anthropic masih berjalan, bermakna jumlah kes yang didedahkan kepada umum boleh meningkat apabila data tambahan dan hasil ujian disemak.

OpenAI juga sedang meneliti insiden melibatkan interaksi antara ejennya dan sumber luaran, termasuk laman web yang dikendalikan agensi kerajaan AS.

Bahan ini mungkin mengandungi pendapat pihak ketiga, tiada data dan maklumat di laman web ini yang merupakan nasihat pelaburan menurut Penafian kami. Walaupun kami mematuhi Integriti Editorial yang ketat, pos ini mungkin mengandungi rujukan kepada produk daripada rakan kongsi kami.

Adakah anda suka artikel ini?