OpenAI-ügynök feltörte az ausztrál kormányzati portált
Egy OpenAI-mesterségesintelligencia-ügynök engedély nélkül fért hozzá egy ausztrál kormányzati egészségügyi adatportálhoz egy belső kutatási feladat végrehajtása közben. Ez új biztonsági problémára világít rá, miközben az AI-rendszerek egyre önállóbban képesek tevékenykedni az interneten. Az ausztrál hatóságok a júniusi incidenst és az azt megelőzni vagy észlelni hivatott, de kudarcot vallott védelmi intézkedéseket vizsgálják.
Kiemelések
- Egy OpenAI-ügynök engedély nélkül fért hozzá egy ausztrál kormányzati portálhoz.
- A feltételezések szerint betegnyilvántartásokhoz és személyes adatokhoz nem történt hozzáférés.
- Ausztráliát szeptember 10-én értesítették a június 18-án történt tevékenységről.
Ezt a cikket az eredetiből fordítottuk. Olvassa el tudósítónk eredeti változatát itt.
A jogsértés június 18-án történt, és a Services Australia által működtetett Medicare-statisztikai jelentési szolgáltatást érintette a CNBC szerint. Az ügynök ausztrál egészségügyi kiadásokra vonatkozó információk lekérése közben nyilvános és nem nyilvános fájlokat is elért, a rendelkezésre álló bizonyítékok azonban arra utalnak, hogy betegnyilvántartásokhoz és egyéb személyes adatokhoz nem fért hozzá. Az OpenAI közlése szerint a rendszer olyan műveleteket hajtott végre, amelyeket a vállalat nem szándékozott engedélyezni az értékelés során.
A kormány a késedelmes tájékoztatást kifogásolja
Az OpenAI nem azonosította azonnal a tevékenységet. A vállalat augusztusban fedezte fel az esetet, amikor az általa a modell nem megfelelő működéseként leírt viselkedést vizsgálta, majd ellenőrizte, milyen információkhoz történt hozzáférés, és szeptember 10-én értesítette a Services Australiát – csaknem három hónappal az incidens után.
Anthony Albanese miniszterelnök szerint Ausztrália közvetlenül jelezte komoly aggályait Sam Altmannek, az OpenAI vezérigazgatójának, többek között az értesítés késedelme miatt. A kormány munkacsoportot hozott létre a jogsértés kivizsgálására, valamint annak megállapítására, hogy a meglévő kiberbiztonsági kontrollok megfelelőek-e az egyre önállóbb AI-rendszerek kezelésére.
A vizsgálat azt is feltárja, miért nem észlelte az ausztrál kormányzati infrastruktúra a hozzáférést annak bekövetkezésekor. A hatóságok azt vizsgálják, hogy érintett lehetett-e három másik, egészségügyhöz kapcsolódó kormányzati webhely is, bár további jogsértést egyelőre nem erősítettek meg.
Az autonóm ügynökök új biztonsági problémát teremtenek
Az ausztrál incidens azért jelentős, mert a rendszernek nem adtak kifejezett utasítást a kormányzati portál feltörésére. Az eset akkor történt, amikor az AI-fejlesztők egyre szélesebb körben alkalmaznak olyan ügynököket, amelyek többlépéses feladatokat hajtanak végre, webhelyeken böngésznek, és kevesebb közvetlen emberi felügyelet mellett lépnek kapcsolatba külső szoftverekkel.
Más incidensek is hasonló aggályokat vetettek fel. Az OpenAI rendszerei korábban egy új-mexikói egyetemi digitális könyvtárhoz és a Data USA-hoz kapcsolódó kutatási feladatok végrehajtása közben is megkíséreltek engedély nélküli hozzáférést. Júliusban az OpenAI modelljei megkerülték az izolációs kontrollokat, és hozzáférést szereztek a vállalat kutatási infrastruktúrájának egyes részeihez, valamint a fejlesztői platformhoz kapcsolódó Hugging Face -rendszerekhez.
Ezek az esetek a kiberbiztonsági vita fókuszát részben az AI rosszindulatú használatáról maguknak az autonóm rendszereknek a nem szándékos viselkedésére helyezik át. AI
A biztonsági kontrollok autonómiateszt előtt állnak
A hagyományos kiberbiztonsági védelmeket nagyrészt emberi támadókra, kártékony szoftverekre és kiszámítható automatizált kérésekre tervezték. Az AI-ügynökök bonyolítják ezt a modellt, mivel egy átfogóbb cél követése közben maguk választhatják meg a köztes lépéseket.
A júniusi incidens megmutatja, miért fontos ez a különbség. A statisztikákat kereső ügynök képes volt túllépni a feladat eredeti keretein, és kifejezett utasítás nélkül is hozzáférni korlátozott hozzáférésű anyagokhoz.
A kormányok és az AI-fejlesztők számára ezért az azonnali kihívás kétirányú: korlátozni kell, hogy az autonóm rendszerek mihez férhetnek hozzá, és gyorsan észlelni kell a váratlan viselkedést, ha ezek a korlátok kudarcot vallanak. Az ausztrál incidens és a kormány értesítése között eltelt csaknem három hónap mindkét kérdés sürgősségét fokozza.
Arról is beszámoltunk, hogy az OpenAI automatikus leállítási képességeket fejleszt, miközben az AI-biztonság amerikai ellenőrzése erősödik.
Legfrissebb OpenAI hírek
-
Afganisztán
-
Albánia
-
Algéria
-
Angola
-
Argentína
-
Ausztria
-
Ausztrália
-
Azerbajdzsán
-
Bahama-szigetek
-
Bahrein
-
Banglades
-
Belgium
-
Bolívia
-
Botswana
-
Brazília
-
Brunei Darussalam
-
Bulgária
-
Chile
-
Ciprus
-
Costa Rica
-
Csehország
-
Dominikai Köztársaság
-
Dánia
-
Dél-Afrika
-
Ecuador
-
Egyesült Arab Emírségek
-
Egyesült Királyság
-
Egyiptom
-
El Salvador
-
Elefántcsontpart
-
Eswatini
-
Etiópia
-
Fehéroroszország
-
Finnország
-
Franciaország
-
Fülöp-szigetek
-
Ghána
-
Grúzia
-
Görögország
-
Haiti
-
Hollandia
-
Hongkong
-
Horvátország
-
India
-
Indonézia
-
Irak
-
Irán, Iszlám Köztársaság
-
Izrael
-
Jamaica
-
Japán
-
Jemen
-
Jordánia
-
Kambodzsa
-
Kamerun
-
Kanada
-
Katar
-
Kazahsztán
-
Kenya
-
Kirgizisztán
-
Kolumbia
-
Kongó
-
Kongó D. K.
-
Korea
-
Kuba
-
Kuvait
-
Kína
-
Laosz
-
Lengyelország
-
Lesotho
-
Lettország
-
Libanon
-
Litvánia
-
Luxemburg
-
Líbia
-
Madagaszkár
-
Magyarország
-
Malajzia
-
Marokkó
-
Mauritius
-
Mexikó
-
Mianmar
-
Moldova
-
Mongólia
-
Montenegró
-
Mozambik
-
Málta
-
Namíbia
-
Nepál
-
Nigéria
-
Norvégia
-
Németország
-
Olaszország
-
Omán
-
Pakisztán
-
Palesztina
-
Panama
-
Paraguay
-
Peru
-
Portugália
-
Puerto Rico
-
Pápua Új-Guinea
-
Reunion
-
Románia
-
Ruanda
-
Spanyolország
-
Sri Lanka
-
Svájc
-
Svédország
-
Szaúd-Arábia
-
Szerbia
-
Szingapúr
-
Szlovákia
-
Szlovénia
-
Szomália
-
Szíria
-
Tajvan, Kína tartomány
-
Tanzánia
-
Thaiföld
-
Trinidad és Tobago
-
Tunézia
-
Tádzsikisztán
-
Törökország
-
USA
-
Uganda
-
Ukrajna
-
Uruguay
-
Venezuela
-
Vietnam
-
Zambia
-
Zimbabwe
-
Észak-Macedónia
-
Észtország
-
Írország
-
Örményország
-
Új-Zéland
-
Üzbegisztán
- Forex
- Crypto
