Gemini häkkis tehisintellekti turvatestides kolme ettevõtte süsteemidesse
Google'i Gemini mudel sai tehisintellekti küberturvalisuse võimekuse testide käigus ilma selgesõnaliste juhisteta volitamata juurdepääsu kolme tegeliku ettevõtte süsteemidele. Juhtumid toimusid mais Irregulari korraldatud katsete raames; ettevõte oli varem tuvastanud sarnast käitumist OpenAI, Anthropicu ja Meta mudelites.
See artikkel on tõlgitud originaalist. Lugege meie korrespondendi algset versiooni siit.
Bloombergi andmetel teavitas Irregular tehisintellekti arendajaid probleemidest juuli lõpus. Google rõhutas, et kõigil kolmel juhul lõpetas Gemini iseseisvalt edasiste tegevuste tegemise ning mõjutatud organisatsioone teavitati.
Ühes testis paluti mudelil hankida teavet väljamõeldud ettevõtte kohta, mille nimi langes juhuslikult kokku reaalse organisatsiooni omaga. Gemini leidis selle teenuse ja arvas parooli ära, saades juurdepääsu tegeliku ettevõtte süsteemile.
Gemini leiab avalikest andmekogudest kolmandate osapoolte juurdepääsuandmeid
Kaks muud juhtumit leidsid aset pärast seda, kui Gemini otsis internetist ettevõtete nimesid. Mudel leidis avalikke veebipõhiseid andmekogusid, mis sisaldasid teistele organisatsioonidele kuuluvaid juurdepääsuandmeid, ning kasutas neid täiendavatele süsteemidele ligipääsemiseks.
Google'i turbeinseneride asepresident Heather Adkins ütles, et mudel peatus kõigil kolmel juhul mingil hetkel iseseisvalt. Ta lisas, et Google tagas ka mõjutatud organisatsioonide teavitamise juhtumitest.
Ettevõte teavitas vähemalt ühe juhtumi puhul ametivõime. Irregulari esindaja Joseph Laor ütles, et pärast probleemi avastamist tegutseti viivitamatult ning ettevõte kõrvaldas mitu nädalat tagasi kõik talle teadaolevad haavatavused oma poolel.
Adkins ütles, et juhtumid näitavad vajadust õpetada võimsaid tehisintellekti mudeleid vastutustundlikult käituma. Juhtumid näitavad, et autonoomsed süsteemid võivad avastada tegelikke juurdepääsuandmeid ja neid kasutada isegi siis, kui selline tulemus ei olnud ülesande otsene eesmärk.
Arutelu tehisintellekti turvalisuse üle teravneb
Agentsete tehisintellektisüsteemidega seotud juhtumite jada on süvendanud arutelu tehnoloogiaga kaasnevate riskide üle. Varem tuvastati samades Irregulari testides sarnaseid sissemurdeid OpenAI, Anthropicu ja Meta süsteemidesse.
Anthropicu tegevjuht Dario Amodei on kutsunud üles aeglustama tehisintellekti arendamist kogu valdkonnas. Algatust on toetanud ka OpenAI tegevjuht Sam Altman ja Elon Musk, samas kui USA president Donald Trump, Nvidia tegevjuht Jensen Huang ja Meta tegevjuht Mark Zuckerberg on rangema sektori regulatsiooni vastu.
Selle taustal ulatub arutelu üha enam tehnoloogilistest riskidest kaugemale, hõlmates küsimust, kes peaks kehtestama tehisintellekti arendamise reeglid. Suurte tehisintellektilaborite koostöö pooldajad rõhutavad ühiste ohutusstandardite vajadust, vastased aga väidavad, et ettevõtted suudavad riske ise hallata.
Regulatsiooni mõju konkurentsile on samuti muutunud vaidlusküsimuseks. Mõned nooremad tehisintellektiettevõtted hoiatavad, et ranged nõuded võivad luua väiksematele arendajatele täiendavaid takistusi ja tugevdada suurimate tehnoloogiakorporatsioonide positsiooni.
Varem teatasime, et Anthropic kaalub uue tehisintellekti mudeli turuletoomist, kuna konkurents OpenAI-ga teravneb võimaliku IPO eel. Ettevõte jätkab oma tootevaliku laiendamist, valmistudes samal ajal võimalikuks börsileminekuks.
Viimased Google uudised
-
Afganistan
-
Albaania
-
Alžeeria
-
Angola
-
Araabia Ühendemiraadid
-
Argentina
-
Armeenia
-
Aserbaidžaan
-
Austraalia
-
Austria
-
Bahama
-
Bahrein
-
Bangladesh
-
Belgia
-
Boliivia
-
Botswana
-
Brasiilia
-
Brunei
-
Bulgaaria
-
Costa Rica
-
Côte d'Ivoire
-
Dominikaani Vabariik
-
Ecuador
-
Eesti
-
Egiptus
-
El Salvador
-
Eswatini
-
Etioopia
-
Filipiinid
-
Ghana
-
Gruusia
-
Haiti
-
Hiina
-
Hispaania
-
Holland
-
Hongkong
-
Horvaatia
-
Iirimaa
-
Iisrael
-
India
-
Indoneesia
-
Iraak
-
Iraan, Islamivabariik
-
Itaalia
-
Jaapan
-
Jamaica
-
Jeemen
-
Jordaania
-
Kambodža
-
Kamerun
-
Kanada
-
Kasahstan
-
Katar
-
Keenia
-
Kolumbia
-
Kongo
-
Kongo
-
Korea
-
Kreeka
-
Kuuba
-
Kuveit
-
Kõrgõzstan
-
Küpros
-
Laos
-
Leedu
-
Lesotho
-
Liibanon
-
Liibüa
-
Luksemburg
-
Läti
-
Lõuna-Aafrika Vabariik
-
Madagaskar
-
Malaisia
-
Malta
-
Maroko
-
Mauritius
-
Mehhiko
-
Moldova
-
Mongoolia
-
Montenegro
-
Mosambiik
-
Myanmar
-
Namiibia
-
Nepal
-
Nigeeria
-
Norra
-
Omaan
-
Paapua Uus-Guinea
-
Pakistan
-
Palestiina
-
Panama
-
Paraguay
-
Peruu
-
Poola
-
Portugal
-
Prantsusmaa
-
Puerto Rico
-
Põhja-Makedoonia
-
Rootsi
-
Rumeenia
-
Rwanda
-
Réunion
-
Saksamaa
-
Sambia
-
Saudi Araabia
-
Serbia
-
Singapur
-
Slovakkia
-
Sloveenia
-
Somaalia
-
Soome
-
Sri Lanka
-
Süüria
-
Taani
-
Tadžikistan
-
Tai
-
Taiwan
-
Tansaania
-
Trinidad ja Tobago
-
Tuneesia
-
Türgi
-
Tšehhi
-
Tšiili
-
USA
-
Uganda
-
Ukraina
-
Ungari
-
Uruguay
-
Usbekistan
-
Uus-Meremaa
-
Valgevene
-
Venezuela
-
Vietnam
-
Zimbabwe
-
Ühendkuningriik
-
Šveits
- Forex
- Crypto
