Tweet byl autorem smazán.
Ale my jsme všechno uložili 🙂.
Útoky poháněné umělou inteligencí a obranné modely lze analyzovat pomocí modelu temného lesa. Mezi jeho hlavní digitální charakteristiky patří skenování rychlostí strojů, rovnováha mezi útokem a obranou a potřeba zlepšovat zabezpečení systémů s vysokou hodnotou. Může nový přístup pomoci určit, které platformy přežijí v nepřátelském online prostředí?
Tento článek byl přeložen z originálu. Přečtěte si původní verzi od našeho korespondenta zde.
Zobrazit příspěvek na X Načítání...
Zdroje jsou zejména omezené, záměry nelze poznat a technologické skoky mohou nastat nečekaně. Za těchto podmínek je nejbezpečnější strategií zůstat skrytý a minimalizovat potenciální hrozby pro vlastní existenci. Tato metafora se přenesla do debat o internetu, sociálních médiích, blockchainových poolech a umělé inteligenci.
Zobrazit příspěvek na X Načítání...
Obránci se musí spoléhat na nepřetržité monitorování vlastních systémů s využitím umělé inteligence. Proti své infrastruktuře spouštějí neomezené modely, aby odhalili a odstranili zranitelnosti dříve, než se jejich cílem stanou externí lovci. Jak vysvětlil generální ředitel společnosti Luxor Nick Hansen: „Je to vaše jediná obrana v tomto novém temném lese poháněném umělou inteligencí. ‚Jediné, co zastaví zlého člověka se zbraní, je dobrý člověk se zbraní.‘“ Výsledkem jsou trvalé závody ve zbrojení, v nichž se obě strany snaží maximalizovat sofistikovanost modelů a zlepšovat provozní postupy.
Zobrazit příspěvek na X Načítání...
Hansen popsal, že problém způsobuje „sofistikovaný vektor využívající AI“. Vysvětlil, že kryptoměnové společnosti „čelí záplavě útoků využívajících AI“, které mají s vylepšováním modelů tendenci zrychlovat. Luxor v reakci pozastavil vývoj nových funkcí a pořídil GPU. Firma bude také k obraně využívat neomezené modely s otevřenými váhami.
Zobrazit příspěvek na X Načítání...
Alex Stamos, ředitel bezpečnosti ve společnosti Cognition, označil současnou situaci za „temný věk“, kdy se náklady na útok blíží nule, zatímco obrana zůstává nákladná. Venkatesh Rao popsal „apoteózu temného lesa“ jako nepřátelský výpočetní život, který se šíří napříč širším světem softwaru. Analytik Gartneru Leigh McMullen tvrdí, že „temná AI“ sice přináší nové výzvy, obránci však mohou také účinněji cílit na útočníky.
Zobrazit příspěvek na X Načítání...
Kryptoměny jsou jen nejviditelnější oblastí nového prostředí utvářeného AI. Logika temného lesa se netýká pouze těžařů bitcoinu. S rostoucími schopnostmi AI agentů se temným lesem stává celá globální digitální ekonomika. Přežijí v ní společnosti, které zůstanou nenápadné a jako první zasáhnou proti vlastním slabinám.