De tweet is verwijderd door de auteur.
Maar we hebben alles opgeslagen 🙂.
AI-aangedreven aanvallen en verdedigingsmodellen kunnen worden geanalyseerd aan de hand van het model van het donkere woud. De belangrijkste digitale kenmerken zijn scannen op machinesnelheid, een evenwicht tussen aanval en verdediging en de noodzaak om hoogwaardige systemen te verbeteren. Kan een nieuwe aanpak helpen bepalen welke platforms overleven in een vijandige onlineomgeving?
Dit artikel is vertaald vanuit het origineel. Lees de originele versie van onze correspondent hier.
Bekijk bericht op X Laden...
Hulpbronnen zijn met name beperkt, intenties zijn niet te doorgronden en technologische sprongen kunnen zich onverwacht voordoen. Onder deze omstandigheden is de veiligste strategie om verborgen te blijven en mogelijke bedreigingen voor het eigen voortbestaan tot een minimum te beperken. De metafoor is inmiddels ook van toepassing op discussies over het internet, sociale media, blockchainpools en kunstmatige intelligentie.
Bekijk bericht op X Laden...
Verdedigers moeten vertrouwen op continue, door AI aangestuurde monitoring van hun systemen. Ze zetten onbeperkte modellen in tegen hun infrastructuur om kwetsbaarheden op te sporen en te verhelpen voordat externe jagers ze aanvallen. Zoals Luxor-CEO Nick Hansen het uitlegde: ‘Dit is je enige verdediging in dit nieuwe, door AI aangedreven donkere woud. “Het enige wat een slechterik met een pistool kan stoppen, is een goede kerel met een pistool.”’ Het resultaat is een permanente wapenwedloop, waarin beide partijen de geavanceerdheid van hun modellen en hun operationele verbeteringen proberen te maximaliseren.
Bekijk bericht op X Laden...
Hansen omschreef het probleem als veroorzaakt door een ‘geavanceerde AI-gestuurde aanvalsvector’. Hij legde uit dat cryptobedrijven worden ‘overspoeld met AI-gestuurde aanvallen’, die doorgaans versnellen naarmate modellen beter worden. Luxor reageerde door de ontwikkeling van nieuwe functies stil te leggen en GPU’s aan te schaffen. Het bedrijf gaat ook onbeperkte open-weightmodellen inzetten voor defensieve doeleinden.
Bekijk bericht op X Laden...
Alex Stamos, chief security officer bij Cognition, heeft de huidige situatie omschreven als een ‘donker tijdperk’, waarin de kosten van aanvallen bijna nul worden, terwijl verdediging nog altijd veel kost. Venkatesh Rao heeft ‘Dark Forest Apotheosis’ beschreven als vijandig computergestuurd leven dat zich over software in bredere zin uitstrekt. Gartner-analist Leigh McMullen stelt dat ‘dark AI’ weliswaar nieuwe uitdagingen met zich meebrengt, maar verdedigers ook kan helpen om dreigingsactoren doeltreffender aan te pakken.
Bekijk bericht op X Laden...
Crypto is slechts het meest zichtbare onderdeel van een nieuwe, door AI gevormde omgeving. De logica van het donkere bos geldt niet alleen voor Bitcoin-miners. Naarmate AI-agenten capabeler worden, verandert de wereldeconomie in een digitaal bos. In die omgeving overleven de bedrijven die zich stilhouden en als eerste hun kwetsbaarheden aanpakken.