Tweetet blev slettet af forfatteren.
Men vi gemte alt 🙂.
AI-drevne angreb og defensive modeller kan analyseres ved hjælp af den mørke skov-model. De vigtigste digitale kendetegn omfatter scanning med maskinhastighed, en balance mellem angreb og forsvar samt behovet for at forbedre systemer af høj værdi. Kan en ny tilgang hjælpe med at afgøre, hvilke platforme der overlever i et fjendtligt onlinemiljø?
Denne artikel er oversat fra originalen. Læs den oprindelige version af vores korrespondent her.
Se opslag på X Indlæser...
Ressourcerne er især begrænsede, hensigterne kan ikke kendes, og teknologiske kvantespring kan ske uventet. Under disse forhold er den sikreste strategi at forblive skjult og minimere potentielle trusler mod ens eksistens. Metaforen er blevet overført til diskussioner om internettet, sociale medier, blockchain-pools og kunstig intelligens.
Se opslag på X Indlæser...
Forsvarere er nødt til at basere sig på kontinuerlig, AI-drevet overvågning af deres systemer. De kører ubegrænsede modeller mod deres infrastruktur for at finde og lukke sårbarheder, før eksterne jægere går efter dem. Som Luxors CEO Nick Hansen forklarede: "Det er dit eneste forsvar i denne nye AI-drevne mørke skov. 'Det eneste, der stopper en skurk med en pistol, er en god fyr med en pistol.'" Resultatet er et permanent våbenkapløb, hvor begge sider forsøger at maksimere modellernes sofistikering og forbedre driften.
Se opslag på X Indlæser...
Hansen beskrev problemet som forårsaget af en »sofistikeret AI-baseret angrebsvektor«. Han forklarede, at kryptovirksomheder »oversvømmes af AI-baserede angreb«, som har tendens til at tage til i takt med, at modellerne bliver bedre. Luxor reagerede ved at sætte udviklingen af nye funktioner på pause og anskaffe GPU'er. Virksomheden vil også køre åbne vægtmodeller uden begrænsninger til defensive formål.
Se opslag på X Indlæser...
Alex Stamos, sikkerhedschef hos Cognition, har beskrevet den nuværende situation som en »mørk tidsalder«, hvor omkostningerne ved angreb nærmer sig nul, mens omkostningerne ved forsvar stadig er høje. Venkatesh Rao har beskrevet en »Dark Forest Apotheosis« som en fjendtlig beregningsbaseret livsform, der omfatter software i bredere forstand. Gartner-analytikeren Leigh McMullen har hævdet, at selvom »mørk AI« skaber nye udfordringer, kan forsvarere også ramme trusselsaktører mere effektivt.
Se opslag på X Indlæser...
Krypto er blot det mest synlige område i et nyt, AI-formet miljø. Logikken bag den mørke skov gælder ikke kun Bitcoin-minere. Efterhånden som AI-agenter bliver mere kompetente, bliver den globale digitale økonomi til skoven. I dette miljø vil de virksomheder, der overlever, være dem, der holder lav profil og først retter op på deres svagheder.