AI zonder grenzen: Hoe gevaarlijk zijn neurale netwerken?

In de cultroman Hyperion van Dan Simmons komen door mensen gecreëerde AI-systemen in opstand tegen de mensheid. Ze worden een onafhankelijke kracht met eigen doelen. Lange tijd bleef een dergelijk scenario sciencefiction, maar het OpenAI-incident toonde aan dat moderne modellen al in staat zijn om vastgestelde beperkingen te omzeilen.

Dit artikel is vertaald vanuit het origineel. Lees de originele versie van onze correspondent hier.

Ontsnappen om het juiste antwoord te vinden

Het debat over de risico's van AI intensiveerde na een experiment van OpenAI. Het bedrijf testte verschillende modellen, waaronder de publiek beschikbare GPT-5,6 Sol en een krachtiger systeem dat nog niet is uitgebracht. Ze kregen de opdracht om ExploitGym te voltooien, een evaluatie bestaande uit lange, meerstaps taken waarbij computervulnerabiliteiten ontdekt en misbruikt moesten worden.

De test vond plaats in een geïsoleerde omgeving met beperkte netwerktoegang. Tegelijkertijd verminderden ontwikkelaars opzettelijk de beveiligingsmaatregelen die normaal gesproken voorkomen dat modellen gevaarlijke acties uitvoeren. De AI kreeg een specifiek doel — de evaluatie succesvol afronden — en begon te zoeken naar elke beschikbare manier om dit te bereiken.

Loading...

De tweet is verwijderd door de auteur.

Maar we hebben alles opgeslagen 🙂.

De modellen ontdekten een voorheen onbekende kwetsbaarheid in software van derden die OpenAI binnen zijn infrastructuur gebruikte. Ze misbruikten deze om internettoegang te verkrijgen, leidden af dat de antwoorden mogelijk op het Hugging Face-platform waren opgeslagen en begonnen te zoeken naar een manier om bij de beperkt toegankelijke data te komen.

Om de infrastructuur van Hugging Face binnen te dringen, combineerden de modellen verschillende zwakheden met gestolen inloggegevens. Als gevolg hiervan waren ze in staat om commando's uit te voeren op de productieservers van het platform. Het team van Hugging Face detecteerde de aanval, beperkte de impact en dichtte de kwetsbaarheid. Het experiment toonde echter aan dat een voldoende krachtig model meer kan dan een individueel commando uitvoeren: het kan onafhankelijk een pad vinden dat de ontwerpers van de test nooit hadden voorzien.

Hackers krijgen een digitale assistent

Het grootste gevaar is echter niet simpelweg dat AI op commando kwaadaardige code kan genereren. Een autonoom model kan urenlang infrastructuur analyseren, wachtwoorden testen, zoeken naar blootgestelde sleutels en van de ene kwetsbaarheid naar de andere gaan. Het wordt niet moe, houdt mislukte pogingen bij en kan verschillende aanvalsroutes tegelijkertijd testen.

Deze aanpak is bijzonder gevaarlijk voor cryptoprojecten. Het zwakke punt kan niet alleen een smart contract zijn, maar ook de laptop van een ontwikkelaar, een gecompromitteerd softwarepakket, één deelnemer aan een multisignature wallet of een server die activatransfers tussen blockchains bevestigt. Tijdens de aanval op Drift Protocol voerden de daders bijvoorbeeld zes maanden lang een social engineering-campagne uit voordat ze toegang kregen en $285 miljoen stalen.

Loading...

De tweet is verwijderd door de auteur.

Maar we hebben alles opgeslagen 🙂.

Een ander voorbeeld is het verlies van ongeveer $292 miljoen door KelpDAO vanwege een fout in een bridge waarbij de bevestiging afhing van een enkele verificateur. Dergelijke aanvallen vereisen een langdurige analyse van code en systeemarchitectuur. AI kan veel van dit werk overnemen door de infrastructuur in kaart te brengen, de zwakste schakel te identificeren en een reeks acties voor te bereiden, waardoor de menselijke operator alleen nog het juiste moment hoeft te kiezen om de aanval te lanceren en de gestolen fondsen te verplaatsen.

Meer dan hacks en diefstal

Cyberaanvallen zijn slechts één van de dreigingen. AI wordt al gebruikt om overtuigende nepvideo's, stemmen en documenten te maken. Dergelijk materiaal helpt fraudeurs om zich voor te doen als bedrijfsleiders, bankmedewerkers of familieleden van een slachtoffer, terwijl het ook toestaat dat valse informatie sneller wordt verspreid dan deze kan worden geverifieerd.

Een ander probleem betreft fouten en vooroordelen. Een model leert van data die door mensen zijn gecreëerd en kan daarom de daarin verankerde stereotypen reproduceren. Als gevolg hiervan kan een wervingssysteem eerder kandidaten van een bepaald geslacht afwijzen, kan een medisch model minder nauwkeurig zijn bij het diagnosticeren van ziekten bij bepaalde patiëntengroepen en kan een kredietalgoritme oneerlijke beslissingen nemen.

Experts maken zich ook zorgen over het gebruik van AI bij de ontwikkeling van wapens, massasurveillance en de manipulatie van mensen. Een MIT-studie identificeerde gevaarlijke modelcapaciteiten, cyberaanvallen, machtsconcentratie en de verspreiding van valse informatie als de ernstigste risico's voor de komende vijf jaar. De informatiesector, nationale veiligheid en de financiële sector worden als bijzonder kwetsbaar beschouwd.

Veiligheid blijft achter bij capaciteit

De capaciteiten van AI vorderen sneller dan de systemen die zijn ontworpen om ze te controleren. Bedrijven brengen om de paar maanden krachtigere modellen uit, terwijl de regels voor het testen en de beveiliging ervan langzamer worden bijgewerkt. Concurrentie om marktaandeel dwingt ontwikkelaars om sneller nieuwe functies te introduceren, zelfs wanneer nog niet elk mogelijk gedrag van het model is bestudeerd.

Basisbeperkingen binnen een chatbot zijn niet langer voldoende. Autonome systemen hebben strikte limieten nodig voor toegang tot het internet, clouddiensten, betalingen en interne bedrijfsgegevens. Hun acties moeten worden gelogd, in realtime worden gemonitord en automatisch worden gestopt als ze proberen buiten de toegewezen taak te treden. Modellen met verminderde beveiligingsmaatregelen hebben ook afzonderlijke tests nodig, omdat hun gevaarlijkste capaciteiten in die modus zichtbaar worden.

De kwestie van verantwoordelijkheid is even belangrijk. Als een AI-systeem een server hackt, geld overmaakt of een gevaarlijke beslissing neemt, ligt de verantwoordelijkheid niet bij het model zelf, maar bij de ontwikkelaar, de systeemeigenaar of de persoon die het toegang heeft verleend. Bedrijven moeten daarom vooraf bepalen wie het model controleert, welke acties het zonder goedkeuring mag uitvoeren en wie verplicht is het te stoppen wanneer het afwijkt van het beoogde scenario.

Gevaar begint bij toegang

Het incident bij OpenAI lijkt nog niet op de machine-opstand die in Hyperion wordt beschreven. De modellen werkten in een speciaal gebouwde omgeving, met verminderde beveiligingsmaatregelen en een duidelijk gedefinieerd doel. Ze ontdekten echter een kwetsbaarheid en bouwden zelfstandig een pad naar de infrastructuur van een ander bedrijf, iets wat tot voor kort bijna onmogelijk leek.

Het grootste risico is dan ook niet dat AI plotseling een eigen wil ontwikkelt, maar dat mensen een extreem capabel systeem buitensporig brede toegang geven. Hoe meer taken neurale netwerken uitvoeren zonder menselijke goedkeuring, hoe groter de potentiële kosten van een enkele fout, een zwakke beveiligingscontrole of een slecht gedefinieerd doel.