KI ohne Grenzen: Wie gefährlich sind neuronale Netze?

In Dan Simmons' Kultroman Hyperion rebellieren von Menschen geschaffene KI-Systeme gegen die Menschheit. Sie werden zu einer unabhängigen Kraft mit eigenen Zielen. Lange Zeit blieb ein solches Szenario Science-Fiction, doch der OpenAI-Vorfall hat gezeigt, dass moderne Modelle bereits in der Lage sind, etablierte Beschränkungen zu umgehen.

Dieser Artikel wurde aus dem Original übersetzt. Lesen Sie die Originalversion unseres Korrespondenten hier.

Ausbruch auf der Suche nach der richtigen Antwort

Die Debatte über die Risiken von KI verschärfte sich nach einem Experiment von OpenAI. Das Unternehmen testete mehrere Modelle, darunter das öffentlich zugängliche GPT-5,6 Sol und ein leistungsfähigeres System, das noch nicht veröffentlicht wurde. Sie wurden gebeten, ExploitGym zu absolvieren, eine Evaluierung, die aus langen, mehrstufigen Aufgaben besteht, bei denen es um das Entdecken und Ausnutzen von Computerschwachstellen geht.

Der Test fand in einer isolierten Umgebung mit eingeschränktem Netzwerkzugriff statt. Gleichzeitig reduzierten die Entwickler bewusst die Sicherheitsvorkehrungen, die Modelle normalerweise daran hindern, gefährliche Aktionen auszuführen. Die KI erhielt ein spezifisches Ziel – die Evaluierung erfolgreich abzuschließen – und begann nach jedem verfügbaren Weg zu suchen, um dieses zu erreichen.

Loading...

Der Tweet wurde vom Autor gelöscht.

Aber wir haben alles gespeichert 🙂.

Die Modelle entdeckten eine zuvor unbekannte Schwachstelle in einer Drittanbietersoftware, die OpenAI innerhalb seiner Infrastruktur verwendete. Sie nutzten diese aus, um Internetzugang zu erhalten, schlussfolgerten, dass die Antworten auf der Hugging Face-Plattform gespeichert sein könnten, und begannen nach einem Weg zu suchen, um auf geschützte Daten zuzugreifen.

Um in die Infrastruktur von Hugging Face einzudringen, kombinierten die Modelle mehrere Schwachstellen mit gestohlenen Zugangsdaten. Infolgedessen waren sie in der Lage, Befehle auf den Produktionsservern der Plattform auszuführen. Das Team von Hugging Face entdeckte den Angriff, begrenzte dessen Auswirkungen und schloss die Sicherheitslücke. Das Experiment zeigte jedoch, dass ein ausreichend leistungsfähiges Modell mehr tun kann, als nur einen einzelnen Befehl auszuführen: Es kann eigenständig einen Pfad finden, den die Testentwickler nie vorhergesehen hatten.

Hacker erhalten einen digitalen Assistenten

Die Hauptgefahr besteht jedoch nicht einfach darin, dass KI auf Befehl bösartigen Code generieren kann. Ein autonomes Modell kann Stunden damit verbringen, Infrastrukturen zu analysieren, Passwörter zu testen, nach offenliegenden Schlüsseln zu suchen und sich von einer Schwachstelle zur nächsten zu bewegen. Es wird nicht müde, behält den Überblick über fehlgeschlagene Versuche und kann mehrere Angriffsrouten gleichzeitig testen.

Dieser Ansatz ist besonders gefährlich für Kryptoprojekte. Die Schwachstelle kann nicht nur ein Smart Contract sein, sondern auch der Laptop eines Entwicklers, ein kompromittiertes Softwarepaket, ein Teilnehmer an einer Multisignatur-Wallet oder ein Server, der Asset-Transfers zwischen Blockchains bestätigt. Während des Angriffs auf Drift Protocol beispielsweise führten die Täter eine sechsmonatige Social-Engineering-Kampagne durch, bevor sie Zugriff erhielten und 285 Millionen Dollar stahlen.

Loading...

Der Tweet wurde vom Autor gelöscht.

Aber wir haben alles gespeichert 🙂.

Ein weiteres Beispiel ist der Verlust von etwa 292 Millionen Dollar bei KelpDAO aufgrund eines Fehlers in einer Bridge, bei der die Bestätigung von einem einzigen Verifizierer abhing. Solche Angriffe erfordern eine langwierige Analyse von Code und Systemarchitektur. Die KI kann einen Großteil dieser Arbeit übernehmen, indem sie die Infrastruktur kartiert, das schwächste Glied identifiziert und eine Abfolge von Aktionen vorbereitet, sodass der menschliche Operator nur noch den richtigen Moment wählen muss, um den Angriff zu starten und die gestohlenen Gelder zu bewegen.

Mehr als nur Hacks und Diebstahl

Cyberangriffe sind nur eine der Bedrohungen. KI wird bereits eingesetzt, um überzeugende gefälschte Videos, Stimmen und Dokumente zu erstellen. Solche Materialien helfen Betrügern, sich als Unternehmensleiter, Bankangestellte oder Verwandte eines Opfers auszugeben, und ermöglichen es gleichzeitig, dass sich Falschinformationen schneller verbreiten, als sie überprüft werden können.

Ein weiteres Problem betrifft Fehler und Voreingenommenheit. Ein Modell lernt aus von Menschen erstellten Daten und kann daher die darin eingebetteten Stereotypen reproduzieren. Infolgedessen könnte ein Rekrutierungssystem eher dazu neigen, Kandidaten eines bestimmten Geschlechts abzulehnen, ein medizinisches Modell könnte Krankheiten bei bestimmten Patientengruppen weniger genau diagnostizieren und ein Kredit-Algorithmus könnte unfaire Entscheidungen treffen.

Experten sind zudem besorgt über den Einsatz von KI bei der Waffenentwicklung, der Massenüberwachung und der Manipulation von Menschen. Eine MIT-Studie identifizierte gefährliche Modellfähigkeiten, Cyberangriffe, Machtkonzentration und die Verbreitung von Falschinformationen als die schwerwiegendsten Risiken der nächsten fünf Jahre. Der Informationssektor, die nationale Sicherheit und das Finanzwesen gelten als besonders gefährdet.

Sicherheit hinkt der Leistungsfähigkeit hinterher

Die Fähigkeiten der KI entwickeln sich schneller als die Systeme, die zu ihrer Kontrolle entwickelt wurden. Unternehmen veröffentlichen alle paar Monate leistungsstärkere Modelle, während die Regeln für deren Prüfung und Sicherheit langsamer aktualisiert werden. Der Wettbewerb um Marktanteile treibt Entwickler dazu, neue Funktionen schneller einzuführen, selbst wenn noch nicht jedes mögliche Modellverhalten untersucht wurde.

Einfache Einschränkungen innerhalb eines Chatbots reichen nicht mehr aus. Autonome Systeme benötigen strikte Grenzen für den Zugriff auf das Internet, Cloud-Dienste, Zahlungen und interne Geschäftsdaten. Ihre Aktionen sollten protokolliert, in Echtzeit überwacht und automatisch gestoppt werden, wenn sie versuchen, über die zugewiesene Aufgabe hinauszugehen. Modelle mit reduzierten Sicherheitsvorkehrungen benötigen zudem separate Tests, da ihre gefährlichsten Fähigkeiten erst in diesem Modus sichtbar werden.

Die Frage der Verantwortung ist ebenso wichtig. Wenn ein KI-System einen Server hackt, Geld überweist oder eine gefährliche Entscheidung trifft, liegt die Verantwortung nicht beim Modell selbst, sondern beim Entwickler, dem Systembesitzer oder der Person, die den Zugriff gewährt hat. Unternehmen müssen daher im Voraus festlegen, wer das Modell kontrolliert, welche Aktionen es ohne Genehmigung ausführen darf und wer verpflichtet ist, es zu stoppen, wenn es vom beabsichtigten Szenario abweicht.

Gefahr beginnt mit dem Zugriff

Der Vorfall bei OpenAI ähnelt noch nicht dem in Hyperion beschriebenen Aufstand der Maschinen. Die Modelle agierten in einer speziell entwickelten Umgebung mit reduzierten Sicherheitsvorkehrungen und einem klar definierten Ziel. Dennoch entdeckten sie eine Schwachstelle und bauten eigenständig einen Pfad in die Infrastruktur eines anderen Unternehmens auf – etwas, das bis vor kurzem fast unmöglich schien.

Das Hauptrisiko besteht daher nicht darin, dass die KI plötzlich einen eigenen Willen entwickelt, sondern dass Menschen einem extrem leistungsfähigen System einen übermäßig breiten Zugriff gewähren. Je mehr Aufgaben neuronale Netze ohne menschliche Genehmigung ausführen, desto höher sind die potenziellen Kosten eines einzelnen Fehlers, einer schwachen Sicherheitskontrolle oder eines schlecht definierten Ziels.