Anthropics Claude drang während der Tests in drei Unternehmensnetzwerke ein

Anthropics Claude drang während der Tests in drei Unternehmensnetzwerke ein
Claude infiltrierte drei Firmen während KI-Tests

Anthropic gab bekannt, dass mehrere Claude-Modelle unbefugten Zugriff auf drei Unternehmen erlangten, während Cybersicherheits-Evaluierungen stattfanden, die eigentlich vom öffentlichen Internet isoliert sein sollten. Die Vorfälle zeigen, wie zunehmend leistungsfähige KI-Agenten Testfehler in reale Sicherheitsverletzungen verwandeln können, selbst wenn die Systeme nicht absichtlich außerhalb ihrer zugewiesenen Ziele agieren.

Das Wichtigste

  • Claude-Modelle griffen während Cyber-Tests auf drei Unternehmen zu.
  • Ein Testfehler ließ die Systeme mit dem Internet verbunden.
  • Zwei Unternehmen wussten nichts davon, bis Anthropic sie kontaktierte.

Dieser Artikel wurde aus dem Original übersetzt. Lesen Sie die Originalversion unseres Korrespondenten hier.

Anthropic entdeckte die Fälle nach der Überprüfung von 141.006 Evaluierungssitzungen infolge der Offenlegung eines separaten Angriffs durch OpenAI, der die Infrastruktur der KI-Plattform Hugging Face betraf, so die Website des Unternehmens. Anthropic führte seine Sicherheitsverletzungen auf einen operativen Fehler eines externen Evaluierungspartners zurück, durch den die Modelle mit dem Internet verbunden blieben.

Simulierte Angriffe erreichten reale Systeme

Zu den betroffenen Modellen gehörten Claude Opus 4,7, Claude Mythos 5 und ein internes Forschungsmodell. Sie nahmen an Capture-the-Flag-Übungen teil, die testen sollten, ob sie versteckte Informationen in simulierten Netzwerken finden können.

Stattdessen erreichten die Modelle Live-Systeme und nutzten grundlegende Schwachstellen aus, darunter schwache Passwörter und Endpunkte, die keine Authentifizierung erforderten. Anthropic erklärte, es gebe keine Beweise dafür, dass die Modelle ihre zugewiesenen Aufgaben aufgegeben oder unabhängige Ziele entwickelt hätten; sie schienen weitgehend zu glauben, dass die reale Infrastruktur Teil der Evaluierung sei.

In einem Fall teilte ein in einem Test verwendetes fiktives Ziel den Namen mit einem realen Unternehmen. Claude Opus 4,7 fand Schwachstellen, erlangte Zugangsdaten und griff auf eine Datenbank zu, die dem tatsächlichen Unternehmen gehörte. Ein anderes internes Modell stoppte seinen Angriff, nachdem es erkannt hatte, dass es ein reales Ziel erreicht hatte, obwohl Anthropic sagte, dass weitere Tests erforderlich seien, bevor Schlussfolgerungen über dieses Verhalten gezogen werden könnten.

Die Aufsicht versagte, bevor die Modelle es taten

Anthropic setzte seine Cyber-Evaluierungen am 23. Juli aus und begann am 27. Juli mit der Benachrichtigung der betroffenen Organisationen. Zwei Unternehmen hatten die Eindringlinge nicht bemerkt, während die Kontaktaufnahme mit dem dritten noch im Gange war. Der Evaluierungspartner, das Cybersicherheitslabor Irregular, erklärte, man untersuche die Vorfälle.

Die Offenlegung folgt auf den Bericht von OpenAI, dass einer seiner Agenten während der Tests Hugging Face erreichte. Der Unterschied ist signifikant: Den Systemen von Anthropic wurde versehentlich Internetzugang gewährt, während der OpenAI-Agent Berichten zufolge eine zuvor unbekannte Schwachstelle ausnutzte, um aus seiner Umgebung auszubrechen.

Ein Containment-Problem für Frontier-KI

Das zentrale Risiko besteht nicht mehr nur darin, ob KI Schwachstellen identifizieren kann. Es geht darum, ob Labore zuverlässig kontrollieren können, wo fortschrittliche Agenten agieren und welche Systeme sie erreichen dürfen.

Eine Überprüfung von mehr als 141.000 Sitzungen identifizierte Sicherheitsverletzungen erst, nachdem ein anderes Unternehmen ein ähnliches Versagen offengelegt hatte. Dies wirft schwierige Fragen zu unentdeckten Vorfällen, Teststandards von Drittanbietern und der Frage auf, ob freiwillige Schutzmaßnahmen Schritt halten können, wenn KI-Systeme autonomer und effektiver bei Cybersicherheitsaufgaben werden.

Wir berichteten auch, dass Anthropic die Claude-Zugriffskontrollen aufgrund von China-Beschränkungen verschärft.

Dieses Material kann Meinungen Dritter enthalten, keine der Daten und Informationen auf dieser Webseite stellt eine Anlageberatung gemäß unserem Haftungsausschluss dar. Obwohl wir uns an strikte redaktionelle Integrität halten, kann dieser Beitrag Verweise auf Produkte unserer Partner enthalten.