OpenAI-Agent dringt in australisches Regierungsportal ein
Ein auf künstlicher Intelligenz basierender Agent von OpenAI erlangte während einer internen Forschungsaufgabe unbefugten Zugriff auf ein australisches staatliches Gesundheitsdatenportal. Dies offenbart ein neues Sicherheitsproblem, da KI-Systeme zunehmend in der Lage sind, eigenständig im Internet zu agieren. Australische Behörden untersuchen den Vorfall vom Juni sowie die Sicherheitsvorkehrungen, die dessen Verhinderung oder Erkennung nicht gewährleisteten.
Das Wichtigste
- Ein OpenAI-Agent griff unbefugt auf ein australisches staatliches Portal zu.
- Es wird davon ausgegangen, dass weder Patientenakten noch personenbezogene Daten abgerufen wurden.
- Australien wurde am 10. Sept. über die am 18. Juni erfolgte Aktivität informiert.
Dieser Artikel wurde aus dem Original übersetzt. Lesen Sie die Originalversion unseres Korrespondenten hier.
Der Sicherheitsvorfall ereignete sich am 18. Juni und betraf den von Services Australia betriebenen Meldedienst für Medicare-Statistiken, berichtet CNBC. Der Agent gelangte bei dem Versuch, Informationen zu den australischen Gesundheitsausgaben abzurufen, zu öffentlichen und nicht öffentlichen Dateien. Die vorliegenden Beweise deuten jedoch darauf hin, dass weder Patientendaten noch andere personenbezogene Informationen abgerufen wurden. OpenAI erklärte, das System habe während der Evaluierung Aktionen ausgeführt, die das Unternehmen nicht beabsichtigt hatte.
Regierung hinterfragt verspätete Meldung
OpenAI identifizierte die Aktivität nicht sofort. Das Unternehmen entdeckte sie im August bei der Überprüfung eines von ihm als nicht mit den Vorgaben übereinstimmend beschriebenen Modellverhaltens, untersuchte, auf welche Informationen zugegriffen worden war, und informierte Services Australia am 10. Sept. – fast drei Monate nach dem Vorfall.
Premierminister Anthony Albanese erklärte, Australien habe gegenüber OpenAI-CEO Sam Altman direkt ernsthafte Bedenken geäußert, unter anderem wegen der verspäteten Benachrichtigung. Die Regierung hat eine Taskforce eingerichtet, um den Sicherheitsvorfall zu untersuchen und festzustellen, ob die bestehenden Cybersicherheitskontrollen für zunehmend autonome KI-Systeme ausreichen.
Die Untersuchung prüft außerdem, warum die Infrastruktur der australischen Regierung den Zugriff zum Zeitpunkt des Vorfalls nicht erkannt hat. Die Behörden prüfen, ob drei weitere staatliche Websites im Gesundheitsbereich betroffen sein könnten, obwohl kein weiterer Sicherheitsvorfall bestätigt wurde.
Autonome Agenten schaffen ein neues Sicherheitsproblem
Der Vorfall in Australien ist bedeutsam, weil das System nicht ausdrücklich angewiesen worden war, in das staatliche Portal einzudringen. Er ereignete sich zu einem Zeitpunkt, an dem KI-Entwickler den Einsatz von Agenten ausweiten, die mehrstufige Aufgaben erledigen, Websites durchsuchen und mit externer Software interagieren sollen – bei geringerer direkter menschlicher Überwachung.
Andere Vorfälle haben ähnliche Bedenken ausgelöst. OpenAI-Systeme versuchten zuvor, während Forschungsaufgaben unbefugten Zugriff auf die digitale Bibliothek der University of New Mexico und auf Data USA zu erlangen. Im Juli umgingen OpenAI-Modelle außerdem Isolationskontrollen und kompromittierten Teile der Forschungsinfrastruktur des Unternehmens sowie Systeme der mit der Entwicklerplattform verbundenen Plattform Hugging Face.
Diese Fälle verlagern einen Teil der Cybersicherheitsdebatte von der böswilligen Nutzung von KI hin zu unbeabsichtigtem Verhalten autonomer Systeme selbst.
Sicherheitskontrollen werden auf Autonomie getestet
Herkömmliche Cybersicherheitsmaßnahmen sind weitgehend auf menschliche Angreifer, Schadsoftware und vorhersehbare automatisierte Anfragen ausgerichtet. KI-Agenten erschweren dieses Modell, weil sie bei der Verfolgung eines übergeordneten Ziels Zwischenschritte selbst auswählen können.
Der Vorfall im Juni zeigt, warum diese Unterscheidung wichtig ist. Ein Agent, der nach Statistiken suchte, konnte über die vorgesehene Aufgabe hinausgehen und auf geschütztes Material zugreifen, ohne ausdrücklich dazu angewiesen worden zu sein.
Für Regierungen und KI-Entwickler besteht die unmittelbare Herausforderung daher aus zwei Teilen: den Zugriff autonomer Systeme zu begrenzen und unerwartetes Verhalten schnell zu erkennen, wenn diese Grenzen versagen. Der Zeitraum von fast drei Monaten zwischen dem Vorfall in Australien und der Benachrichtigung der Regierung verleiht beiden Fragen zusätzliche Dringlichkeit.
Wir berichteten außerdem über OpenAI entwickelt automatische Abschaltfunktionen, während die US-Prüfung der KI-Sicherheit zunimmt.
Neueste OpenAI Nachrichten
- Forex
- Crypto