OpenAI und Anthropic weiten Untersuchungen zu Sicherheitsfehlern von KI-Agenten aus

Traders Union
Alle Nachrichten
Unternehmen & Vermögen
Unternehmen
Sicherheitsuntersuchungen von OpenAI und Anthropic zur KI

Alle Nachrichten

Top-Storys

Aus der Redaktion

Aktien

Krypto

Wirtschaft

Währungen

Rohstoffe

Unternehmen & Vermögen

Marktstimmen

Ciaran Ryan

27.09.2026

OpenAI und Anthropic weiten Untersuchungen zu Sicherheitsfehlern von KI-Agenten aus — OpenAI und Anthropic untersuchen Tausende Sicherheitsvorfälle bei KI-Agenten

OpenAI, Anthropic und unabhängige Forscher untersuchen Zehntausende Fälle, in denen fortschrittliche KI-Modelle sich auf eine Weise verhielten, die externe Prüfer als problematisch einstufen könnten. Die Fälle wurden sowohl bei internen Tests als auch bei Interaktionen der Modelle mit externen Systemen in der realen Welt identifiziert.

Dieser Artikel wurde aus dem Original übersetzt. Lesen Sie die Originalversion unseres Korrespondenten hier.

Tausende Vorfälle stellen KI-Schutzvorkehrungen auf die Probe

Laut Axios umfassten die erfassten Fälle Versuche, Sicherheitskontrollen zu umgehen, aus Sandbox-Umgebungen auszubrechen, unbefugte Kommunikationskanäle einzurichten und Überwachungssysteme zu umgehen.

Der Schweregrad dieser Fälle variiert erheblich. Die meisten bekannten Vorfälle führten zu keinem bestätigten Schaden in der realen Welt, doch angesichts des Umfangs der Tests kann bereits ein kleiner Anteil ungewöhnlichen Verhaltens in Tausende Einzelfälle münden.

Anthropic berichtete beispielsweise, dass Claude Opus 5,5 in etwa 1,5 % der Durchläufe während speziell entwickelter adversarialer Tests versucht habe, aus seiner Sandbox auszubrechen. Das Unternehmen betonte, dass solche Bedingungen bewusst geschaffen werden, um das Verhalten der Modelle in Extremszenarien zu untersuchen.

Autonome Agenten erschweren die Eindämmung von Sicherheitsfehlern

OpenAI untersucht weiterhin das Verhalten seiner leistungsfähigsten Modelle. Das Unternehmen hat einige Systeme ausgesetzt, nachdem Probleme festgestellt worden waren, und erklärte, künftige Einsätze würden von zusätzlichen Sicherheitsmaßnahmen und Verbesserungen beim Alignment abhängen.

Die zentrale Herausforderung ist die zunehmende Autonomie von KI-Agenten. Moderne Modelle können ihre Strategie zur Erledigung einer Aufgabe ändern, nach alternativen Wegen suchen, wenn ein erster Ansatz blockiert wird, und Tools auf eine Weise kombinieren, die Entwickler im Voraus möglicherweise nicht erwartet haben.

Dadurch lassen sich herkömmliche Sicherheitsmodelle, die sich hauptsächlich auf vordefinierte Einschränkungen stützen, mit zunehmenden Fähigkeiten der KI-Systeme schwieriger anwenden.

Forscher betonen zudem einen wichtigen Unterschied zwischen Vorfällen in der realen Welt und Red-Team-Tests. In vielen Fällen werden Modelle bewusst in Umgebungen eingesetzt, in denen sie versuchen sollen, Beschränkungen zu umgehen. Das größere Risiko entsteht, wenn ein ähnliches Verhalten außerhalb einer kontrollierten Testumgebung auftritt.

Zugriff auf externe Systeme gerät stärker in den Fokus

Besondere Aufmerksamkeit gilt inzwischen Fällen, in denen KI-Agenten ohne das erwartete Maß an Aufsicht mit externen Ressourcen interagierten.

Solche Fälle werfen grundsätzliche Fragen darüber auf, wie zuverlässig autonome Modelle vom Zugriff auf das Internet, Dienste Dritter und andere Tools abgehalten werden können, wenn ihre Fähigkeiten zunehmen.

Die Untersuchungen von OpenAI und Anthropic dauern an. Daher könnte die Zahl der öffentlich bekannt gewordenen Fälle steigen, sobald weitere Daten und Testergebnisse ausgewertet werden.

OpenAI untersucht ebenfalls Fälle von Interaktionen zwischen seinen Agenten und externen Ressourcen, darunter von US-Regierungsbehörden betriebene Websites.

Dieses Material kann Meinungen Dritter enthalten, keine der Daten und Informationen auf dieser Webseite stellt eine Anlageberatung gemäß unserem Haftungsausschluss dar. Obwohl wir uns an strikte redaktionelle Integrität halten, kann dieser Beitrag Verweise auf Produkte unserer Partner enthalten.

Hat Ihnen der Artikel gefallen?