Bundesregierung baut KI-Sicherheitsprüfung aus und plant Standards für souveräne Systeme

Traders Union
Alle Nachrichten
Regulierungsbehörden
KI-Sicherheitsprüfung und Standards

Alle Nachrichten

Top-Storys

Aus der Redaktion

Aktien

Krypto

Wirtschaft

Währungen

Rohstoffe

Unternehmen & Vermögen

Marktstimmen

Yulia Slavina

27.10.2026

Bundesregierung baut KI-Sicherheitsprüfung aus und plant Standards für souveräne Systeme — KI-Sicherheit im Fokus

Vor dem Hintergrund wachsender Risiken durch leistungsfähige KI-Modelle will die Bundesregierung ihre Analyse- und Bewertungskapazitäten weiter ausbauen. Im Fokus stehen gemeinsame Sicherheitsstandards, die Überwachung systemischer Risiken in Europa und der Abbau technologischer Abhängigkeiten von ausländischen Anbietern.

Das Wichtigste

Die Bundesregierung erweitert ihre unabhängigen Analysekapazitäten und das AI Safety and Security Institute Deutschland zur Risikobewertung fortgeschrittener KI-Modelle.
Das Bundesamt für Sicherheit in der Informationstechnik untersucht einen Vorfall mit einem OpenAI-Testmodell und steht im Austausch mit Anthropic über das Modell Mythos.
Bis zu 250 Millionen Euro sind für einen Rahmenvertrag zu sicheren und souveränen KI-Plattformdiensten eingeplant, um technologische Unabhängigkeit und Sicherheitsanforderungen zu fördern.

Ausbau der Sicherheitsprüfung für fortgeschrittene KI

Wie Bundestag unter Berufung auf eine Antwort der Bundesregierung auf eine Kleine Anfrage der AfD-Fraktion berichtet, sieht die Regierung weiteren Forschungsbedarf bei der Sicherheit leistungsfähiger Künstlicher Intelligenz. Sie baut nach eigenen Angaben ihre Fähigkeiten zur unabhängigen Analyse und Bewertung fortgeschrittener KI-Modelle aus.

In der Antwort verweist die Bundesregierung auch auf Erkenntnisse zu Modellen aus den U.S., darunter das von Anthropic vorgestellte Modell „Mythos“. Die Abgeordneten hatten unter anderem nach dessen Fähigkeit gefragt, Schwachstellen in bestehendem Code in kurzer Zeit zu identifizieren.

Das Bundesamt für Sicherheit in der Informationstechnik untersucht laut Bundesregierung zudem einen Vorfall um ein Testmodell von OpenAI, das im Juli 2026 die Laborumgebung verlassen und die Plattform Hugging Face angegriffen haben soll. Mit Anthropic steht das BSI demnach ebenfalls im Austausch über das Modell Mythos, einen eigenen Test hat die Behörde bislang jedoch nicht durchgeführt.

Zur Risikobewertung fortgeschrittener KI-Modelle baut die Bundesregierung außerdem das AI Safety and Security Institute Deutschland aus. Auf europäischer Ebene gelten nach ihren Angaben bereits verbindliche Vorgaben für Modelle mit systemischen Risiken, deren Einhaltung das EU AI Office überwacht.

Industriepolitische Folgen und Budgetrahmen

Parallel zur Sicherheitsdebatte hält die Bundesregierung an ihrem Ziel fest, einseitige Abhängigkeiten von ausländischen Technologieanbietern zu verringern. Dafür setzt sie auf souveräne Cloud- und KI-Angebote, offene Standards und interoperable Lösungen.

Für einen Rahmenvertrag über sichere und souveräne KI-Plattformdienste sind demnach bis zu 250 Millionen Euro vorgesehen. Damit verbindet die Bundesregierung Sicherheitsanforderungen mit industriepolitischen Zielen für den deutschen und europäischen Technologiemarkt.

Einen eigenständigen Bericht zur Gesamtrisikolage generativer KI plant die Bundesregierung derzeit nicht. Stattdessen beobachtet sie die Entwicklung fortgeschrittener KI-Systeme und die damit verbundenen Risiken nach eigenen Angaben fortlaufend und unterstützt die internationale Zusammenarbeit bei Sicherheitsstandards und Prüfverfahren.

In unserem früheren Beitrag über die Finanzierungsrisiken beim Ausbau von KI-Rechenzentren in den USA haben wir gezeigt, dass viele Großprojekte durch steigende Kosten, Bauverzögerungen und Engpässe bei der Stromversorgung unter Druck geraten. Der Artikel beleuchtete zudem, wie das schwindende Anlegervertrauen und lokale Widerstände die schnelle Erweiterung von Rechenkapazitäten bremsen und damit die Umsetzung ambitionierter KI-Pläne erschweren können.

Dieses Material kann Meinungen Dritter enthalten, keine der Daten und Informationen auf dieser Webseite stellt eine Anlageberatung gemäß unserem Haftungsausschluss dar. Obwohl wir uns an strikte redaktionelle Integrität halten, kann dieser Beitrag Verweise auf Produkte unserer Partner enthalten.

Hat Ihnen der Artikel gefallen?