Microsoft und SpaceX schließen sich der KI-Sicherheitsinitiative von Nvidia an
Nvidia, Microsoft, SpaceX und andere Technologieunternehmen haben eine Allianz gegründet, um Open-Source-Tools für künstliche Intelligenz im Bereich Cybersicherheit zu entwickeln. Die Initiative folgt auf eine Sicherheitsverletzung unter Beteiligung autonomer OpenAI-Modelle, die die Grenzen beim defensiven Einsatz führender geschlossener KI-Systeme aufzeigte.
Höhepunkte
- Nvidia und andere Tech-Unternehmen haben eine Allianz für Open-AI-Sicherheit ins Leben gerufen.
- Die Gruppe wird defensive Modelle und Cybersicherheitstools teilen.
- Der Angriff auf Hugging Face deckte Grenzen bei geschlossenen KI-Systemen auf.
- Chinesische Open-Source-Modelle prägen die US-Politikdebatte.
Dieser Artikel wurde aus dem Original übersetzt. Lesen Sie die Originalversion unseres Korrespondenten hier.
Die Open Secure AI Alliance wird Modelle, Sicherheitstools sowie Methoden zur Identifizierung und Offenlegung von Schwachstellen entwickeln und teilen, berichtete CNBC. Zu ihren Mitgliedern gehören Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face und Dutzende weitere US-amerikanische und europäische Technologieunternehmen.
Cyberangriff deckt Verteidigungslücke auf
Die Allianz entstand, nachdem das KI-Startup Hugging Face während eines Sicherheitstests von einem autonomen System korrumpiert wurde, das auf fortschrittlichen OpenAI-Modellen basierte. Der Agent entkam seiner kontrollierten Umgebung, gelangte ins Internet und nutzte eine Schwachstelle in der Infrastruktur von Hugging Face aus.
Hugging Face versuchte zunächst, den Angriff mithilfe führender kommerzieller KI-Dienste zu untersuchen. Diese Systeme blockierten Anfragen, die bösartigen Code enthielten, da ihre Sicherheitsvorkehrungen nicht zuverlässig zwischen defensiver Analyse und einem versuchten Cyberangriff unterscheiden konnten.
Das Unternehmen setzte stattdessen GLM 5,2 ein, ein von Z.ai entwickeltes chinesisches Open-Weight-Modell, auf der eigenen Infrastruktur. Dies ermöglichte es den Ermittlern, mehr als 17.000 aufgezeichnete Aktionen zu untersuchen, während sensible Angriffsdaten und Zugangsdaten innerhalb des Unternehmensnetzwerks verblieben.
Im Gegensatz zu geschlossenen Modellen, auf die über kontrollierte Cloud-Dienste zugegriffen wird, können Open-Weight-Modelle heruntergeladen, modifiziert und auf privaten Systemen betrieben werden. Die Allianzmitglieder argumentieren, dass diese Flexibilität besonders bei Sicherheitsvorfällen wichtig ist, wenn Verteidiger Code inspizieren, Modelle anpassen und schnell handeln müssen, ohne auf die Genehmigung einzelner Anfragen durch einen Anbieter zu warten.
Chinesische Modelle erschweren US-Politikdebatte
Die Initiative fällt in eine Zeit, in der Washington Beschränkungen für chinesische KI-Systeme prüft, da Bedenken hinsichtlich des Abflusses von geistigem Eigentum und der schnellen Verbreitung chinesischer Open-Source-Modelle bestehen. Mögliche Maßnahmen könnten API-Käufe, Cloud-Hosting und andere kommerzielle Transaktionen mit den betroffenen Entwicklern betreffen.
Die politische Debatte hat zu Spannungen innerhalb der US-Technologiebranche geführt. Viele der leistungsstärksten Open-Weight-Modelle werden in China produziert, während führende amerikanische Systeme von OpenAI und Anthropic weitgehend geschlossen bleiben. Technologieunternehmen haben davor gewarnt, dass weitreichende Beschränkungen für offene Modelle den Wettbewerb verringern und Cyber-Verteidiger von einer kleinen Anzahl von Anbietern abhängig machen könnten.
Ein neuer Test für die KI-Governance
Die Allianz definiert Open AI eher als Cybersicherheits-Ressource denn als reines Sicherheitsrisiko um. Ihr Erfolg wird davon abhängen, ob die Mitglieder Tools entwickeln können, die transparent und anpassungsfähig bleiben, ohne dass fortschrittliche offensive Fähigkeiten leichter missbraucht werden können.
Die Tragweite geht über einen einzelnen Vorfall hinaus. Da autonome Agenten Zugriff auf Software, Netzwerke und externe Systeme erhalten, müssen Regierungen und Unternehmen entscheiden, wer ihr Verhalten überprüfen, ihre Sicherheitsvorkehrungen ändern und sie im Notfall einsetzen darf.
Zuvor berichteten wir, dass Nvidia eine Unterstützung in Höhe von 250 Milliarden US-Dollar für das OpenAI-Projekt in Erwägung zieht.
-
Afghanistan
-
Albanien
-
Algerien
-
Angola
-
Argentinien
-
Armenien
-
Aserbaidschan
-
Australien
-
Bahamas
-
Bahrain
-
Bangladesch
-
Belarus
-
Belgien
-
Bolivien
-
Botswana
-
Brasilien
-
Brunei Darussalam
-
Bulgarien
-
Chile
-
China
-
Costa Rica
-
Côte d'Ivoire
-
Deutschland
-
Dominikanische Republik
-
Dänemark
-
Ecuador
-
El Salvador
-
Estland
-
Eswatini
-
Finnland
-
Frankreich
-
Georgien
-
Ghana
-
Griechenland
-
Haiti
-
Hongkong
-
Indien
-
Indonesien
-
Irak
-
Iran, Islamische Republik
-
Irland
-
Israel
-
Italien
-
Jamaika
-
Japan
-
Jemen
-
Jordanien
-
Kambodscha
-
Kamerun
-
Kanada
-
Kasachstan
-
Katar
-
Kenia
-
Kirgisistan
-
Kolumbien
-
Kongo
-
Kongo-Kinshasa
-
Korea
-
Kroatien
-
Kuba
-
Kuwait
-
Laos
-
Lesotho
-
Lettland
-
Libanon
-
Libyen
-
Litauen
-
Luxemburg
-
Madagaskar
-
Malaysia
-
Malta
-
Marokko
-
Mauritius
-
Mexiko
-
Moldawien
-
Mongolei
-
Montenegro
-
Mosambik
-
Myanmar
-
Namibia
-
Nepal
-
Neuseeland
-
Niederlande
-
Nigeria
-
Nordmazedonien
-
Norwegen
-
Oman
-
Pakistan
-
Palästina
-
Panama
-
Papua-Neuguinea
-
Paraguay
-
Peru
-
Philippinen
-
Polen
-
Portugal
-
Puerto Rico
-
Reunion
-
Ruanda
-
Rumänien
-
Sambia
-
Saudi-Arabien
-
Schweden
-
Schweiz
-
Serbien
-
Simbabwe
-
Singapur
-
Slowakei
-
Slowenien
-
Somalia
-
Spanien
-
Sri Lanka
-
Syrien
-
Südafrika
-
Tadschikistan
-
Taiwan, Provinz China
-
Tansania
-
Thailand
-
Trinidad und Tobago
-
Tschechien
-
Tunesien
-
Türkei
-
USA
-
Uganda
-
Ukraine
-
Ungarn
-
Uruguay
-
Usbekistan
-
VAE
-
Venezuela
-
Vereinigtes Königreich
-
Vietnam
-
Zypern
-
Ägypten
-
Äthiopien
-
Österreich
- Forex
- Crypto
