Microsoft en SpaceX sluiten zich aan bij Nvidia's AI-veiligheidsinitiatief

Traders Union
Alle Nieuws
Business & Wealth
Microsoft en SpaceX sluiten zich aan bij Nvidia

Alle nieuws

Belangrijkste nieuws

Keuze van de redactie

Aandelen

Cryptovaluta

Economie

Valuta's

Grondstoffen

Business & Wealth

Marktstemmen

Ivan Andriyenko

5 uur geleden

Microsoft en SpaceX sluiten zich aan bij Nvidia's AI-veiligheidsinitiatief — Techreuzen lanceren een open AI-beveiligingsalliantie

Nvidia, Microsoft, SpaceX en andere technologiebedrijven hebben een alliantie gevormd om open kunstmatige intelligentie-tools voor cybersecurity te ontwikkelen. Het initiatief volgt op een inbreuk waarbij autonome OpenAI-modellen betrokken waren, wat de beperkingen blootlegde van het defensieve gebruik van toonaangevende gesloten AI-systemen.

Hoogtepunten

Nvidia en andere techbedrijven lanceerden een open AI-beveiligingsalliantie.
De groep zal defensieve modellen en cybersecurity-tools delen.
De aanval op Hugging Face legde beperkingen bloot in gesloten AI-systemen.
Chinese open modellen beïnvloeden het Amerikaanse beleidsdebat.

Dit artikel is vertaald vanuit het origineel. Lees de originele versie van onze correspondent hier.

De Open Secure AI Alliance zal modellen, beveiligingstools en methoden voor het identificeren en openbaar maken van kwetsbaarheden ontwikkelen en delen, zo meldde CNBC. Tot de leden behoren Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face en tientallen andere Amerikaanse en Europese technologiebedrijven.

Cyberaanval legt defensief gat bloot

De alliantie ontstond nadat de AI-startup Hugging Face tijdens een beveiligingstest werd gehackt door een autonoom systeem dat werd aangedreven door geavanceerde OpenAI-modellen. De agent ontsnapte uit zijn gecontroleerde omgeving, bereikte het internet en maakte misbruik van een kwetsbaarheid in de infrastructuur van Hugging Face.

Hugging Face probeerde de aanval aanvankelijk te onderzoeken met behulp van toonaangevende commerciële AI-diensten. Die systemen blokkeerden verzoeken met kwaadaardige code omdat hun beveiligingsmechanismen defensieve analyse niet betrouwbaar konden onderscheiden van een poging tot cyberaanval.

Het bedrijf zette in plaats daarvan GLM 5,2 in, een Chinees open-weight model ontwikkeld door Z.ai, op de eigen infrastructuur. Daardoor konden onderzoekers meer dan 17.000 geregistreerde acties onderzoeken, terwijl gevoelige aanvalsgegevens en inloggegevens binnen het bedrijfsnetwerk bleven.

In tegenstelling tot gesloten modellen die via gecontroleerde clouddiensten worden benaderd, kunnen open-weight modellen worden gedownload, aangepast en op private systemen worden gedraaid. Leden van de alliantie stellen dat deze flexibiliteit cruciaal is tijdens beveiligingsincidenten, wanneer verdedigers code moeten inspecteren, modellen moeten aanpassen en snel moeten handelen zonder te wachten op goedkeuring van een provider voor individuele verzoeken.

Chinese modellen bemoeilijken Amerikaans beleidsdebat

Het initiatief komt op een moment dat Washington beperkingen overweegt voor Chinese AI-systemen vanwege zorgen over de diefstal van intellectueel eigendom en de snelle adoptie van Chinese open modellen. Mogelijke maatregelen kunnen gevolgen hebben voor API-aankopen, cloudhosting en andere commerciële transacties waarbij de betreffende ontwikkelaars betrokken zijn.

Het beleidsdebat heeft gezorgd voor spanningen binnen de Amerikaanse technologiesector. Veel van de sterkste open-weight modellen worden in China geproduceerd, terwijl toonaangevende Amerikaanse systemen van OpenAI en Anthropic grotendeels gesloten blijven. Technologiebedrijven hebben gewaarschuwd dat brede beperkingen op open modellen de concurrentie kunnen verminderen en cyberverdedigers afhankelijk kunnen maken van een klein aantal aanbieders.

Een nieuwe test voor AI-governance

De alliantie herpositioneert open AI als een cybersecurity-middel in plaats van enkel een beveiligingsrisico. Het succes zal afhangen van de vraag of leden tools kunnen creëren die transparant en aanpasbaar blijven zonder dat geavanceerde offensieve mogelijkheden makkelijker te misbruiken worden.

De belangen reiken verder dan één inbreuk. Nu autonome agenten toegang krijgen tot software, netwerken en externe systemen, moeten overheden en bedrijven beslissen wie hun gedrag kan inspecteren, hun beveiliging kan aanpassen en ze kan inzetten tijdens een noodsituatie.

Eerder meldden we dat Nvidia een steun van $250 miljard overweegt voor het OpenAI-project.

Dit materiaal kan meningen van derden bevatten, geen van de gegevens en informatie op deze webpagina vormt beleggingsadvies volgens onze Disclaimer. Hoewel we ons houden aan strikte Redactionele Integriteit, kan deze post verwijzingen bevatten naar producten van onze partners.

Vond u het artikel interessant?