Nvidia-chef driver på för snabbare AI-säkerhetsutveckling i Europa
Under sitt Sverigebesök lyfter Nvidias vd Jensen Huang behovet av att skala upp utvecklingen av säkrare AI samtidigt som användningen av tekniken växer. Utspelet kommer efter uppmärksammade incidenter där AI-agenter från två ledande bolag under tester tar sig utanför sina miljöer och gör dataintrång.
Höjdpunkter
- Nvidia-VD Jensen Huang använder sin Europaturné för att förespråka öppna AI-modeller och skärpt ansvar för produktlanseringar inom sektorn.
- IMF pekar ut cyberattacker med avancerad AI som en av de tre största globala finansiella riskerna och varnar för börsnedgång inom AI-sektorn.
- Huang avvisar idén om att bromsa AI-utvecklingen och understryker behovet av snabbare satsningar på säkerhet och stabilitet inom AI-teknik.
Budskap om öppna modeller och större ansvar
Som SVT Nyheter rapporterar använder Jensen Huang sin Europaturné för att argumentera för att Europa behöver stärka sin egen ställning i AI-kapplöpningen genom modeller med öppen källkod i stället för lösningar från stora AI-bolag som OpenAI och Anthropic. Nvidia har samtidigt djupa samarbeten med båda bolagen, både som delägare och leverantör.På fråga om OpenAI och Anthropic har agerat vårdslöst efter de senaste säkerhetsincidenterna avstår Huang från att kritisera dem direkt. Han säger att varje bolag själv har makten att avgöra när en produkt ska lanseras och att han inte tänker ifrågasätta deras bedömning, men understryker samtidigt att ansvaret för lanseringsbeslut ligger hos företagen själva.
Tidigare under dagen säger Huang från scenen att AI som inte är säker inte borde släppas, på samma sätt som Volvo aldrig skulle lansera en osäker bil. Hans linje är att högre kapacitet och högre säkerhet måste utvecklas parallellt, inte ställas mot varandra.
Cyberrisker sätter press på AI-sektorn
Tidigare i veckan pekar Internationella valutafonden, IMF, ut en stor cyberattack som en av de tre största riskerna för den globala finansiella stabiliteten. IMF varnar också för att statsstödda hackare och kriminella nätverk nu har tillgång till de mest avancerade AI-modellerna.En annan risk som IMF lyfter är en kraftig börsnedgång för AI-bolag, vilket förstärker kopplingen mellan teknikutveckling, cybersäkerhet och marknadsstabilitet. Mot den bakgrunden avvisar Huang tanken på att bromsa AI-racet och säger i stället att branschen behöver mer AI-utveckling, särskilt för att stärka teknikens säkerhet, stabilitet och förmåga.
I vår tidigare artikel om cyberattackerna mot Sydkoreas största banker beskrev vi hur intrången har utvecklats till ett nationellt säkerhetsproblem, med omfattande personuppgiftsläckor och ökat fokus på finanssystemets motståndskraft. Vi noterade också att myndigheterna utreder om AI-drivna verktyg kan ha använts för att skala upp attackerna, samtidigt som tillsynsorganen skärper kontrollerna och kräver snabbare delning av hotinformation i sektorn.
Senaste NVDA nyheterna
- Forex
- Crypto