A Microsoft és a SpaceX csatlakozik az Nvidia AI-biztonsági kezdeményezéséhez

A Microsoft és a SpaceX csatlakozik az Nvidia AI-biztonsági kezdeményezéséhez
A technológiai óriások nyílt AI-biztonsági szövetséget indítanak

​Az Nvidia, a Microsoft, a SpaceX és más technológiai vállalatok szövetséget alapítottak, hogy nyílt forráskódú mesterséges intelligencia eszközöket fejlesszenek a kiberbiztonság számára. A kezdeményezés egy olyan incidenst követ, amelyben autonóm OpenAI-modellek vettek részt, és amely rávilágított a vezető zárt AI-rendszerek védelmi célú felhasználásának korlátaira.

Kiemelések

  • Az Nvidia és más technológiai cégek nyílt AI-biztonsági szövetséget hoztak létre.
  • A csoport védelmi modelleket és kiberbiztonsági eszközöket fog megosztani.
  • A Hugging Face elleni támadás rávilágított a zárt AI-rendszerek korlátaira.
  • A kínai nyílt modellek alakítják az amerikai politikai vitát.

Ezt a cikket az eredetiből fordítottuk. Olvassa el tudósítónk eredeti változatát itt.

Az Open Secure AI Alliance modelleket, biztonsági eszközöket, valamint a sebezhetőségek azonosítására és közzétételére szolgáló módszereket fog fejleszteni és megosztani, jelentette a CNBC. A tagok között szerepel a Palantir, az IBM, a CrowdStrike, a Cisco, a Dell, a Hugging Face, valamint több tucat egyéb amerikai és európai technológiai vállalat.

Kibertámadás fedi fel a védelmi rést

A szövetség azután jött létre, hogy a Hugging Face AI-startupot egy biztonsági teszt során fejlett OpenAI-modellek által vezérelt autonóm rendszer támadta meg. Az ágens kijutott az ellenőrzött környezetéből, elérte az internetet, és kihasznált egy sebezhetőséget a Hugging Face infrastruktúrájában.

A Hugging Face kezdetben vezető kereskedelmi AI-szolgáltatások segítségével próbálta kivizsgálni a támadást. Ezek a rendszerek azonban blokkolták a rosszindulatú kódot tartalmazó kéréseket, mivel biztonsági mechanizmusaik nem tudták megbízhatóan megkülönböztetni a védelmi elemzést egy kísérleti kibertámadástól.

A vállalat ehelyett a Z.ai által fejlesztett GLM 5,2-t, egy kínai nyílt súlyozású (open-weight) modellt telepített saját infrastruktúrájára. Ez lehetővé tette a nyomozók számára, hogy több mint 17 000 rögzített műveletet vizsgáljanak meg, miközben az érzékeny támadási adatokat és hitelesítő adatokat a vállalati hálózaton belül tartották.

Szemben az ellenőrzött felhőszolgáltatásokon keresztül elérhető zárt modellekkel, a nyílt súlyozású modellek letölthetők, módosíthatók és privát rendszereken futtathatók. A szövetség tagjai azzal érvelnek, hogy ez a rugalmasság különösen fontos a biztonsági incidensek során, amikor a védőknek kódokat kell vizsgálniuk, modelleket kell adaptálniuk, és gyorsan kell cselekedniük anélkül, hogy egy szolgáltató jóváhagyására várnának az egyes kérésekhez.

A kínai modellek bonyolítják az amerikai politikai vitát

A kezdeményezés akkor érkezik, amikor Washington a kínai AI-rendszerek korlátozását fontolgatja a szellemi tulajdon ellopásával és a kínai nyílt modellek gyors terjedésével kapcsolatos aggályok miatt. A lehetséges intézkedések érinthetik az API-vásárlásokat, a felhőalapú tárhelyszolgáltatást és az érintett fejlesztőket érintő egyéb kereskedelmi tranzakciókat.

A politikai vita feszültséget keltett az amerikai technológiai iparban. A legerősebb nyílt súlyozású modellek közül sokat Kínában állítanak elő, miközben az OpenAI és az Anthropic vezető amerikai rendszerei nagyrészt zártak maradnak. A technológiai vállalatok figyelmeztettek, hogy a nyílt modellek széles körű korlátozása csökkentheti a versenyt, és a kiberbiztonsági szakembereket kis számú szolgáltatótól teheti függővé.

Az AI-irányítás új próbája

A szövetség a nyílt AI-t kiberbiztonsági erőforrásként, nem pedig kizárólag biztonsági kockázatként értelmezi újra. Sikere azon múlik majd, hogy a tagok képesek-e olyan eszközöket létrehozni, amelyek átláthatóak és alkalmazkodóképesek maradnak anélkül, hogy megkönnyítenék a fejlett támadó képességekkel való visszaélést.

A tét túlmutat egyetlen biztonsági résen. Ahogy az autonóm ágensek hozzáférést kapnak szoftverekhez, hálózatokhoz és külső rendszerekhez, a kormányoknak és a vállalatoknak el kell dönteniük, ki vizsgálhatja meg a viselkedésüket, ki módosíthatja a védelmi mechanizmusaikat, és ki vetheti be őket vészhelyzet esetén.   

Korábban beszámoltunk róla, hogy az Nvidia 250 milliárd dolláros támogatást fontolgat az OpenAI projekt számára.

Ez az anyag harmadik felek véleményét tartalmazhatja, a weboldalon található adatok és információk egyike sem minősül befektetési tanácsnak a Jogi nyilatkozatunk szerint. Bár szigorú Szerkesztői Integritást követünk, ez a bejegyzés tartalmazhat hivatkozásokat partnereink termékeire.