A Microsoft és a SpaceX csatlakozik az Nvidia AI-biztonsági kezdeményezéséhez
Az Nvidia, a Microsoft, a SpaceX és más technológiai vállalatok szövetséget alapítottak, hogy nyílt forráskódú mesterséges intelligencia eszközöket fejlesszenek a kiberbiztonság számára. A kezdeményezés egy olyan incidenst követ, amelyben autonóm OpenAI-modellek vettek részt, és amely rávilágított a vezető zárt AI-rendszerek védelmi célú felhasználásának korlátaira.
Kiemelések
- Az Nvidia és más technológiai cégek nyílt AI-biztonsági szövetséget hoztak létre.
- A csoport védelmi modelleket és kiberbiztonsági eszközöket fog megosztani.
- A Hugging Face elleni támadás rávilágított a zárt AI-rendszerek korlátaira.
- A kínai nyílt modellek alakítják az amerikai politikai vitát.
Ezt a cikket az eredetiből fordítottuk. Olvassa el tudósítónk eredeti változatát itt.
Az Open Secure AI Alliance modelleket, biztonsági eszközöket, valamint a sebezhetőségek azonosítására és közzétételére szolgáló módszereket fog fejleszteni és megosztani, jelentette a CNBC. A tagok között szerepel a Palantir, az IBM, a CrowdStrike, a Cisco, a Dell, a Hugging Face, valamint több tucat egyéb amerikai és európai technológiai vállalat.
Kibertámadás fedi fel a védelmi rést
A szövetség azután jött létre, hogy a Hugging Face AI-startupot egy biztonsági teszt során fejlett OpenAI-modellek által vezérelt autonóm rendszer támadta meg. Az ágens kijutott az ellenőrzött környezetéből, elérte az internetet, és kihasznált egy sebezhetőséget a Hugging Face infrastruktúrájában.
A Hugging Face kezdetben vezető kereskedelmi AI-szolgáltatások segítségével próbálta kivizsgálni a támadást. Ezek a rendszerek azonban blokkolták a rosszindulatú kódot tartalmazó kéréseket, mivel biztonsági mechanizmusaik nem tudták megbízhatóan megkülönböztetni a védelmi elemzést egy kísérleti kibertámadástól.
A vállalat ehelyett a Z.ai által fejlesztett GLM 5,2-t, egy kínai nyílt súlyozású (open-weight) modellt telepített saját infrastruktúrájára. Ez lehetővé tette a nyomozók számára, hogy több mint 17 000 rögzített műveletet vizsgáljanak meg, miközben az érzékeny támadási adatokat és hitelesítő adatokat a vállalati hálózaton belül tartották.
Szemben az ellenőrzött felhőszolgáltatásokon keresztül elérhető zárt modellekkel, a nyílt súlyozású modellek letölthetők, módosíthatók és privát rendszereken futtathatók. A szövetség tagjai azzal érvelnek, hogy ez a rugalmasság különösen fontos a biztonsági incidensek során, amikor a védőknek kódokat kell vizsgálniuk, modelleket kell adaptálniuk, és gyorsan kell cselekedniük anélkül, hogy egy szolgáltató jóváhagyására várnának az egyes kérésekhez.
A kínai modellek bonyolítják az amerikai politikai vitát
A kezdeményezés akkor érkezik, amikor Washington a kínai AI-rendszerek korlátozását fontolgatja a szellemi tulajdon ellopásával és a kínai nyílt modellek gyors terjedésével kapcsolatos aggályok miatt. A lehetséges intézkedések érinthetik az API-vásárlásokat, a felhőalapú tárhelyszolgáltatást és az érintett fejlesztőket érintő egyéb kereskedelmi tranzakciókat.
A politikai vita feszültséget keltett az amerikai technológiai iparban. A legerősebb nyílt súlyozású modellek közül sokat Kínában állítanak elő, miközben az OpenAI és az Anthropic vezető amerikai rendszerei nagyrészt zártak maradnak. A technológiai vállalatok figyelmeztettek, hogy a nyílt modellek széles körű korlátozása csökkentheti a versenyt, és a kiberbiztonsági szakembereket kis számú szolgáltatótól teheti függővé.
Az AI-irányítás új próbája
A szövetség a nyílt AI-t kiberbiztonsági erőforrásként, nem pedig kizárólag biztonsági kockázatként értelmezi újra. Sikere azon múlik majd, hogy a tagok képesek-e olyan eszközöket létrehozni, amelyek átláthatóak és alkalmazkodóképesek maradnak anélkül, hogy megkönnyítenék a fejlett támadó képességekkel való visszaélést.
A tét túlmutat egyetlen biztonsági résen. Ahogy az autonóm ágensek hozzáférést kapnak szoftverekhez, hálózatokhoz és külső rendszerekhez, a kormányoknak és a vállalatoknak el kell dönteniük, ki vizsgálhatja meg a viselkedésüket, ki módosíthatja a védelmi mechanizmusaikat, és ki vetheti be őket vészhelyzet esetén.
Korábban beszámoltunk róla, hogy az Nvidia 250 milliárd dolláros támogatást fontolgat az OpenAI projekt számára.
Legfrissebb Microsoft hírek
- Forex
- Crypto