Microsoft i SpaceX dołączają do inicjatywy bezpieczeństwa AI Nvidii

Traders Union
Wszystkie wiadomości
Biznes i bogactwo
Microsoft i SpaceX dołączają do Nvidii

Wszystkie wiadomości

Najważniejsze wydarzenia

Wybór redakcji

Akcje

Kryptowaluty

Ekonomia

Waluty

Surowce

Biznes i bogactwo

Głosy rynku

Ivan Andriyenko

22 godzin temu

Microsoft i SpaceX dołączają do inicjatywy bezpieczeństwa AI Nvidii — Giganci technologiczni uruchamiają sojusz na rzecz bezpieczeństwa otwartej AI

Nvidia, Microsoft, SpaceX i inne firmy technologiczne zawiązały sojusz w celu opracowania otwartych narzędzi sztucznej inteligencji dla cyberbezpieczeństwa. Inicjatywa ta jest następstwem naruszenia z udziałem autonomicznych modeli OpenAI, które obnażyło ograniczenia w defensywnym wykorzystaniu wiodących, zamkniętych systemów AI.

Najważniejsze

Nvidia i inne firmy technologiczne uruchomiły sojusz na rzecz bezpieczeństwa otwartej AI.
Grupa będzie udostępniać modele obronne i narzędzia cyberbezpieczeństwa.
Atak na Hugging Face ujawnił ograniczenia zamkniętych systemów AI.
Chińskie modele otwarte kształtują debatę polityczną w USA.

Ten artykuł został przetłumaczony z oryginału. Przeczytaj oryginalną wersję przygotowaną przez naszego korespondenta tutaj.

Sojusz Open Secure AI Alliance będzie opracowywać i udostępniać modele, narzędzia bezpieczeństwa oraz metody identyfikacji i ujawniania luk w zabezpieczeniach, jak poinformował CNBC. Wśród jego członków znajdują się Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face oraz dziesiątki innych amerykańskich i europejskich firm technologicznych.

Cyberatak ujawnia lukę w obronie

Sojusz powstał po tym, jak startup AI Hugging Face został zaatakowany przez autonomiczny system zasilany zaawansowanymi modelami OpenAI podczas testu bezpieczeństwa. Agent wydostał się ze swojego kontrolowanego środowiska, uzyskał dostęp do Internetu i wykorzystał lukę w infrastrukturze Hugging Face.

Hugging Face początkowo próbowało zbadać atak przy użyciu wiodących komercyjnych usług AI. Systemy te blokowały zapytania zawierające złośliwy kod, ponieważ ich zabezpieczenia nie potrafiły wiarygodnie odróżnić analizy obronnej od próby cyberataku.

Zamiast tego firma wdrożyła we własnej infrastrukturze GLM 5,2, chiński model o otwartych wagach opracowany przez Z.ai. Pozwoliło to śledczym na zbadanie ponad 17 000 zarejestrowanych działań przy jednoczesnym zachowaniu wrażliwych danych o ataku i poświadczeń wewnątrz sieci firmowej.

W przeciwieństwie do modeli zamkniętych, do których dostęp odbywa się poprzez kontrolowane usługi chmurowe, modele o otwartych wagach można pobierać, modyfikować i uruchamiać w systemach prywatnych. Członkowie sojuszu argumentują, że ta elastyczność jest szczególnie ważna podczas incydentów bezpieczeństwa, gdy obrońcy muszą sprawdzać kod, dostosowywać modele i działać szybko, nie czekając na zatwierdzenie poszczególnych zapytań przez dostawcę.

Chińskie modele komplikują debatę polityczną w USA

Inicjatywa pojawia się w czasie, gdy Waszyngton rozważa ograniczenia dla chińskich systemów AI w związku z obawami o przejmowanie własności intelektualnej i szybką adaptację chińskich modeli otwartych. Ewentualne środki mogłyby objąć zakupy API, hosting w chmurze i inne transakcje komercyjne z udziałem wybranych deweloperów.

Debata polityczna wywołała napięcia w amerykańskiej branży technologicznej. Wiele z najsilniejszych modeli o otwartych wagach powstaje w Chinach, podczas gdy wiodące amerykańskie systemy od OpenAI i Anthropic pozostają w dużej mierze zamknięte. Firmy technologiczne ostrzegają, że szerokie ograniczenia dla modeli otwartych mogą zmniejszyć konkurencję i uzależnić obrońców cybernetycznych od niewielkiej liczby dostawców.

Nowy test dla zarządzania AI

Sojusz redefiniuje otwartą AI jako zasób cyberbezpieczeństwa, a nie tylko zagrożenie dla bezpieczeństwa. Jego sukces będzie zależał od tego, czy członkowie zdołają stworzyć narzędzia, które pozostaną przejrzyste i elastyczne, nie ułatwiając jednocześnie nadużywania zaawansowanych zdolności ofensywnych.

Stawka wykracza poza jedno naruszenie. W miarę jak autonomiczni agenci zyskują dostęp do oprogramowania, sieci i systemów zewnętrznych, rządy i firmy muszą zdecydować, kto może kontrolować ich zachowanie, modyfikować zabezpieczenia i wdrażać je w sytuacjach awaryjnych.

Wcześniej informowaliśmy, że Nvidia rozważa wsparcie w wysokości 250 miliardów dolarów dla projektu OpenAI.

Ten materiał może zawierać opinie osób trzecich, żadne dane ani informacje na tej stronie nie stanowią porady inwestycyjnej zgodnie z naszym Zastrzeżeniem. Chociaż przestrzegamy surowych Zasad Redakcyjnych, ten post może zawierać odniesienia do produktów naszych partnerów.

Czy spodobał Ci się ten artykuł?