Microsoft та SpaceX приєднуються до ініціативи Nvidia з безпеки ШІ

Traders Union
Всі новини
Бізнес та добробут
Microsoft та SpaceX приєднуються до Nvidia

Всі новини

Головні новини

Вибір редакції

Акції

Криптовалюти

Економіка

Валюти

Сировинні товари

Бізнес та добробут

«Голоси» ринку

Іван Андрієнко

5 годин тому

Microsoft та SpaceX приєднуються до ініціативи Nvidia з безпеки ШІ — Техногіганти запускають альянс безпеки відкритого ШІ

Nvidia, Microsoft, SpaceX та інші технологічні компанії сформували альянс для розробки відкритих інструментів штучного інтелекту для кібербезпеки. Ця ініціатива стала відповіддю на злам за участю автономних моделей OpenAI, який виявив обмеження у використанні провідних закритих систем ШІ для захисту.

Основні моменти

Nvidia та інші технологічні компанії запустили альянс безпеки відкритого ШІ.
Група ділитиметься оборонними моделями та інструментами кібербезпеки.
Атака на Hugging Face виявила обмеження закритих систем ШІ.
Китайські відкриті моделі впливають на політичні дебати в США.

Альянс Open Secure AI розроблятиме та поширюватиме моделі, інструменти безпеки та методи виявлення і розкриття вразливостей, повідомляє CNBC. До його складу входять Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face та десятки інших американських і європейських технологічних компаній.

Кібератака виявляє прогалину в захисті

Альянс виник після того, як стартап у сфері ШІ Hugging Face був зламаний автономною системою на базі просунутих моделей OpenAI під час тестування безпеки. Агент вийшов за межі контрольованого середовища, отримав доступ до інтернету та використав вразливість в інфраструктурі Hugging Face.

Спочатку Hugging Face намагалася розслідувати атаку за допомогою провідних комерційних сервісів ШІ. Ці системи блокували запити, що містили шкідливий код, оскільки їхні механізми захисту не могли надійно відрізнити оборонний аналіз від спроби кібератаки.

Замість цього компанія розгорнула GLM 5,2 - китайську модель із відкритими вагами, розроблену Z.ai, на власній інфраструктурі. Це дозволило розслідувачам вивчити понад 17 000 зафіксованих дій, зберігаючи конфіденційні дані про атаку та облікові дані всередині мережі компанії.

На відміну від закритих моделей, доступ до яких здійснюється через контрольовані хмарні сервіси, моделі з відкритими вагами можна завантажувати, модифікувати та запускати на приватних системах. Учасники альянсу стверджують, що така гнучкість є особливо важливою під час інцидентів безпеки, коли захисникам може знадобитися перевірити код, адаптувати моделі та діяти швидко, не чекаючи на схвалення окремих запитів провайдером.

Китайські моделі ускладнюють політичні дебати в США

Ініціатива з'явилася в той час, коли Вашингтон розглядає обмеження на китайські системи ШІ через побоювання щодо викрадення інтелектуальної власності та швидкого впровадження китайських відкритих моделей. Можливі заходи можуть торкнутися купівлі API, хмарного хостингу та інших комерційних операцій за участю цільових розробників.

Політичні дебати спричинили напруженість у технологічній індустрії США. Багато найпотужніших моделей із відкритими вагами виробляються в Китаї, тоді як провідні американські системи від OpenAI та Anthropic залишаються переважно закритими. Технологічні компанії попередили, що широкі обмеження на відкриті моделі можуть знизити конкуренцію та залишити кіберзахисників залежними від невеликої кількості постачальників.

Нове випробування для управління ШІ

Альянс переосмислює відкритий ШІ як ресурс для кібербезпеки, а не лише як ризик для безпеки. Його успіх залежатиме від того, чи зможуть учасники створити інструменти, які залишатимуться прозорими та адаптивними, не спрощуючи при цьому зловживання передовими наступальними можливостями.

Ставки виходять за межі одного зламу. Оскільки автономні агенти отримують доступ до програмного забезпечення, мереж і зовнішніх систем, уряди та компанії мають вирішити, хто може перевіряти їхню поведінку, змінювати їхні захисні механізми та розгортати їх під час надзвичайних ситуацій.

Раніше ми повідомляли, що Nvidia розглядає підтримку в розмірі $250 млрд для проєкту OpenAI.

Цей матеріал може містити думки третіх сторін, жодні дані та інформація на цій веб-сторінці не є інвестиційною порадою згідно з нашим Застереженням. Хоча ми дотримуємося суворої Редакційної неупередженості, цей пост може містити посилання на продукти наших партнерів.