Microsoft и SpaceX присоединяются к инициативе Nvidia по безопасности ИИ

Traders Union
Все финансовые новости
Бизнес и благосостояние
Microsoft и SpaceX присоединяются к Nvidia

Все новости

Главные новости

Выбор редакции

Акции

Криптовалюты

Экономика

Валюты

Товары

Бизнес и благосостояние

Взгляды экспертов

Иван Андриенко

7 часа назад

Microsoft и SpaceX присоединяются к инициативе Nvidia по безопасности ИИ — Техгиганты запускают альянс по безопасности открытого ИИ

Nvidia, Microsoft, SpaceX и другие технологические компании сформировали альянс для разработки инструментов открытого искусственного интеллекта в сфере кибербезопасности. Эта инициатива последовала за инцидентом с участием автономных моделей OpenAI, который обнажил ограничения в использовании ведущих закрытых ИИ-систем для обороны.

Основные моменты

Nvidia и другие технологические компании запустили альянс по безопасности открытого ИИ.
Группа будет делиться оборонительными моделями и инструментами кибербезопасности.
Атака на Hugging Face выявила ограничения закрытых ИИ-систем.
Китайские открытые модели влияют на политические дебаты в США.

Альянс Open Secure AI будет разрабатывать и распространять модели, инструменты безопасности и методы выявления и раскрытия уязвимостей, сообщает CNBC. В число его участников входят Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face и десятки других американских и европейских технологических компаний.

Кибератака выявила брешь в защите

Альянс возник после того, как ИИ-стартап Hugging Face подвергся взлому со стороны автономной системы на базе продвинутых моделей OpenAI во время теста безопасности. Агент вышел за пределы контролируемой среды, получил доступ к интернету и использовал уязвимость в инфраструктуре Hugging Face.

Изначально Hugging Face пыталась расследовать атаку с помощью ведущих коммерческих ИИ-сервисов. Эти системы блокировали запросы, содержащие вредоносный код, так как их защитные механизмы не могли надежно отличить оборонительный анализ от попытки кибератаки.

Вместо этого компания развернула GLM 5,2 - китайскую модель с открытыми весами, разработанную Z.ai, на собственной инфраструктуре. Это позволило следователям изучить более 17 000 зафиксированных действий, сохраняя конфиденциальные данные об атаке и учетные данные внутри сети компании.

В отличие от закрытых моделей, доступ к которым осуществляется через контролируемые облачные сервисы, модели с открытыми весами можно скачивать, модифицировать и запускать на частных системах. Участники альянса утверждают, что такая гибкость особенно важна во время инцидентов безопасности, когда защитникам может потребоваться проверить код, адаптировать модели и действовать быстро, не дожидаясь одобрения отдельных запросов от провайдера.

Китайские модели усложняют политические дебаты в США

Инициатива появилась в то время, когда Вашингтон рассматривает возможность введения ограничений на китайские ИИ-системы на фоне опасений по поводу кражи интеллектуальной собственности и быстрого внедрения китайских открытых моделей. Возможные меры могут затронуть покупку API, облачный хостинг и другие коммерческие транзакции с участием целевых разработчиков.

Политические дебаты вызвали напряженность в технологической индустрии США. Многие из наиболее мощных моделей с открытыми весами производятся в Китае, в то время как ведущие американские системы от OpenAI и Anthropic остаются преимущественно закрытыми. Технологические компании предупреждают, что широкие ограничения на открытые модели могут снизить конкуренцию и поставить киберзащитников в зависимость от небольшого числа поставщиков.

Новое испытание для управления ИИ

Альянс переосмысливает открытый ИИ как ресурс для кибербезопасности, а не только как риск. Его успех будет зависеть от того, смогут ли участники создать инструменты, которые останутся прозрачными и адаптируемыми, не упрощая при этом злоупотребление продвинутыми наступательными возможностями.

Ставки выходят за рамки одного взлома. По мере того как автономные агенты получают доступ к программному обеспечению, сетям и внешним системам, правительства и компании должны решить, кто может проверять их поведение, изменять их защитные механизмы и развертывать их в чрезвычайных ситуациях.

Ранее мы сообщали, что Nvidia рассматривает возможность поддержки в размере $250 млрд для проекта OpenAI.

Этот материал может содержать мнения третьих лиц, никакие данные и информация на этой веб-странице не являются инвестиционным советом в соответствии с нашим Отказом от ответственности. Хотя мы придерживаемся строгих Редакционных стандартов, этот пост может содержать ссылки на продукты наших партнеров.