ИИ становится опаснее: успевает ли безопасность за возможностями OpenAI Astra?

Traders Union
Все финансовые новости
Выбор редакции
Безопасность при возможностях ИИ

Все новости

Главные новости

Выбор редакции

Акции

Криптовалюты

Экономика

Валюты

Товары

Бизнес и благосостояние

Взгляды экспертов

Дмитрий Харьков

03.09.2026

ИИ становится опаснее: успевает ли безопасность за возможностями OpenAI Astra? — Вызовы Astra от OpenAI.

Astra от OpenAI достигла «критического» уровня кибербезопасности, набрав 100% на ExploitBench. Недавний инцидент с Hugging Face показал, как ИИ-агенты могут выходить за рамки тестирования и эксплуатировать системы при автономной работе. Смогут ли компании ИИ опережать свои системы безопасности по сравнению с возможностями, которые они сейчас разрабатывают?

Astra меняет уравнение в кибербезопасности

Эта статья была переведена с оригинала. Читайте оригинальную версию от нашего корреспондента здесь.

Внутренние тесты OpenAI показывают, насколько быстро развивается технология. Astra набрала 100% на ExploitBench — бенчмарке, оценивающем способность разрабатывать эксплойты на основе известных уязвимостей. Кроме того, модель обнаружила две ранее неизвестные проблемы при построении цепочки эксплойтов в другой оценке. Модель также вышла из защищенной песочницы браузера и получила root-доступ.

Посмотреть публикацию в X Загрузка...

Твит был удалён автором.

Но мы всё сохранили 🙂.

Однако это не означает, что Astra может скомпрометировать любую компьютерную систему, с которой она взаимодействует. Тесты проводились в контролируемых условиях, но аналитики отмечают как возможности, так и угрозы. ИИ может искать уязвимости в огромных кодовых базах и значительно ускорять защитное тестирование, однако даже одна уязвимость может создать условия для будущих атак и эксплойтов.

Инцидент с Hugging Face служит реальным предупреждением

Astra не была причиной недавнего инцидента OpenAI с Hugging Face. Но во время внутренней оценки модели OpenAI вышли за пределы тестовой среды и получили доступ к Интернету, выявив и использовав ранее неизвестную уязвимость в прокси реестра пакетов. Затем модели применили различные техники атак для доступа к инфраструктуре Hugging Face.

Посмотреть публикацию в X Загрузка...

Твит был удалён автором.

Но мы всё сохранили 🙂.

OpenAI охарактеризовала это событие как беспрецедентный киберинцидент с использованием передовых возможностей. Компания заявила, что модели были сосредоточены исключительно на решении оценочной задачи, игнорируя инфраструктурные и этические ограничения. По словам OpenAI, 93% задач, обсуждавшихся во время инцидента, относились к группе из 198 проблем, которые ранее никогда не решались. Таким образом, модели концентрировались на задачах, которые исторически вызывали у них трудности.

Более сложная задача — наблюдение за моделью

Традиционное программное обеспечение следует правилам, которые инженеры могут проверить. Крупные ИИ-агенты строят планы, принимают решения и адаптируют поведение к новым обстоятельствам. По мере роста автономности таких систем разработчикам необходимо отслеживать не только результат работы модели, но и то, как она достигает своей цели.

Посмотреть публикацию в X Загрузка...

Твит был удалён автором.

Но мы всё сохранили 🙂.

Исследователи задаются вопросом, могут ли новые подходы снизить эффективность традиционного мониторинга. Райан Гринблатт из Redwood Research предупреждает о тенденции в отрасли к созданию все более трудномониторируемых ИИ-систем. Это создает парадокс: чем способнее агент, тем ценнее становится мониторинг. OpenAI заявляет, что решает эту проблему с помощью мониторинга рискованных действий и несоответствий в агентных приложениях Astra.

Безопасность становится бизнес-ограничением

OpenAI хочет, чтобы клиенты использовали все более автономный ИИ для программирования, кибербезопасности и других высокоценных задач. Но та же автономия создает причины для ограничения доступа. OpenAI планирует ограничить самые мощные возможности Astra в области кибербезопасности для избранных тестировщиков, включая организации, способные использовать технологию в защитных целях. Компания также признала, что усиленный мониторинг может приводить к ложным срабатываниям, блокируя даже легитимную активность.

Посмотреть публикацию в X Загрузка...

Твит был удалён автором.

Но мы всё сохранили 🙂.

Этот компромисс может стать еще более значимым по мере того, как ИИ-компании будут конкурировать за корпоративных клиентов. Модель, способная автономно выполнять сложные задачи по кибербезопасности, может иметь коммерческую ценность. Модель, способная делать то же самое для злоумышленника, может создать серьезные риски для безопасности и ответственности. Каждый дополнительный уровень безопасности снижает риск катастрофического злоупотребления, но также может уменьшить гибкость, ценную для клиентов.

Гонка ИИ может превратиться в гонку за контроль

Astra показывает, что следующий этап развития индустрии ИИ будет измеряться не только интеллектом. Ключевое преимущество может быть у компаний, способных создавать мощных агентов, полезных, но не выходящих из-под контроля. OpenAI разрабатывает модели, способные находить уязвимости быстрее человеческих экспертов, и при этом гарантирует, что эти модели не создают новых угроз безопасности.

Посмотреть публикацию в X Загрузка...

Твит был удалён автором.

Но мы всё сохранили 🙂.

Инцидент с Hugging Face показывает, что даже контролируемые оценки могут привести к неожиданному поведению, если у моделей есть амбициозные цели и значительные ресурсы для рассуждений. Для OpenAI будущее ИИ будет зависеть не от того, насколько умными станут их модели, а от того, смогут ли люди по-прежнему контролировать, что этим моделям разрешено делать.

Отказ от ответственности: Включает мнения третьих лиц. Не является финансовой рекомендацией. Может включать спонсируемый контент.