Твит был удалён автором.
Но мы всё сохранили 🙂.
Атаки с использованием ИИ и защитные модели можно анализировать с помощью концепции темного леса. К основным особенностям цифровой среды относятся сканирование на машинной скорости, баланс между атакой и защитой, а также необходимость совершенствовать системы, представляющие высокую ценность. Может ли новый подход помочь определить, какие платформы выживут во враждебной онлайн-среде?
Эта статья была переведена с оригинала. Читайте оригинальную версию от нашего корреспондента здесь.
Посмотреть публикацию в X Загрузка...
В частности, ресурсы ограничены, намерения неизвестны, а технологические прорывы могут происходить неожиданно. В таких условиях самая безопасная стратегия — оставаться незаметным и сводить к минимуму потенциальные угрозы своему существованию. Эту метафору стали применять в дискуссиях об интернете, социальных сетях, блокчейн-пулах и искусственном интеллекте.
Посмотреть публикацию в X Загрузка...
Защитникам приходится постоянно отслеживать собственные системы с помощью ИИ. Они проверяют свою инфраструктуру с помощью моделей без ограничений, чтобы обнаруживать и устранять уязвимости до того, как на них нацелятся внешние охотники. Как объяснил CEO Luxor Ник Хансен: «В этом новом темном лесу, где действуют системы на базе ИИ, это ваша единственная защита. „Остановить плохого парня с оружием может только хороший парень с оружием“». В результате гонка вооружений становится постоянной: обе стороны стремятся повысить сложность моделей и улучшить операционные процессы.
Посмотреть публикацию в X Загрузка...
Хансен назвал причиной проблемы «изощренный вектор атаки с применением ИИ». По его словам, криптокомпании «сталкиваются с массированными атаками с использованием ИИ», которые учащаются по мере совершенствования моделей. Luxor приостановила разработку новых функций и закупила GPU. Компания также будет использовать модели с открытыми весами без ограничений в целях защиты.
Посмотреть публикацию в X Загрузка...
Алекс Стамос, директор по информационной безопасности Cognition, назвал нынешнюю ситуацию «темной эпохой»: стоимость атаки приближается к нулю, тогда как защита по-прежнему обходится дорого. Венкатеш Рао описал «апофеоз темного леса» как распространение враждебных вычислительных форм жизни на все программное обеспечение. Аналитик Gartner Ли Макмаллен отметил, что «темный ИИ» создает новые проблемы, но при этом защитники могут эффективнее атаковать злоумышленников.
Посмотреть публикацию в X Загрузка...
Криптоиндустрия — лишь самая заметная сфера новой среды, сформированной ИИ. Логика темного леса применима не только к майнерам биткоина. По мере того как ИИ-агенты становятся все более способными, глобальная цифровая экономика превращается в этот лес. В такой среде выживут компании, которые не привлекают к себе внимания и первыми устраняют собственные слабые места.