Твіт було видалено автором.
Але ми все зберегли 🙂.
Атаки на основі ШІ та захисні моделі можна аналізувати за допомогою концепції темного лісу. До основних цифрових характеристик належать сканування зі швидкістю машин, баланс між атакою та захистом і потреба вдосконалювати системи високої цінності. Чи може новий підхід допомогти визначити, які платформи виживуть у ворожому онлайн-середовищі?
Ця стаття була перекладена з оригіналу. Читайте оригінальну версію від нашого кореспондента тут.
Переглянути допис у X Завантаження...
Зокрема, ресурси обмежені, наміри неможливо знати напевно, а технологічні стрибки можуть відбутися несподівано. За таких умов найбезпечніша стратегія — залишатися непомітним і мінімізувати потенційні загрози власному існуванню. Цю метафору почали застосовувати в дискусіях про інтернет, соціальні мережі, пули блокчейнів і штучний інтелект.
Переглянути допис у X Завантаження...
Захисникам доводиться покладатися на безперервний моніторинг власних систем за допомогою ШІ. Вони запускають моделі без обмежень проти власної інфраструктури, щоб виявляти й усувати вразливості, перш ніж на них націляться зовнішні мисливці. Як пояснив генеральний директор Luxor Нік Гансен: «Це ваш єдиний захист у цьому новому темному лісі, створеному ШІ. „Зупинити поганця з пістолетом може лише хороший хлопець із пістолетом“». У результаті виникає безперервна гонка озброєнь, у якій обидві сторони намагаються підвищити рівень складності моделей і вдосконалити операційні процеси.
Переглянути допис у X Завантаження...
Гансен описав проблему як наслідок «складного вектора атаки з використанням ШІ». За його словами, криптокомпанії «зазнають шквалу атак із використанням ШІ», які стають інтенсивнішими в міру вдосконалення моделей. Luxor у відповідь призупинила розробку функцій і придбала графічні процесори. Компанія також використовуватиме моделі з відкритими вагами без обмежень у захисних цілях.
Переглянути допис у X Завантаження...
Алекс Стамос, директор із безпеки Cognition, назвав нинішню ситуацію «темною добою»: вартість атаки наближається до нуля, тоді як захист досі обходиться дорого. Венкатеш Рао описав «апофеоз темного лісу» як поширення ворожого обчислювального життя на програмне забезпечення загалом. Аналітик Gartner Лі Макмаллен зазначив, що «темний ШІ» створює нові виклики, але водночас може допомогти захисникам ефективніше протидіяти зловмисникам.
Переглянути допис у X Завантаження...
Криптоіндустрія — лише найпомітніша сфера нового середовища, сформованого ШІ. Логіка темного лісу стосується не лише майнерів Bitcoin. Що спроможнішими стають агенти ШІ, то більше глобальна цифрова економіка нагадує ліс. У цьому середовищі виживуть компанії, які не привертатимуть до себе уваги й першими усуватимуть власні слабкі місця.