news.removed-tweet-widget.title
news.removed-tweet-widget.content
AIを活用した攻撃と防御モデルは、「暗い森」モデルを用いて分析できます。主なデジタル上の特徴には、機械速度でのスキャン、攻撃と防御の均衡、高価値システムの改善の必要性などがあります。敵対的なオンライン環境でどのプラットフォームが生き残るかを見極めるうえで、新たなアプローチは役立つのでしょうか。
この記事は原文から翻訳されました。特派員による原文はこちら.
Xで投稿を見る 読み込み中…
具体的には、資源には限りがあり、意図を知ることはできず、技術の飛躍が予期せず起こる可能性があります。こうした状況では、身を隠し、自らの存続を脅かす可能性を最小限に抑えることが最も安全な戦略です。この比喩は、インターネット、ソーシャルメディア、ブロックチェーンのマイニングプール、人工知能をめぐる議論にも広がっています。
Xで投稿を見る 読み込み中…
防御側は、自社システムをAIで継続的に監視する必要があります。外部の狩人に狙われる前に脆弱性を発見して塞ぐため、制限のないモデルを自社インフラに対して実行します。LuxorのCEO、Nick Hansenは次のように説明しています。「AIを活用したこの新たな暗い森で、これが唯一の防御策です。『銃を持った悪人を止められるのは、銃を持った善人だけだ』」。その結果、双方がモデルの高度化と運用改善を追求する、終わりのない軍拡競争が生じます。
Xで投稿を見る 読み込み中…
Hansen氏は、この問題の原因を「高度なAI活用型攻撃ベクトル」と説明した。また、暗号資産企業は「AIを活用した攻撃にさらされており」、モデルの性能向上に伴って攻撃が加速する傾向にあると述べた。Luxorは機能開発を一時停止し、GPUを調達することで対応した。同社は防御目的で、制限のないオープンウェイトモデルも稼働させる予定だ。
Xで投稿を見る 読み込み中…
Cognitionの最高セキュリティ責任者(CSO)、Alex Stamos氏は、攻撃のコストがほぼゼロに近づく一方、防御コストは依然として高い現状を「暗黒時代」と表現している。Venkatesh Rao氏は、ソフトウェア全般に広がる敵対的な計算生命体を「Dark Forest Apotheosis」と表現した。Gartnerのアナリスト、Leigh McMullen氏は、「ダークAI」が新たな課題をもたらす一方、防御側も脅威アクターをより効果的に標的にできる可能性があると指摘している。
Xで投稿を見る 読み込み中…
暗号資産業界は、AIが形作る新たな環境の中で最も目立つ領域にすぎない。ダークフォレストの論理は、Bitcoinマイナーだけに当てはまるものではない。AIエージェントの能力が高まるにつれ、世界のデジタル経済全体が森となる。その環境で生き残るのは、目立たず、自らの弱点にいち早く対処する企業だ。