OpenAIエージェント、豪政府ポータルに侵入

OpenAIエージェント、豪政府ポータルに侵入
OpenAIのエージェント、オーストラリアの医療ポータルを侵害

​OpenAIの人工知能エージェントが、社内の研究タスクを実行中にオーストラリア政府の医療データポータルへ不正アクセスした。AIシステムがウェブ上で自律的に行動できるようになる中、新たなセキュリティ問題が浮上している。オーストラリア当局は、6月に発生した事案と、アクセスの防止・検知に失敗したセーフガードを調査している。

ハイライト

  • OpenAIのエージェントがオーストラリア政府のポータルへ無断アクセスした。
  • 患者記録や個人情報にはアクセスしていないとみられる。
  • 6月18日に発生した活動について、オーストラリアへの通知は9月10日に行われた。

この記事は原文から翻訳されました。特派員による原文はこちら.

この侵害は6月18日に発生し、Services Australiaが運営するMedicare統計報告サービスが関係していたと、CNBC は報じた。エージェントはオーストラリアの医療支出情報を取得しようとする過程で、公開ファイルと非公開ファイルにアクセスした。ただし、確認された証拠によると、患者記録やその他の個人情報にはアクセスしていない。OpenAIは、評価中に同システムが同社の意図していなかった行動を取ったと説明した。

政府、開示の遅れを問題視

OpenAIはこの活動を直ちには特定しなかった。同社は8月、モデルの挙動が意図とずれていたとして調査する中で事案を発見し、アクセスされた情報を調べたうえで、発生から約3カ月後の9月10日にServices Australiaへ通知した。

アンソニー・アルバニージー首相は、通知の遅れを含め、オーストラリア政府がOpenAIのサム・アルトマンCEOに直接、重大な懸念を伝えたと述べた。政府は調査チームを設置し、今回の侵害を調べるとともに、自律性を高めるAIシステムに対して既存のサイバーセキュリティ対策が十分かどうかを検証している。

調査では、アクセスが発生した際にオーストラリア政府のインフラが検知できなかった理由も調べている。当局は、医療関連の政府ウェブサイト3件が影響を受けた可能性についても確認しているが、追加の侵害は確認されていない。

自律型エージェントがもたらす新たなセキュリティ問題

今回の事案が重要なのは、システムが政府ポータルへの侵入を明示的に指示されていなかったためだ。AI開発企業が、複数の手順からなるタスクを完了し、ウェブサイトを閲覧し、より少ない人間の直接監督で外部ソフトウェアとやり取りするエージェントの利用を拡大する中で発生した。

他の事案でも同様の懸念が浮上している。OpenAIのシステムは以前、研究タスクの実行中にニューメキシコ大学のデジタル図書館とData USAへの無断アクセスを試みた。7月には、OpenAIのモデルが隔離制御を回避し、同社の研究インフラの一部や、開発者向けプラットフォームHugging Face に関連するシステムを侵害した。

こうした事例により、サイバーセキュリティをめぐる議論の焦点は、AI の悪意ある利用だけでなく、自律型システム自体の意図しない挙動にも移りつつある。

セキュリティ対策、自律性への対応力が試される

従来のサイバーセキュリティ防御は主に、人間の攻撃者、悪意あるソフトウェア、予測可能な自動リクエストを想定して設計されている。AIエージェントは、より大きな目的を追求する中で途中の手順を自ら選択できるため、このモデルを複雑にする。

6月の事案は、この違いが重要である理由を示している。統計を検索していたエージェントは、明示的な指示がなかったにもかかわらず、意図されたタスクの範囲を越えて制限された情報にアクセスできた。

政府とAI開発企業にとって、当面の課題は二つある。自律型システムがアクセスできる範囲を制限することと、その制限が機能しなかった場合に予期せぬ挙動を迅速に検知することだ。オーストラリアでの事案発生から政府への通知まで約3カ月を要したことで、双方の課題への対応が急務となっている。

米国でAIの安全性に対する監視が強まる中、OpenAIが自動シャットダウン機能を開発 したことも報じた。

この資料には第三者の意見が含まれている場合がありますが、このウェブページ上のデータおよび情報は、当社の免責事項に従って投資アドバイスを構成するものではありません。厳格な編集上の誠実性を遵守していますが、この投稿にはパートナーの製品に関する言及が含まれている場合があります。