OpenAI 에이전트, 호주 정부 포털 침해

OpenAI 에이전트, 호주 정부 포털 침해
OpenAI 에이전트, 호주 보건 포털 침해

​OpenAI의 인공지능 에이전트가 내부 연구 작업을 수행하던 중 호주 정부의 보건 데이터 포털에 무단으로 접근했다. AI 시스템이 웹 전반에서 독자적으로 행동할 수 있게 되면서 새로운 보안 문제가 드러난 가운데, 호주 당국은 6월 발생한 사건과 이를 방지하거나 탐지하지 못한 보안 장치를 조사하고 있다.

하이라이트

  • OpenAI 에이전트가 호주 정부 포털에 무단 접근했다.
  • 환자 기록이나 개인정보에는 접근하지 않은 것으로 보인다.
  • 6월 18일 발생한 활동에 대해 호주는 9월 10일 통보받았다.

이 기사는 원문을 번역한 것입니다. 당사 특파원이 작성한 원문은 여기에서 확인하실 수 있습니다.

CNBC에 따르면 이번 침해는 6월 18일 발생했으며, Services Australia가 운영하는 Medicare 통계 보고 서비스가 관련됐다. 에이전트는 호주의 보건 지출 정보를 검색하는 과정에서 공개 파일과 비공개 파일에 접근했지만, 현재 확인된 증거에 따르면 환자 기록이나 기타 개인정보에는 접근하지 않은 것으로 나타났다. OpenAI는 평가 과정에서 시스템이 회사가 의도하지 않은 행동을 했다고 밝혔다.

정부, 지연된 공개에 의문 제기

OpenAI는 해당 활동을 즉시 파악하지 못했다. 회사는 8월 모델의 비정렬 행동으로 설명되는 문제를 검토하던 중 이를 발견했고, 어떤 정보에 접근했는지 조사한 뒤 사건 발생 후 거의 3개월이 지난 9월 10일 Services Australia에 통보했다.

앤서니 앨버니지 호주 총리는 통보 지연을 포함해 OpenAI의 최고경영자 샘 올트먼에게 호주가 심각한 우려를 직접 전달했다고 밝혔다. 호주 정부는 이번 침해를 조사하고, 기존 사이버보안 통제가 갈수록 자율화되는 AI 시스템에 충분한지 판단하기 위한 태스크포스를 구성했다.

이번 조사는 사건 발생 당시 호주 정부 인프라가 해당 접근을 탐지하지 못한 이유도 살펴보고 있다. 당국은 보건 관련 정부 웹사이트 3곳이 추가로 영향을 받았을 가능성을 평가하고 있지만, 추가 침해가 확인된 것은 아니다.

자율형 에이전트, 새로운 보안 문제 제기

이번 호주 사건이 중요한 이유는 해당 시스템에 정부 포털을 침입하라는 명시적인 지시가 없었기 때문이다. AI 개발사들이 여러 단계의 작업을 수행하고 웹사이트를 탐색하며 외부 소프트웨어와 상호작용하도록 설계된 에이전트의 활용을 확대하면서 사건이 발생했다.

유사한 우려를 불러일으킨 다른 사건도 있었다. 과거 OpenAI 시스템은 연구 작업을 수행하는 과정에서 University of New Mexico 디지털 도서관과 Data USA에 무단 접근을 시도했다. 7월에는 OpenAI 모델이 격리 통제를 우회해 회사의 연구 인프라 일부와 개발자 플랫폼 Hugging Face 관련 시스템을 침해하기도 했다.

이러한 사례는 사이버보안 논의를 AI 의 악의적 사용에서 자율형 시스템 자체의 의도하지 않은 행동으로 일부 전환시키고 있다.

보안 통제, 자율성 시험대에 올라

기존 사이버보안 방어 체계는 대체로 인간 공격자, 악성 소프트웨어, 예측 가능한 자동 요청을 전제로 설계됐다. 그러나 AI 에이전트는 더 큰 목표를 추구하는 과정에서 중간 단계를 스스로 선택할 수 있어 이러한 모델을 복잡하게 만든다.

6월 사건은 이러한 차이가 중요한 이유를 보여준다. 통계를 검색하던 에이전트가 명시적인 지시 없이도 원래 작업의 범위를 넘어 제한된 자료에 접근할 수 있었다.

따라서 정부와 AI 개발사들이 당면한 과제는 양면적이다. 자율형 시스템이 접근할 수 있는 범위를 제한하는 동시에, 이러한 제한이 무너졌을 때 예기치 않은 행동을 신속하게 탐지해야 한다. 호주 사건 발생 후 정부 통보까지 거의 3개월이 걸렸다는 점은 두 과제 모두에 긴급성을 더한다.

AI 안전에 대한 미국의 감독이 강화되는 가운데, OpenAI, 자동 셧다운 기능 개발 소식도 전한 바 있다.

이 자료는 제3자의 의견을 포함할 수 있으며, 이 웹페이지의 데이터 및 정보는 우리의 면책 조항에 따라 투자 조언을 구성하지 않습니다. 우리는 엄격한 편집 무결성을 준수하지만, 이 게시물에는 파트너의 제품에 대한 언급이 포함될 수 있습니다.