OpenAI의 AI 에이전트는 테스트 과정에서 증권거래위원회(SEC)와 인구조사국이 운영하는 리소스를 포함한 미국 정부 웹사이트와 상호작용했다. 회사는 모델 행동에 대한 광범위한 검토 과정에서 이러한 사례를 발견했으며, 영향을 받았을 가능성이 있는 수십 개 기관에 통지했다.
이 기사는 원문을 번역한 것입니다. 당사 특파원이 작성한 원문은 여기에서 확인하실 수 있습니다.
Bloomberg 에 따르면, OpenAI는 모델 훈련 및 평가 과정에서 자사 시스템이 SEC.gov, Investor.gov, Census.gov의 공개 정보를 이용했음을 확인했다. 회사는 일부 사례에서 에이전트가 보안 메커니즘을 우회했거나 외부 서비스의 가용성을 저해했을 가능성을 조사하고 있다.
조사는 수개월 전 OpenAI 모델이 의도치 않게 Hugging Face 를 해킹한 이후 시작됐다. 활동 로그 검토 범위를 확대한 뒤, 회사는 자체 인프라 밖에서 발생한 다른 부적절한 에이전트 행동 사례를 발견했다.
OpenAI, 수십 개 기관에 통지
회사는 정부 기관, 대학 및 기타 기관을 포함한 수십 개 조직에 연락했다고 밝혔다. 일부 사례에서 AI 시스템은 온라인 서비스의 안전장치를 우회하거나 정상 운영을 방해하거나, 그 밖의 방식으로 외부 웹사이트에 부정적인 영향을 미쳤을 수 있다.
그러나 OpenAI 에 따르면, 검토된 사례 대부분은 질의에 답하기 위해 공개 정보를 검색하는 등 일반적인 연구 작업과 관련됐다. 회사는 자사 에이전트가 방문한 모든 웹사이트가 해킹되거나 침해됐다고 말하지는 않았다.
OpenAI는 전체 검토에 수개월이 걸릴 것으로 예상한다. 샘 알트먼 CEO는 방대한 양의 활동 로그를 분석하고 영향을 받았을 가능성이 있는 기관들과 조율해야 하기 때문에 조사가 기대보다 더디게 진행되고 있음을 인정했다.
이 사건들은 자율형 AI 에이전트 가 제기하는 과제 중 하나를 부각한다. 일부 행동은 이미 발생한 뒤에야 개발자들이 발견할 수 있다. 이는 외부 웹사이트 및 서비스와 독립적으로 상호작용할 수 있는 모델을 통제하기 어렵게 만든다.
AI, 새로운 사이버보안 위험 초래
이와 유사한 행동은 OpenAI에만 국한되지 않았다. Anthropic, Google DeepMind, Meta의 모델도 테스트 과정에서 기존에 알려지지 않은 취약점을 찾아내고 여러 공격 기법을 결합해 시스템에 접근할 수 있음을 보여줬다.
이러한 역량은 주로 알려진 악성코드나 비정상 활동을 탐지하는 기존 사이버보안 도구에 과제를 제기한다. AI 에이전트는 특정 작업을 수행하기 위해 행동 순서를 독립적으로 변경하고 대체 방법을 찾을 수 있다.
별도의 OpenAI 검토에서는 연구 환경의 AI 에이전트가 승인 없이 훈련 및 테스트 데이터를 제3자 서비스로 전송한 사례 53건이 확인됐다. 이 데이터에는 업로드된 이미지가 포함됐지만, 회사는 대부분의 경우 해당 자료가 사용자로부터 나온 것은 아니라고 밝혔다.
OpenAI는 모델의 부적절한 행동에 대한 광범위한 조사 차원에서 이 사례들을 계속 검토하고 있다. 회사는 이들 시스템에 미칠 수 있는 영향을 확인하는 대로 추가 외부 기관에 통지할 계획이다.
앞서 OpenAI AI 에이전트가 모델 테스트 중 호주 정부 포털에 무단 접근했다고 보도했다. 이 사건은 6월 18일 발생했으며, 호주 당국은 시민의 개인정보가 침해됐다는 증거를 찾지 못했다고 밝혔다.
-
가나
-
그리스
-
나미비아
-
나이지리아
-
남아프리카 공화국
-
네덜란드
-
네팔
-
노르웨이
-
뉴질랜드
-
대만, 중화민국
-
대한민국
-
덴마크
-
도미니카 공화국
-
독일
-
라오스
-
라트비아
-
레바논
-
레소토
-
루마니아
-
룩셈부르크
-
르완다
-
리비아
-
리투아니아
-
마다가스카르
-
말레이시아
-
멕시코
-
모로코
-
모리셔스
-
모잠비크
-
몬테네그로
-
몰도바
-
몰타
-
몽골
-
미국
-
미얀마
-
바레인
-
바하마
-
방글라데시
-
베네수엘라
-
베트남
-
벨기에
-
벨라루스
-
보츠와나
-
볼리비아
-
북마케도니아
-
불가리아
-
브라질
-
브루나이 다루살람
-
사우디아라비아
-
세르비아
-
소말리아
-
스리랑카
-
스웨덴
-
스위스
-
스페인
-
슬로바키아
-
슬로베니아
-
시리아
-
싱가포르
-
아랍에미리트
-
아르메니아
-
아르헨티나
-
아이티
-
아일랜드
-
아제르바이잔
-
아프가니스탄
-
알바니아
-
알제리
-
앙골라
-
에스와티니
-
에스토니아
-
에콰도르
-
에티오피아
-
엘살바도르
-
영국
-
예멘
-
오만
-
오스트리아
-
요르단
-
우간다
-
우루과이
-
우즈베키스탄
-
우크라이나
-
이라크
-
이란, 이슬람 공화국
-
이스라엘
-
이집트
-
이탈리아
-
인도
-
인도네시아
-
일본
-
자메이카
-
잠비아
-
재결합(국가 이름)
-
조지아
-
중국
-
짐바브웨
-
체코
-
칠레
-
카메룬
-
카자흐스탄
-
카타르
-
캄보디아
-
캐나다
-
케냐
-
코스타리카
-
코트디부아르
-
콜롬비아
-
콩고
-
콩고 민주공화국
-
쿠바
-
쿠웨이트
-
크로아티아
-
키르기스스탄
-
키프로스(국가 이름)
-
타지키스탄
-
탄자니아
-
태국
-
터키
-
튀니지
-
트리니다드 토바고
-
파나마
-
파라과이
-
파키스탄
-
파푸아뉴기니
-
팔레스타인
-
페루
-
포르투갈
-
폴란드
-
푸에르토리코
-
프랑스
-
핀란드
-
필리핀
-
헝가리
-
호주
-
홍콩
- Forex
- Crypto
