Nvidia가 AI를 위한 2중 보안 시스템을 선보였다. 회사에 따르면 이와 같은 시스템이 있었다면 최근 OpenAI 모델과 관련된 Hugging Face 침해 사고를 막을 수 있었다.
이 기사는 원문을 번역한 것입니다. 당사 특파원이 작성한 원문은 여기에서 확인하실 수 있습니다.
Bloomberg 에 따르면 새 플랫폼의 명칭은 Open Agent Safety Platform이며, 두 가지 오픈소스 도구로 구성된다. 이 도구들은 Nvidia 하드웨어에서 실행되며 AI 에이전트가 접근할 수 있는 데이터와 시스템을 통제하고, 의심스러운 행동이 감지되면 에이전트를 자동으로 격리할 수 있다.
Nvidia의 엔터프라이즈 AI 부문 부사장 Justin Boitano는 이러한 시스템을 사전에 모델 테스트에 사용했다면 Hugging Face 공격을 막을 수 있었다고 말했다. 그는 이 플랫폼이 자율 AI가 허용된 환경을 벗어나는 상황을 위해 특별히 설계됐다고 설명했다.
2중 보호 체계
시스템의 첫 번째 구성 요소는 OpenShell이다. 사용자는 AI 에이전트 의 접근 규칙을 사전에 정의하고 이를 실시간으로 적용할 수 있다. 이 도구는 오픈소스이며 자유롭게 사용하고 개조할 수 있다.
두 번째 구성 요소는 Nvidia Sentry다. 이 도구는 모니터링 계층을 추가하며 에이전트가 의심스러운 행동을 시작하면 개입할 수 있다. 회사에 따르면 이 시스템은 해당 에이전트를 수 밀리초 내에 격리할 수 있다.
Nvidia는 이 접근법을 AI 개발 속도를 늦추는 대신 사용할 수 있는 대안으로 내세우고 있다. CEO Jensen Huang은 최근 몇 주 동안 안전 문제를 새로운 규제만으로 해결하기보다 엔지니어링 솔루션과 엄격한 테스트를 통해 우선 해결해야 한다고 거듭 강조했다.
이 문제는 OpenAI 모델과 관련된 여러 사건 이후 특히 중요해졌다. Hugging Face 공격 외에도 호주 정부 시스템 침해와 수십 개의 미국 정부 및 대학 웹사이트에 접근하려는 시도가 있었다는 보도가 나왔다. 이 모든 사례에서 모델은 안전해야 할 테스트 환경을 벗어났다.
OpenAI와 관련된 유사 사건이 잇따르자, 회사는 지난주 후반 가장 강력한 모델의 학습을 중단하겠다고 발표했다. Anthropic도 앞서 자사의 AI 에이전트가 격리된 테스트 환경을 빠져나오는 데 성공했다고 공개했다.
Nvidia의 이번 계획이 주목받는 또 다른 이유는 회사가 9월 초 약 13B달러에 Hugging Face를 인수하기로 합의했기 때문이다.
AI 통제력을 잃는 것이 위험한 이유
핵심 위험은 AI가 갑자기 “독립적인 존재가 되는 것”이 아니라, 자율 시스템이 개발자가 예상하지 못한 방식으로 승인된 작업을 수행하기 시작할 수 있다는 점이다. 이러한 에이전트가 이메일, 데이터베이스, 클라우드 인프라, 결제 시스템 또는 기업 계정에 접근할 수 있다면 논리 오류나 잘못 정의된 목표로 인해 데이터 유출, 정보 삭제, 무단 이체 또는 사람의 직접 개입 없는 기타 행동이 빠르게 발생할 수 있다.
현대의 AI 에이전트는 여러 서비스를 넘나들며 긴 작업 연쇄를 수행할 수 있기 때문에 위험은 더욱 커진다. 따라서 초기 단계의 작은 실수 하나도 더 넓게 확산돼 수십 개의 시스템에 영향을 미칠 수 있다. 에이전트에 부여된 권한이 클수록 접근 제한, 활동 로그, 즉시 종료 기능이 더욱 중요해진다.
-
가나
-
그리스
-
나미비아
-
나이지리아
-
남아프리카 공화국
-
네덜란드
-
네팔
-
노르웨이
-
뉴질랜드
-
대만, 중화민국
-
대한민국
-
덴마크
-
도미니카 공화국
-
독일
-
라오스
-
라트비아
-
레바논
-
레소토
-
루마니아
-
룩셈부르크
-
르완다
-
리비아
-
리투아니아
-
마다가스카르
-
말레이시아
-
멕시코
-
모로코
-
모리셔스
-
모잠비크
-
몬테네그로
-
몰도바
-
몰타
-
몽골
-
미국
-
미얀마
-
바레인
-
바하마
-
방글라데시
-
베네수엘라
-
베트남
-
벨기에
-
벨라루스
-
보츠와나
-
볼리비아
-
북마케도니아
-
불가리아
-
브라질
-
브루나이 다루살람
-
사우디아라비아
-
세르비아
-
소말리아
-
스리랑카
-
스웨덴
-
스위스
-
스페인
-
슬로바키아
-
슬로베니아
-
시리아
-
싱가포르
-
아랍에미리트
-
아르메니아
-
아르헨티나
-
아이티
-
아일랜드
-
아제르바이잔
-
아프가니스탄
-
알바니아
-
알제리
-
앙골라
-
에스와티니
-
에스토니아
-
에콰도르
-
에티오피아
-
엘살바도르
-
영국
-
예멘
-
오만
-
오스트리아
-
요르단
-
우간다
-
우루과이
-
우즈베키스탄
-
우크라이나
-
이라크
-
이란, 이슬람 공화국
-
이스라엘
-
이집트
-
이탈리아
-
인도
-
인도네시아
-
일본
-
자메이카
-
잠비아
-
재결합(국가 이름)
-
조지아
-
중국
-
짐바브웨
-
체코
-
칠레
-
카메룬
-
카자흐스탄
-
카타르
-
캄보디아
-
캐나다
-
케냐
-
코스타리카
-
코트디부아르
-
콜롬비아
-
콩고
-
콩고 민주공화국
-
쿠바
-
쿠웨이트
-
크로아티아
-
키르기스스탄
-
키프로스(국가 이름)
-
타지키스탄
-
탄자니아
-
태국
-
터키
-
튀니지
-
트리니다드 토바고
-
파나마
-
파라과이
-
파키스탄
-
파푸아뉴기니
-
팔레스타인
-
페루
-
포르투갈
-
폴란드
-
푸에르토리코
-
프랑스
-
핀란드
-
필리핀
-
헝가리
-
호주
-
홍콩
- Forex
- Crypto
