Anthropic이 인공지능을 활용해 소프트웨어 코드의 취약점을 탐지하는 서비스 OSS Scanner를 선보였다. Ethereum 클라이언트 개발사 Nethermind와 Bitcoin wallet ZEUS가 보안 스캔을 신청한 초기 프로젝트에 포함됐다.
이 기사는 원문을 번역한 것입니다. 당사 특파원이 작성한 원문은 여기에서 확인하실 수 있습니다.
Anthropic의 웹사이트 에 따르면, 이 서비스는 오픈소스 프로젝트를 대상으로 하며 Claude Mythos를 비롯한 회사의 가장 강력한 AI 모델이 생성한 잠재적 취약점 보고서를 제공한다.
이전에 Anthropic 은 오픈소스 소프트웨어의 보안 문제를 이미 검사하고 있었지만, 결과는 사람의 검토를 거친 후에야 개발자들에게 공유됐다. 이 과정은 시간이 많이 걸려 확인된 취약점의 수정이 지연됐다.
새로운 서비스를 이용하면 참가자들은 자동화된 코드 분석 직후 보고서를 받을 수 있다. 이에 따라 수동 검토가 완료될 때까지 기다리지 않고도 취약점을 더 빠르게 식별하고 수정할 수 있다.
Anthropic의 AI를 사용하려는 암호화폐 프로젝트는 어디인가?
Ethereum 네트워크 클라이언트 개발사인 Nethermind는 이 프로그램에 신청한 초기 프로젝트 중 하나였다. 이 회사는 소프트웨어 코드의 잠재적 취약점을 파악하기 위해 전체 저장소의 보안 스캔을 요청했다.
Bitcoin과 Lightning Network용 self-custodial wallet인 ZEUS 개발자들도 애플리케이션의 보안 검토를 요청했다. 특히 결제, 사용자의 private key, Lightning 서비스 연결에 영향을 미칠 수 있는 취약점에 초점을 맞출 예정이다.
또 다른 신청은 Cosmos SDK를 사용해 구축된 탈중앙화 클라우드 컴퓨팅 플랫폼 VirtEngine에서 제출했다.
이 밖에도 AI assistant, AI agent 보안 도구, 클라우드 스토리지 서비스, 에너지 시스템 관리 소프트웨어 개발사들이 신청했다.
보도 시점 기준으로 승인된 신청서는 하나도 없었다. Anthropic은 디지털 인프라에서의 중요도, 사용자 및 해당 서비스에 의존하는 서비스의 수, 원격 공격에 노출될 가능성을 고려해 프로젝트를 개별적으로 평가할 계획이다.
해커들의 인공지능 활용이 증가하고 있다
암호화폐 기업들이 Anthropic 프로그램에 관심을 보이는 것은 인공지능을 활용한 사이버 공격이 늘어나는 가운데 나온 움직임이다. 최신 AI 모델을 활용하면 공격자가 소프트웨어 코드를 분석하고 취약점을 파악하며 exploit을 더 빠르게 개발할 수 있다.
8월에는 Bitcoin swap 서비스 Boltz가 AI를 활용한 일련의 공격 이후 운영을 중단해야 했다. 회사 측은 공격자들이 개발자들이 발견한 취약점을 패치하는 속도보다 더 빠르게 새로운 exploit을 개발하고 있었다고 밝혔다.
암호화폐 결제 서비스 PayPerQ도 인공지능이 활용된 것으로 추정되는 공격을 반복적으로 받았다고 밝혔다.
Anthropic은 AI 개발이 단기적으로 공격자에게 우위를 제공할 수 있다는 점을 인정한다. 취약점 발견과 exploit은 더 저렴하고 빨라지고 있지만, 보안 문제를 검증하고 수정하는 작업에는 여전히 사람의 개입이 필요하다.
OSS Scanner 프로그램은 이러한 격차를 줄이는 것을 목표로 한다. 그러나 접근 권한이 자동으로 부여되는 것은 아니다. Anthropic은 사용자 보안과 디지털 인프라의 복원력에 대한 중요도를 기준으로 프로젝트를 선정할 예정이다.
개발자들이 Anthropic을 신뢰하는 이유
Anthropic은 Claude AI 모델 제품군의 개발사일 뿐 아니라 인공지능 안전을 특히 중시하는 기업으로도 알려져 있다. Dario Amodei와 Daniela Amodei를 비롯한 전 OpenAI 직원들이 2021년에 설립했다. 회사는 설립 초기부터 강력한 AI 모델의 안전성과 통제 가능성을 핵심 우선순위로 삼았다.
Anthropic의 평판은 Amazon과 Google을 비롯한 주요 기술 기업과의 파트너십을 통해서도 뒷받침된다. 이들 기업은 Anthropic의 성장에 수십억 달러를 투자했다. 또한 Anthropic은 신뢰성, 데이터 보호, AI 사용에 대한 통제권을 중시하는 기업 고객들과도 폭넓게 협력하고 있다. 사용자 자금과 private key를 다루는 암호화폐 프로젝트에는 이러한 요소가 특히 중요할 수 있다.
- Forex
- Crypto