트윗이 작성자에 의해 삭제되었습니다.
하지만 우리는 모든 것을 저장했습니다 🙂.
Anthropic은 오랫동안 엄격한 안전장치와 모델 발전의 균형을 맞추는 안전 중심 AI 기업으로 자리매김해 왔다. 그러나 Dario Amodei CEO가 최근 역량 향상 속도를 조절하자고 촉구하면서, 효과적인 자제가 다른 경쟁사나 중국에 뒤처지지 않으면서 상업적 리더십과 공존할 수 있는지에 대한 의문이 제기된다.
이 기사는 원문을 번역한 것입니다. 당사 특파원이 작성한 원문은 여기에서 확인하실 수 있습니다.
최전선 개발 속도 조절 촉구
약 $2 trillion 규모에 이를 것으로 예상되는 Nasdaq IPO를 준비하는 가운데, Dario Amodei CEO는 최전선 AI 연구소들에 공개적으로 “최전선 개발 속도를 조절하라”고 촉구했다. 그의 3단계 계획은 안전 조치가 따라잡을 수 있도록 역량 발전 속도를 늦추는 것을 목표로 한다. 공동 창업자 Jack Clark은 정부가 검증 가능한 AI 킬 스위치를 의무화해야 할 수도 있다고 덧붙였다.
X에서 게시물 보기 로드 중...
불과 며칠 전, 회사는 여러 사람이 Claude를 사이버 작전과 심지어 무기 소프트웨어에 악용하려 한 수많은 사례를 담은 상세한 위협 인텔리전스 보고서를 공개했다. Amodei는 또한 더 강력한 AI “스웜”이 6–12개월 안에 인터넷의 상당 부분을 통제할 가능성이 있다고 경고했다. OpenAI의 Sam Altman과 Elon Musk도 이 문제에 대해 비슷한 견해를 밝혔다. Altman은 OpenAI가 이미 내부적으로 속도 조절을 도입하기 위한 몇 가지 조치를 취했다고 말했다.
수익성과 신중함의 조우
재무적 관점에서 Anthropic은 지속적으로 강력한 재무 실적을 보고하고 있다. 회사는 조정 영업이익 흑자를 2분기 연속 달성할 것으로 예상한다. 파트너 수익 배분과 학습 비용을 제외한 매출총이익률은 80 percent를 웃돈다. 2분기 매출은 약 $11.5 billion에 달했고, 7월 말 기준 연환산 매출은 $65 billion을 기록했다. 이러한 수치는 IPO를 계획하는 이유를 설명한다. Anthropic은 상장 플랫폼으로 Nasdaq을 선택했으며, 10월 상장 가능성을 준비하고 있다.
X에서 게시물 보기 로드 중...
지속적인 수익성은 최전선 AI 연구소 특유의 현금 소진을 우려하는 투자자들의 신뢰를 높이는 데 중요하다. 그러나 빠른 매출 성장은 지속적인 역량 발전과 Claude 같은 모델의 기업 도입에 달려 있다. 개발 속도를 늦추면 경쟁사에 추격할 여지를 주거나 중국 기업이 격차를 좁히게 할 수 있다. Amodei는 속도 조절 체제 아래에서도 발전은 여전히 빠르게 보일 것이며, 대부분의 안전 위험을 예방할 수 있다고 믿는다.
킬 스위치와 제3자 감시
Jack Clark은 논의를 한층 더 구체화했다. Anthropic 공동 창업자는 BBC와의 인터뷰에서 대부분의 연구소가 이미 시스템을 종료할 수 있는 내부적 수단을 갖추고 있다고 말했다. 그러나 더 어려운 문제는 정부가 독립적인 제3자가 확인할 수 있는 검증 가능한 킬 스위치를 요구해야 하는지 여부라고 그는 주장했다. 이러한 장치는 외부 책임성을 보장할 것이다.
X에서 게시물 보기 로드 중...
Anthropic은 테스트 중 Claude 모델이 외부 시스템에 접근했던 과거 사건들에 대해 METR의 독립 검토를 받는 데 동의했다. 이러한 조치는 Anthropic의 안전성 브랜드에 긍정적인 영향을 미치며, 더 빠르게 움직이는 경쟁사에 맞서 경쟁 우위를 제공할 수 있다. 그러나 내부 프로세스와 컴플라이언스 비용, 규제 요건에 관한 새로운 의문도 제기된다.
자제의 지정학
Amodei는 민주주의 국가들이 중국에 기술 리더십을 내주지 않으면서 자제를 조율해야 한다고 강조했다. Anthropic의 오용 보고서에는 모델 증류와 정보 수집 시도를 포함해 중국 기업과 국가 연계 주체들이 조직적으로 등장한다. 일부 미국 의원들은 연구자들의 경고를 인용하며 실존적 위험에 동의하고 더 엄격한 규칙을 지지한다. 행정부와 가까운 인사들을 포함한 다른 이들은 안전성에 따른 일시 중단을 베이징에 주는 선물로 본다.
X에서 게시물 보기 로드 중...
첨단 모델에 대한 수출 통제와 선별적 접근 제한은 이미 지정학에서 지정학의 역할이 커지고 있음을 보여줬다. 중국이 참여하지 않는 공동 감속은 미국 기업들을 불리한 위치에 놓을 수 있다. 보고서에 따르면 Nvidia, Palantir, Booz Allen 같은 일부 기업은 데이터 보존 및 지식재산권 우려로 특정 Anthropic 모델을 제한했다. 따라서 안전 사고나 정책 변화가 발생하면 기업 차원의 신뢰에 직접적인 영향을 미친다.
브랜드와 경쟁의 균형
Constitutional AI, 엄격한 테스트, 공개 위협 보고서는 Anthropic이 책임 있는 기업 이미지를 구축하고 위험 회피 성향의 기업 고객을 유치하는 데 활용된다. BlackRock, Charles Schwab, Addepar와의 커넥터를 탑재한 최근 Claude for Financial Advisors 출시는 자제를 주장하면서도 상업적 확장을 이어가고 있음을 보여준다. 경쟁사들이 역량의 큰 도약을 이루고 시장 점유율을 확보한다면, 투자자와 고객은 신중함을 주저함으로 해석할 수 있으므로 경영진은 이와 관련한 모든 적절한 우려의 균형을 맞춰야 한다.
X에서 게시물 보기 로드 중...
이전의 업계 전반 안전성 논의는 경쟁 압력 아래에서 집행하기 어려운 자발적 약속을 낳았다. Anthropic은 투명성과 제3자 접근을 앞세우는 동시에 향후 IPO를 염두에 두고 공격적인 성장을 추구함으로써 이 문제를 해결하려 하고 있다. 성공 여부는 충분한 동종 업체가 따를지, 그리고 시장이 역량만큼 신중함에도 높은 가치를 부여할지에 달려 있다.
이 글이 마음에 드셨나요?
인기 뉴스
상위 5 브로커
미국
-
가나
-
그리스
-
나미비아
-
나이지리아
-
남아프리카 공화국
-
네덜란드
-
네팔
-
노르웨이
-
뉴질랜드
-
대만, 중화민국
-
대한민국
-
덴마크
-
도미니카 공화국
-
독일
-
라오스
-
라트비아
-
레바논
-
레소토
-
루마니아
-
룩셈부르크
-
르완다
-
리비아
-
리투아니아
-
마다가스카르
-
말레이시아
-
멕시코
-
모로코
-
모리셔스
-
모잠비크
-
몬테네그로
-
몰도바
-
몰타
-
몽골
-
미국
-
미얀마
-
바레인
-
바하마
-
방글라데시
-
베네수엘라
-
베트남
-
벨기에
-
벨라루스
-
보츠와나
-
볼리비아
-
북마케도니아
-
불가리아
-
브라질
-
브루나이 다루살람
-
사우디아라비아
-
세르비아
-
소말리아
-
스리랑카
-
스웨덴
-
스위스
-
스페인
-
슬로바키아
-
슬로베니아
-
시리아
-
싱가포르
-
아랍에미리트
-
아르메니아
-
아르헨티나
-
아이티
-
아일랜드
-
아제르바이잔
-
아프가니스탄
-
알바니아
-
알제리
-
앙골라
-
에스와티니
-
에스토니아
-
에콰도르
-
에티오피아
-
엘살바도르
-
영국
-
예멘
-
오만
-
오스트리아
-
요르단
-
우간다
-
우루과이
-
우즈베키스탄
-
우크라이나
-
이라크
-
이란, 이슬람 공화국
-
이스라엘
-
이집트
-
이탈리아
-
인도
-
인도네시아
-
일본
-
자메이카
-
잠비아
-
재결합(국가 이름)
-
조지아
-
중국
-
짐바브웨
-
체코
-
칠레
-
카메룬
-
카자흐스탄
-
카타르
-
캄보디아
-
캐나다
-
케냐
-
코스타리카
-
코트디부아르
-
콜롬비아
-
콩고
-
콩고 민주공화국
-
쿠바
-
쿠웨이트
-
크로아티아
-
키르기스스탄
-
키프로스(국가 이름)
-
타지키스탄
-
탄자니아
-
태국
-
터키
-
튀니지
-
트리니다드 토바고
-
파나마
-
파라과이
-
파키스탄
-
파푸아뉴기니
-
팔레스타인
-
페루
-
포르투갈
-
폴란드
-
푸에르토리코
-
프랑스
-
핀란드
-
필리핀
-
헝가리
-
호주
-
홍콩
- Forex
- Crypto
