삼성전자·SK하이닉스, CXL 메모리로 AI 메모리 계층 확장 경쟁

삼성전자·SK하이닉스, CXL 메모리로 AI 메모리 계층 확장 경쟁
AI 시대 메모리 전쟁

AI 토큰 사용량 급증에 대응해 메모리 반도체 업체들이 HBM과 DDR의 용량 한계를 보완할 새로운 계층 구축에 속도를 내고 있다. CXL 메모리는 비교적 낮은 비용으로 대용량 확장을 지원하면서 AI 추론 성능과 서버 효율을 높일 수 있어 차세대 AI 칩 경쟁의 핵심 축으로 부상하고 있다.

하이라이트

  • SK하이닉스는 IMTE 아키텍처를 통해 HBM, DDR, SSD 사이에 CXL 하이브리드 메모리를 추가해 AI 추론 효율을 35.7% 높였다고 밝혔다.
  • 삼성전자는 CXL 기술 백서에서 CMM-D 2.0이 DDR5의 92% 수준 AI 추론 성능을 달성하고, D램·낸드 기반 CMM-하이브리드도 개발 중이라고 발표했다.
  • 골드만삭스는 글로벌 월간 AI 토큰 사용량이 2030년 12경 개로 24배 급증 전망에 따라, 엔비디아·인텔·AMD·Microsoft 등 빅테크가 CXL 메모리 지원 확대에 나서고 있다.

AI 추론용 메모리 구조 확장

SeDaily에 따르면 삼성전자와 SK하이닉스는 컴퓨트익스프레스링크, CXL, 메모리 개발을 통해 HBM과 DDR 바깥의 새로운 메모리 계층 확대를 추진하고 있다. 기존 AI 칩 구조에서는 HBM과 DDR이 각각 GPU와 CPU에 직접 탑재돼야 해 물리적 연결 수와 비용 측면에서 확장에 제약이 크다.

반면 CXL 메모리는 별도 장치 형태로 용량을 늘릴 수 있어 비용 부담을 상대적으로 낮출 수 있다. 직접 연결형 메모리보다 속도 저하 가능성은 있지만, CXL 인터페이스를 통해 지연 시간을 수백 ns 수준으로 유지하며 연산 보조 역할을 수행할 수 있다는 점이 강점으로 꼽힌다.

SK하이닉스는 지난달 추론 계층 메모리 확장, IMTE, 아키텍처를 공개하며 HBM, DDR, SSD 사이에 CXL 하이브리드 메모리를 추가한 구조를 제시했다. 회사는 이를 통해 AI 추론 효율을 기존보다 35.7% 높였다고 설명한다. 이 구조는 CXL 메모리를 단순 저장 용량 확대 수단이 아니라 HBM과 DDR, SSD를 연결하는 허브로 활용해 필요한 데이터를 선제적으로 이동시키는 방식이다.

삼성전자도 이달 9일 공개한 CXL 기술 백서에서 CMM-D 2.0이 최신 DDR5의 92% 수준에 근접한 AI 추론 성능을 구현할 수 있다고 밝혔다. 삼성전자는 D램뿐 아니라 낸드까지 적용한 CMM-하이브리드(H) 개발도 진행하고 있으며, 마이크론도 CXL 2.0 제품 공개 이후 후속 규격 기반 신제품 개발에 속도를 내는 것으로 알려졌다.

AI 칩 수요 확대와 업계 파급효과

글로벌 투자은행 골드만삭스는 전 세계 월간 AI 토큰 사용량이 올해 5000조 개에서 2030년 12경 개로 24배 급증할 것으로 전망한다. 토큰 사용량이 늘어날수록 연산 결과를 저장하는 메모리 수요도 커지기 때문에, 수십 TB급 데이터를 처리해야 하는 AI 칩에서는 메모리 계층 확장이 점점 더 중요해지고 있다.

최태원 SK 회장도 최근 SK하이닉스 나스닥 상장 기념 기자간담회에서 AI 사용 확대가 KV캐시 증가로 이어진다고 설명했다. 업계에서는 CXL 메모리가 아직 상용화 초기 단계이지만 주요 고객사가 필요 시 빠르게 채택할 가능성이 있어 공급사들이 선제적으로 기술 경쟁에 나서고 있다고 본다.

엔비디아, 인텔, AMD 등 주요 빅테크는 하반기 출시 예정인 신형 칩에서 CXL 메모리 호환 지원을 확대하며 대응하고 있다. Microsoft는 지난해 말 CXL 메모리를 탑재한 클라우드 서비스를 시범 출시했으며, SK하이닉스는 샌디스크와 함께 고대역폭플래시, HBF, 표준화도 추진하고 있다.

이와 함께 엔비디아는 차기 베라 루빈 라인업에 낸드 기반 추론메모리확장, CMX, 도입을 계획하고 있다. 구글 TPU와 그록 LPU 등도 더 빠른 메모리 영역을 넓히는 방향으로 설계를 진화시키고 있어, AI 반도체 시장에서는 새 메모리 계층을 둘러싼 경쟁이 한층 치열해지고 있다.

우리의 이전 기사에서는 AI·반도체 비중이 큰 한국 증시가 글로벌 투자심리를 가늠하는 ‘선행 지표’로 부상한 흐름을 짚었습니다. 특히 삼성전자와 SK하이닉스 주가 변동이 코스피는 물론 나스닥100 등 해외 기술주 흐름과의 연계성을 키우며, 급락 구간에서는 변동성 확대와 레버리지 자금 유입에 따른 위험도 함께 부각됐다고 정리했습니다.

이 자료는 제3자의 의견을 포함할 수 있으며, 이 웹페이지의 데이터 및 정보는 우리의 면책 조항에 따라 투자 조언을 구성하지 않습니다. 우리는 엄격한 편집 무결성을 준수하지만, 이 게시물에는 파트너의 제품에 대한 언급이 포함될 수 있습니다.