SK하이닉스, AI 메모리 병목 해소 위한 메모리 중심 랙 설계 제시

Traders Union
모든 뉴스
금융 뉴스
메모리 중심 랙 설계

모든 뉴스

주요 뉴스

편집자 추천

주식

암호화폐

경제

외환

원자재

비즈니스 및 자산

시장의 소리

Dmytro Kharkov

4시간 전

SK하이닉스, AI 메모리 병목 해소 위한 메모리 중심 랙 설계 제시 — AI 메모리 혁신 제안

AI 추론 수요가 커지면서 데이터센터의 연산 효율과 전력 부담을 좌우하는 핵심 변수로 메모리가 부상하고 있다. SK하이닉스는 이런 환경 변화에 맞춰 메모리를 AI 랙 시스템의 중심에 두는 설계 구상을 내놓으며 서버 구축 방식의 전환을 제안하고 있다.

하이라이트

SK하이닉스는 OCP 글로벌 서밋에서 AI 병목 해소를 위해 메모리 중심 AI 랙 시스템(MARS) 설계를 공개했다.
회사는 CPU·GPU 연결 메모리를 분리해 대규모 메모리 풀을 구성, 서버 간 유휴 메모리를 효율적으로 할당 가능하다고 밝혔다.
SK하이닉스는 8월 Nature Electronics에 분리형 메모리 개념을 소개했고, 현재 MARS 맞춤형 테스트 및 파트너와의 시스템 확장을 진행 중이다.

OCP 서밋에서 공개한 메모리 중심 설계

SeDaily에 따르면, 김호식 SK하이닉스 부사장은 12일 미국 캘리포니아주 새너제이컨벤션센터에서 열린 OCP 글로벌 서밋에서 ‘메모리 중심 AI 랙 시스템(MARS) 소개’를 주제로 발표했다. 그는 기존의 CPU·GPU 중심 서버 구조가 생성형 AI와 하이퍼스케일 데이터센터 확산 속에서 메모리 벽과 전력 소비 증가를 초래하고 있다고 설명했다.

서버 랙은 GPU와 CPU를 비롯한 AI 프로세서, HBM 같은 메모리, 냉각장치, 스위치 등을 담는 네트워크 장비 구조물이다. 학습용 AI 시장에서는 프로세서가 핵심으로 여겨졌지만, 추론형 에이전트 시대로 넘어오면서 빠르고 경제적인 연산이 중요해지자 업계는 랙 구성 자체를 통해 효율을 높이는 경쟁에 나서고 있다.

김 부사장은 AI 분야에서 메모리 수요가 급격히 늘고 있지만 GPU 메모리인 HBM은 물리적, 경제적 제약에 직면해 있다고 말했다. 차세대 AI 성능을 구현하려면 데이터의 저장, 접근, 공유 방식을 근본적으로 다시 봐야 한다는 것이 그의 설명이다.

메모리 풀 기반 확장 전략

SK하이닉스가 제시한 해법은 CPU와 GPU에 연결된 메모리를 분리해 대규모 메모리 풀을 만드는 방식이다. 이렇게 되면 특정 서버에 메모리가 부족할 때 다른 서버의 여유 용량을 활용할 수 있어 추가 메모리나 AI 프로세서 구매 부담을 줄일 수 있다.

회사는 메모리 중심 랙 구조가 다수의 연산 장치에 대용량 공유 메모리를 제공하고 데이터 접근을 더 유연하게 만든다고 보고 있다. 수요에 따라 용량을 할당할 수 있어 불필요한 서버 구매 비용을 줄이고, 메모리 풀을 통한 고속 데이터 공유도 가능하다는 설명이다.

SK하이닉스는 지난 8월 학술지 Nature Electronics에 분리형 메모리 개념을 소개했으며, 현재 MARS 맞춤형 테스트를 지원하면서 여러 파트너사와 시스템 확장을 진행하고 있다고 밝혔다. 이는 HBM 공급 제약과 데이터센터 비용 부담이 커지는 가운데 메모리 기업이 부품 공급을 넘어 AI 인프라 설계 논의로 역할을 넓히려는 움직임으로 해석된다.

중국 CXMT의 4F² 구조 기반 DDR5 RDIMM 상용화 계획은 차세대 D램 미세화 경쟁이 빠르게 격화되고 있음을 보여준다고 우리 매체는 이전 기사에서 짚었습니다. CXMT는 VSG 트랜지스터와 공정 재설계를 통해 성능을 끌어올리겠다고 밝히며, 삼성전자·SK하이닉스가 연구 단계에 있는 기술을 제품 출시 일정과 함께 제시해 글로벌 D램 경쟁 구도에 긴장감을 더했습니다.

이 자료는 제3자의 의견을 포함할 수 있으며, 이 웹페이지의 데이터 및 정보는 우리의 면책 조항에 따라 투자 조언을 구성하지 않습니다. 우리는 엄격한 편집 무결성을 준수하지만, 이 게시물에는 파트너의 제품에 대한 언급이 포함될 수 있습니다.

이 글이 마음에 드셨나요?