LPDDR급 효율을 서버 모듈에 담다

LPDDR급 효율을 서버 모듈에 담다

LPDDR급 효율을 서버 모듈에 담다

LPDDR5X을 적용한 SOCAMM2는 기존 DDR 기반 서버 메모리 솔루션²⁾ 대비 메모리 전력 소모를 크게 낮춰, 성능 저하 없이 70% 이상 향상된 전력 효율을 제공합니다. 이로 인해 서버 전체 전력과 발열이 줄어 열 관리가 한층 수월해지고, 고집적 AI 인프라에서 핵심인 냉각 부담도 완화할 수 있습니다. 그 결과, 동일한 전력 한도 내에서 더 많은 AI 서버를 운용할 수 있어 데이터센터 에너지 효율을 높이고 TCO(총소유비용) 절감에도 기여합니다.

²⁾ DDR5 기반 RDIMM 모듈

SOCAMM2는 전력 효율을 높이는데 그치지 않고, 최신 AI 가속기가 요구하는 높은 메모리 대역폭까지 제공합니다. 모듈당 최대 153.6GB/s의 대역폭을 지원해 기존 DDR 기반 메모리³⁾ 대비 최대 2.6배 향상된 성능을 구현하며, 메모리 병목을 줄이고 GPU 활용도를 더욱 끌어올립니다. 이를 통해 동일한 서버 인프라에서 더 많은 AI 작업을 병렬로 처리할 수 있어, 실시간 혹은 저지연 추론 서비스의 응답성을 한층 강화할 수 있습니다.

³⁾ DDR5 기반 RDIMM 모듈

SOCAMM2는 일반적인 서버용 모듈과 달리 수평 방향의 장착 구조를 채용합니다. 이 배치 방식은 CPU와 AI 가속기 주변에 시스템 공간 활용도를 높여 히트싱크 크기와 배치를 보다 유연하게 설계할 수 있게 해 주며, 전면에서 후면으로 흐르는 공기 흐름도 한층 매끄럽게 구성할 수 있게 해 줍니다. LPDDR 기반 저전력 특성과 맞물려, 이러한 수평 설계는 고집적 AI 서버에서 냉각 효율과 온도 마진을 높이는 데 기여하며, 공랭 및 수랭 등 다양한 냉각 방식과도 자연스럽게 호환됩니다.

SOCAMM2는 LPDDR을 메인보드에 직접 실장하는 기존 방식과 달리, 탈부착이 가능한 모듈 구조를 채택했습니다. 이를 통해 메인보드를 수정할 필요 없이 모듈만 교체하거나 업그레이드하며 메모리 용량과 성능을 단계적으로 확장할 수 있어, 데이터센터의 수명주기 관리와 시스템 유지보수 과정이 한층 간소화됩니다. 메모리 교체에 따른 부담을 줄이고 서버 다운타임을 최소화해 기존 서버 플랫폼의 수명을 늘리는 데 도움을 줍니다. LPDDR의 강점과 모듈형 설계를 결합한 SOCAMM2는 변화하는 AI 워크로드 요구에 맞춰 서버 인프라를 유연하게 고도화할 수 있는 실질적인 대안입니다.