하이퍼스케일 시대에 데이터센터를 확장하는 방법

차세대 CXL 인터페이스 기반의 신기술이 데이터센터의 메모리, 스토리지 관리 방식을 혁신하고 있다. AI, 머신 러닝, 클라우드 컴퓨팅, 비디오 트랜스코딩 및 기타 고성능 컴퓨팅 애플리케이션 사이에서 데이터센터가 처리해야하는 데이터 양은 그 어느 때보다 폭증하고 있다. 데이터 서버와 IT 시스템이 처리해야 하는 전례 없는 과부하 문제를 해결하기 위해 삼성은 CXL(Compute Express Link) 표준을 채택했다. CXL 삼성 메모리 익스팬더와 같은 제품은 데이터센터의 성능, 비용 및 효율성을 개선하면서 데이터 센터의 데이터 처리량을 하이퍼스케일 규모로 확장하도록 지원한다. 어떻게 가능할까? 메모리 분야에서 가장 혁신적인 신기술을 소개하고, 삼성 반도체가 이 분야를 어떻게 선도하고 있는지 알아보자. CXL이란 무엇인가? 삼성의 가장 혁신적인 새로운 메모리 기술을 뒷받침하는 차세대 인터페이스인 CXL은 개방형 표준에 기반하는 인터커넥트 기술이다. 이러한 CXL 표준 인터페이스는 고성능 컴퓨팅 워크로드를 처리할 때 다양한 유형의 네트워크 장치가 보다 효율적으로 작동할 수 있도록 지원한다. 작동 원리는 무엇일까? CXL은 네트워크 장치들이 호스트 프로세서의 병목 현상을 우회하고 빠르고 직접적인 통신을 할 수 있도록 지원한다. 이러한 간소화된 통신 경로를 통해 데이터 처리를 최적화하고 전체 시스템 성능을 향상시킬 수 있다. 손으로는 여러 개의 공을 저글링하면서 동시에 머릿속으로는 세금을 계산한다고 상상해 보자. 아마도 공을 떨어뜨리거나 적어도 계산 실수를 하게 될 것이다. 하지만 이제 뇌가 먼저 처리할 필요 없이 눈으로 보고 있는 데이터를 바로 손으로 보낼 수 있다고 상상해보자. 이것이 가능하다면, 공을 저글링하면서 동시에 세금 계산을 쉽게 할 수 있을 것이다. 바로 이것이 CXL이 데이터 서버에서 수행하는 작업이다. 삼성은 CXL 표준의 고유한 강점을 활용하여 하이퍼스케일 애플리케이션의 성능과 효율성을 개선하고, 이를 관리하는 데 필요한 소프트웨어 스택과 오버헤드를 줄이며, 일반적인 수준보다 더 큰 용량과 메모리 대역폭을 제공한다. CXL 메모리 익스팬더 작년에 삼성은 최초로 512GB CXL DRAM 모듈을 선보였다. CXL 메모리 익스팬더라고 불리는 이 모듈은 기존 IT 시스템을 유지하면서 매우 높은 메모리 용량을 구현하기 위해 CXL 기술을 활용하였다. 표준 컴퓨터 아키텍처에서 중앙 처리 장치(CPU) 또는 호스트 프로세서는 듀얼 인라인 메모리 모듈(DIMM)에 들어있는 DRAM에만 액세스할 수 있다. 즉, CPU가 액세스할 수 있는 메모리 양의 상한은 DIMM의 최대 용량에 의해 결정된다. ChatGPT를 실행하는 대규모 데이터 센터의 경우, 하이퍼스케일 애플리케이션에는 엄청난 양의 메모리가 필요하기 때문에 상한선이 훨씬 더 높을 수 밖에 없다. 하지만 여전히 한계가 있으며, 데이터센터 고객들은 서버가 상한 용량의 한계에 도달하면 기존 시스템보다 더 큰 용량의 신규 시스템을 구축할 수 밖에 없었다. CXL 메모리 익스팬더가 혁신적인 이유는 기존 IT 시스템을 유지하면서 매우 높은 메모리 용량을 구현할 수 있다는 점이다. CXL 메모리 익스팬더는 DIMM의 메모리 용량으로 인한 병목 현상을 발생시키지 않고, 지연 시간을 크게 줄이면서 네트워크를 수십 테라바이트의 메모리로 확장할 수 있다. 또한 CXL 메모리 익스팬더는 기업의 서버 운영 비용과 메모리 효율성을 개선하는 데 도움이 된다. 그 핵심은 메모리 풀링 기능으로, 호스트 프로세서가 메모리 풀에서 필요한 만큼만 메모리를 사용할 수 있다. 뿐만아니라 첨단 보안 기능으로 메모리 풀링에 액세스할 수 있는 호스트를 제한하고, 핫 플러그 기능을 통해 관리자는 현재 동작중인 서버의 별도 종료없이 CXL DRAM의 추가 및 제거가 가능하여 고장 대응의 편의성과 지속적인 서비스를 가능하도록 개선하였다. CXL의 미래 CXL 메모리 익스팬더는 확장형 메모리 개발 키트(SMDK)를 포함하는 삼성 반도체의 CXL 혁신 로드맵의 첫 번째 제품일 뿐이다. 이 제품들을 통해 데이터 센터는 이전보다 더욱 다양하고 효율적인 비용으로 메모리를 관리하고 확장할 수 있게 될 것이다. 하지만 지금보다 앞으로가 더 기대된다. 향후 몇 년 동안 AI, ML, VM 및 기타 HPC 애플리케이션에 대한 서버 요구사항은 계속해서 급증할 것으로 예상된다. 삼성은 하이퍼스케일 시대의 과제를 해결하기 위해 계획 중인 CXL 메모리 혁신을 하루빨리 선보일 준비가 되어 있다.