AI 시대를 이끌 세계 최초의 CMM-D 기술

메모리 용량과 대역폭에 대한 끝없는 수요는 기존 메모리 기술의 한계를 허물고 있다. 기존 DRAM 설계는 특정 범위를 넘어 메모리 용량을 확장하는데 한계가 있기 때문에 완전히 새로운 메모리 인터페이스 기술을 필요로 한다. 이와 더불어 AI와 빅데이터의 부상은 대량의 데이터를 처리하기 위해 다양한 유형의 여러 프로세서가 동시에 작동하는 이기종 컴퓨팅의 트랜드를 촉진중이다.

2021년 5월, 삼성은 업계 최초의 Compute Express Link(CXL^®)을 기반으로 한 Memory Module – DRAM (CMM-D) 개발을 발표했다. 그리고 이듬해 5월, 차세대 CMM-D 2.0을 선보였다. 이 제품은 업계 최초의 512GB 메모리 모듈로 고대역폭을 지원하며 지연 시간이 줄어든 제품이다. 이는 CXL기술의 상용화 및 실제 적용에 있어서 중요한 단계라고 할 수 있다.

CMM-D란 무엇인가?

CMM-D의 핵심은 삼성의 DRAM 기술과 CXL^® 컨소시엄을 통해 개발된 CXL 오픈 표준 인터페이스의 통합이다. CXL은 PCIe 물리 계층을 기반으로 한 고속, 저지연 CPU-장치 상호연결 기술이다. CXL은 호스트 CPU와 가속기 및 메모리 확장 장치와 같은 연결된 장치 간의 효율적인 연결성을 제공한다. CXL 트랜잭션 계층은 단일 링크 상에서 동적으로 다중화된 세 가지 하위 프로토콜인 CXL.io, CXL.cache 및 CXL.mem으로 구성된다. CXL 장치가 CXL 호스트에 연결되면 CXL.io 프로토콜을 통해 검색, 열거, 구성 및 관리된다. CXL.cache는 CXL 장치가 프로세서 메모리에 액세스할 수 있도록 하며, CXL.mem은 프로세서가 CXL 장치 메모리에 액세스할 수 있도록 한다. CXL.cache 및 CXL.mem 프로토콜 스택은 특히 저지연을 위해 최적화되었다.

CMM-D 특징과 이점

시스템에 메모리 용량과 대역폭을 늘리려면 기존 CPU 메모리 채널의 개수를 늘려야 한다. 하지만CPU에 메모리 채널을 추가하게 되면 공학적 복잡성이 증가하고 비용이 상승한다. CXL Type 3 메모리 확장 장치는 CPU 메모리 채널 개수를 늘리지 않고도 메모리 용량과 대역폭을 유연하고 강력하게 증가시킬 수 있게 해준다.

CMM-D는 CXL Type 3 장치로서 다음과 같은 메모리 확장 기능과 이점을 제공한다.

CMM-D 메모리 일관성

CXL의 중요한 기능 중 하나는 직접 연결된 CPU 메모리와 CXL 장치의 메모리 간에 메모리 일관성을 유지하는 것이다. 이는 호스트와 CXL 장치가 동일한 데이터를 문제없이 볼 수 있다는 의미이다. CXL 호스트에는 CXL.cache와 CXL.mem 트랜잭션을 사용하여 연결된 메모리에 일관성 있게 액세스하는 홈 에이젼트가 있다. 이를 통해 CXL 호스트와 CXL 장치는 공유된 데이터에 작업할 수 있으며 메모리 위치의 동일한 복사본을 보장한다. 호스트나 연결된 장치 중 하나에서 데이터를 변경하더라도, 홈 에이전트는 데이터에 대한 동시 변경을 허용하지 않으므로 홈 에이전트는 데이터의 모든 복사본이 일관성을 유지할 수 있도록 해준다.

CMM-D 메모리 유형

CXL의 장점은 메모리 미디어 기술에 대한 지식이 없어도 다양한 유형의 메모리를 CXL 인터페이스를 통해 호스트에 연결할 수 있다는 점이다. 게다가, CXL.mem 트랜잭션은 DDR 메모리와 마찬가지로 바이트 주소 기반의 Load/Store 트랜잭션으로 이루어져 있기 때문에, 연결된 모든 CXL 메모리는 응용 프로그램에서 주 메모리로 인식할 수 있다.

CMM-D 메모리 풀링 및 스위칭

CXL 2.0은 단일 레벨 스위칭 및 메모리 풀링도 지원하다. 메모리 풀링은 메모리 리소스의 동적 할당 및 해제를 통해 전체 시스템 효율성을 증가시킨다. 또한 서버 시스템에서 발생하는 낭비되는 메모리를 줄여준다.