삼성전자, 전력 효율을 극대화한 데이터센터 인프라 및 메모리 솔루션을 통해 AI 시대의 오픈 협업 중요성 강조하다

삼성전자는 9월 3일부터 4일까지 한국 수원에서 열린 제2회 2024 Open Compute Project(OCP) APAC Summit에 참가했습니다. 이번 행사의 헤드라인 스폰서로 돌아온 삼성은 기조연설과 Breakout Session을 통해 AI 시대를 위한 선구적인 메모리 솔루션과 데이터 센터 혁신을 선보였으며, 차세대 메모리 솔루션 부스 전시로 많은 주목을 받았습니다.

세계 최대 기술 혁신 조직인 OCP는 2011년에 출범했습니다. OCP Regional APAC Summit은 작년 서울에서 처음 열렸으며, 이는 아시아 태평양 지역에서 개최된 OCP의 첫 행사였습니다. OCP는 고성능 컴퓨팅 수요에 부합하는 하드웨어 및 소프트웨어 설계를 빠르게 혁신하기 위해 업계 리더 간의 오픈 협업을 촉진합니다. 2024 OCP Global Summit은 10월 15일부터 17일까지 캘리포니아주 산호세에서 열릴 예정입니다.

삼성전자 혁신 센터의 HPC 그룹 이민 상무는 "Samsung Innovation Center Powered by OCP"라는 주제로 기조연설을 했습니다. 이 상무는 삼성의 새로운 데이터 센터를 소개하며 AI 시대를 위한 인프라 및 전력 효율 혁신을 주도하기 위해 OCP와의 협업을 강조했습니다.

삼성, 전력 효율 극대화된 신규 HPC 센터 소개

생성형 AI 기술과 일상생활에서의 대규모 언어 모델(LLM)의 부상으로 IT기술이 빠르게 발전하고 있습니다. 이러한 발전으로 더 강력하고 에너지 효율적인 데이터 센터의 필요성이 증가하고 있으며, 이는 IT 혁명의 기반이 되고 있습니다.

기조연설에서 삼성은 한국 화성에 위치한 새로운 고성능 컴퓨팅(HPC) 센터를 소개했습니다. 이 시설은 AI 시대 고객의 니즈와 어려움을 이해하고, 이를 제품 혁신으로 이끌어내기 위한 한국 최대 규모의 데이터 센터로, 전기 용량이 114MW, 116,000대의 서버를 보유하고 있습니다. 이 센터는 최대 에너지 효율을 위해 Underfloor Close Coupled(UCC) 냉각 시스템과 차가운 공기의 균일한 분배를 보장하는 Hot Aisle Containment를 특징으로 합니다. 이러한 혁신을 통해 이 시설은 Power Usage Effectiveness(PUE¹) 지수 1.15를 목표로 하고 있습니다.

삼성의 차세대 메모리 솔루션을 위한 데이터 센터의 중요성

데이터 센터는 삼성의 혁신적인 제품 성능을 향상시키는 데 중요한 도구입니다. 실제 환경에서의 테스트베드 모니터링을 통해 제품 경쟁력을 강화할 수 있으며, 이를 통해 새로운 제품을 검증하고 실험할 수 있는 기회를 제공합니다. 또한 맞춤형 레퍼런스 아키텍처를 평가하고 테스트할 수 있는 환경을 제공하며, 메모리 분리와 같은 비용 효율적인 솔루션을 구현할 수 있습니다.  

직면한 전력 과제 극복을 위한 OCP와의 협업

데이터 센터의 가장 큰 도전 과제는 전력 소비입니다. GPU를 많이 사용하는 AI 서버의 경우 전력 소비가 최대 10kW에 이를 수 있습니다. 화성 HPC 센터는 이러한 도전 과제를 냉각 기술로 해결하고, 더 효율적인 운영을 위해 Open Rack Version 2(ORV2) OCP 호환 서버를 사용합니다. ORV2 시스템은 Power Shelf를 1개에서 2개로 늘려 총 전력 용량을 최대 66kW까지 확장할 수 있도록 제작되었습니다. 발열 위험을 완화하기 위해 ORV2의 Bus는 열 효율을 높이기 위해 두 개의 영역으로 분할되었습니다. 또한 DC 48V를 사용하는 ORV2 통합 Power Shelf을 통해 유휴 상태에서 약 5%, 최대 부하에서 약 2%의 전력 절감 효과를 얻을 수 있습니다. 추가된 파이프와 확장된 방열판을 통해 높은 TDP(열 설계 전력) CPU 모델을 작동할 수 있습니다. 이러한 혁신으로 서버당 1kW 이상을 사용하는 HPC 환경에서 서버의 에너지 사용량을 9% 감소시켰습니다.

서버 혁신을 이끄는 메모리 솔루션 전시

삼성은 부스에서 AI의 성능 요구 사항을 충족하도록 설계된 네 가지 획기적인 메모리 솔루션을 선보였습니다. HBM3E 12H (12단 적층)은 고용량과 고대역폭을 자랑하는 초고속DRAM입니다. DDR5 RDIMM(Registered DIMM)은 생성형 AI 서버를 위한 업계 최고 용량의 메모리 모듈로, 복잡한 데이터 작업량 처리를 위한 효율적인 전력 소비와 고성능을 제공합니다. 전시된 제품 중에는 7세대 V-NAND 기술을 기반으로 고성능과 초저전력 소비를 제공하는 업계 최대 용량의 QLC(Quad Level Cell) SSD인 128TB BM1743 SSD도 있었습니다. 마지막으로, 삼성은 데이터 집약적 워크로드를 최적화하기 위해 기존 데이터 센터에 원활하게 통합되어 메모리 용량을 최소 비용으로 확장할 수 있는 CXL² Memory Expander인 CMM-D를 전시했습니다.

개방형 협업은 AI 시대 혁신의 핵심

2015년 OCP 행사에 처음 참가한 이후 삼성은 하드웨어 설계와 메모리 혁신을 통해 오픈 소스 생태계에 기여하며 업계 발전을 촉진하기 위해 노력해 왔습니다. 삼성은 OCP 재단의 미션과 일치하며, AI 시대에 차세대 메모리 솔루션과 데이터 센터 기술 혁신을 열어 가기 위한 협업 노력을 계속할 것입니다.

_{¹ PUE는 비율로 표현되며, 값이 1.0에 가까워질수록 전체 효율성이 높음}

_{² Compute eXpress Link (CXL™)}