OCP Global Summit 2026: AI 시대를 향한 혁신의 확장

삼성전자는 10월 12일부터 15일까지 미국 캘리포니아주 산호세 컨벤션센터에서 열린 OCP Global Summit 2026에 참가해 AI 데이터센터와 인프라를 위한 차세대 메모리, 스토리지 및 파운드리 솔루션을 선보였다.

OCP Global Summit은 Open Compute Project(OCP)가 주최하는 세계 최대 규모의 데이터센터 기술 혁신 및 표준화를 논의하는 글로벌 협력의 장으로, 2026년에는 “Scaling Innovation for the AI Era”를 주제로 개최되었다. 이번 행사를 통해 산업 전반에서 AI 생태계 확장을 위한 개방형 표준화와 협력의 중요성이 부각되었으며, 올해는 사전 등록이 공식적으로 조기 마감(Sold Out)될 만큼 높은 관심을 받은 가운데, 2027년에는 규모 확대를 위해 개최지 이전을 확정하는 등 AI 확산에 따른 투자 확대와 함께 OCP의 높아진 위상을 보여주었다.

삼성전자는 Diamond 스폰서로 참가해 ‘Architecting AI Systems - Innovations. Together.’를 주제로 총 13건의 세션 발표와 20개의 제품 및 데모를 선보였다. 세션에서는 AI 인프라의 확장을 위한 메모리·스토리지 아키텍처와 파트너사와의 협업 사례를 공유했으며, 전시에서는 이를 실제 제품과 데모로 구현해 AI 시스템을 보다 효율적으로 확장하기 위한 방향을 제시했다.

Executive 세션에서는 Application Engineering팀 심호준 상무가 “Scaling Innovation for the AI Era: Keep Your Compute Running at Full Throttle with Highly Scalable Memory”↗를 주제로 에이전틱 AI 시대의 급증하는 메모리 트래픽과 KV Cache 수요에 대응하기 위해, 속도(Speed), 메모리 확장성(Memory Expansion), 데이터 영속성(Persistence)을 개별적인 기술 혁신이 아닌 하나의 통합된 메모리·스토리지 계층으로 연결하는 Co-design 비전을 제시했다.

zHBM, PIM부터 CXL 메모리 풀링, 차세대 스토리지까지 각 계층을 유기적으로 연결해 AI 워크로드에 최적화된 인프라를 구현하는 방향이다. 이러한 비전은 기술 개발에 그치지 않고 개방형 생태계와의 협업으로 이어지고 있다.

Samsung MAX Lab을 통해 고객과 파트너가 실제 데이터센터 환경에서 차세대 메모리 솔루션을 선제적으로 평가·검증할 수 있는 통합 인프라를 제공하는 한편, GOST(Global Open-Ecosystem Team)를 중심으로 오픈소스 개발, 기술 표준화 및 업계 협업을 확대하며 개방형 생태계 구축을 추진하고 있다. 이를 통해 삼성전자는 하드웨어와 소프트웨어, 메모리와 스토리지를 아우르는 Co-design을 바탕으로 업계와 함께 차세대 AI 인프라의 방향을 제시하고, 개방형 기술 생태계의 발전을 주도해 나가고 있음을 발표했다.

Expo Hall 세션에서는 “Tiering the Agent’s Memory: From CXL Pooling to SSD-Backed KV Cache Offloading”↗ 을 주제로 AI 추론 환경에서 급증하는 KV Cache를 효율적으로 관리하기 위한 메모리 계층화(Memory Tiering) 기술을 소개했다.

CXL 기반 Memory Pooling으로 메모리 용량을 유연하게 확장하는 한편, SSD를 활용해 KV Cache를 Offloading하여 기존 메모리의 한계를 보완하고 AI 추론 인프라를 보다 유연하게 구성하는 방안을 제시했다. 이와 함께 다양한 기술 세션에서 파트너사 및 고객사와 AI 관련 주제를 공동 발표하며, 개방형 협업을 기반으로 AI 인프라를 확장하는 방향도 공유했다.

삼성전자는 전시 부스를 AI 워크로드의 흐름에 따라 Tokenization과 KV Cache의 두 개 Zone으로 구성하고, AI 추론의 각 단계에서 요구되는 메모리·스토리지 기술과 함께 파운드리 기술 및 실제 파트너십 성과를 선보였다.

Tokenization Zone에서는 AI가 사용자의 요청을 처리하고 토큰을 생성하는 과정에서 요구되는 높은 메모리 대역폭과 연산 효율에 주목해 HBM과 PIM 기술을 소개했다. HBM은 대규모 AI 연산을 뒷받침하는 높은 메모리 대역폭을 제공하며, PIM은 메모리 가까이에서 연산을 수행함으로써 데이터 이동에 따른 병목을 줄이는 방향의 기술로, AI 워크로드의 초기 데이터 처리 및 Tokenization 단계에서 요구되는 성능을 뒷받침한다. 또한 HBM, PIM 및 2nm GAA 웨이퍼와 더불어 4nm 파운드리 공정으로 생산된 NVIDIA Groq 3 LPU 웨이퍼를 전시했다.

KV Cache Zone에서는 AI 추론 과정에서 빠르게 증가하는 KV Cache를 효율적으로 관리하기 위해 메모리와 스토리지를 연결하는 통합적인 접근을 선보였다. CMM-D 기반 CXL 메모리 풀링과 SSD 기반 KV Cache Offloading을 비롯해 FDP(Flexible Data Placement), 하드웨어·소프트웨어 Co-optimization, AiSIO 및 컴포저블 스토리지 등 다양한 기술을 실제 AI 워크로드와 연계해 소개했다. 특히 CMM-D 기반 CXL 메모리 확장을 AMD와 공동으로 시연하며, 메모리 용량과 대역폭을 유연하게 확장하는 기술을 실제 시스템에서 검증한 파트너십 성과를 보여주었다. 또한 오픈소스 기반의 AiSIO와 표준 NVMe 기반의 컴포저블 스토리지 데모를 통해 하드웨어뿐 아니라 소프트웨어와 시스템 아키텍처까지 아우르는 개방형 인프라의 가능성을 제시했다.

삼성의 OCP 협력은 자체 부스를 넘어 더욱 광범위하게 확장되었다. 마이크로소프트(Microsoft) 부스에서는 '삼성 DRAM 폴트 애널라이저(DRAM Fault Analyzer) – RAS API 데모'를 통해 대규모 시스템 관리(Fleet-scale management)를 위한 실시간 폐쇄루프(closed-loop) DRAM 오류 감지, 분류 및 복구 기능을 선보였으며, IEEE DSN 2026에서 발표된 새로운 RAS 방식인 '삼성 다이내믹 페이지 오프라이닝(Dynamic Page Offlining)'도 함께 공개했다. 또한 엔비디아 AI 팩토리 MGX(NVIDIA AI Factory MGX) 전시에서는 삼성이 OCP 커뮤니티의 공식 생태계 파트너로 소개되었다.

이러한 전시는 삼성전자가 개별 제품의 성능을 보여주는 데 그치지 않고, Tokenization부터 KV Cache 관리에 이르는 AI 워크로드의 흐름을 중심으로 메모리·스토리지·소프트웨어·시스템을 함께 설계하는 Co-design을 지향하고 있음을 보여준다. 또한 실제 파트너와의 공동 데모와 구체적인 성능 데이터, 오픈소스 및 표준 기반 기술을 통해 아이디어와 기술이 실제 시스템으로 구현되는 과정을 제시했다. 이는 OCP의 핵심 가치인 협업과 개방형 생태계 확장을 실질적인 기술 개발과 검증으로 확장하는 삼성전자의 활동을 보여주는 동시에, 다양한 업계 파트너와 함께 차세대 AI 인프라의 방향을 만들어가는 삼성전자의 역할을 보여줬다.

삼성전자는 앞으로도 고성능 메모리부터 CXL 기반 메모리 확장, KV Cache Offloading, 차세대 스토리지까지 AI 워크로드에 최적화된 솔루션을 지속적으로 개발하고, 컴퓨팅·메모리·스토리지를 함께 설계하는 AI 인프라 Co-design과 개방형 협력을 통해 AI 생태계의 발전을 이어갈 예정이다.