为人工智能助力:三星在2024年OCP全球峰会上展示下一代内存解决方案

随着人工智能革命改变数据中心和服务器内存格局，对高容量和高带宽解决方案的需求呈指数级增长。 这一趋势对传统的内存技术和架构提出了挑战，推动行业走向创新解决方案。

在10月15日至17日于加利福尼亚州圣何塞举行的2024 OCP全球峰会上，三星电子着重介绍了其下一代内存技术，展示了将这些解决方案应用于与合作伙伴的合作中，以满足人工智能日益增长的需求并产生实际影响的方式。

随着对数据密集型工作负载的需求不断增长，三星电子再次走在前列，推出了跨内存和存储技术的尖端解决方案。 在其最新的技术进展中，核心是计算快速链接（CXL）解决方案，并辅以DRAM和存储解决方案的突破性发展。 

三星的下一代计算快速链接解决方案

为了应对人工智能行业快速增长的需求，三星推出了一系列计算快速链接（CXL）解决方案，包括CMM-D、CMM-H和CMM-B。这些解决方案通过实现高效的资源管理和内存扩展，克服了传统内存架构的局限性。 这些CXL解决方案利用CXL 2.0技术，促进CPU、GPU和加速器之间的无缝通信，从而显著提升数据中心环境的性能。

CMM-D（CXL内存模块 – DRAM）是此次展会的一大亮点，它凭借大容量和性能优势，重新定义了服务器内存的可扩展性。 在CMM-D合作展示区，三星展示了搭载CMM-D的合作伙伴的服务器，以展现CXL内存在数据密集型环境中的变革性影响。

三星通过将CMM-D与闪存相结合，提供了PM（持久内存）和TM（分层内存）类型的CMM-H（CXL内存模块 - 混合），以优化下一代应用的内存容量和带宽。 为了通过解决延迟问题来增强数据传输，三星的CMM-B（CXL内存模块 - Box）解决方案能够为复杂的工作负载提供更加流畅的体验。 其支持广泛内存池的能力进一步确保了对复杂数据流程的高效处理。

引领内存革命:DRAM和存储创新

虽然CXL在三星的下一代内存解决方案中扮演着核心角色，但DRAM和存储技术的进步仍然是三星产品的重要组成部分。例如，HBM3E专为满足人工智能模型所需的海量数据而设计的，其速度高达1250GB/s，且热效率提升了12%。 这使其成为在人工智能应用中实现顺畅快速数据处理的关键推动因素。

带存储器的双列直插式内存模组（Registered DIMM）通过降低电负载来稳定高性能系统，确保在重负载下的可靠性。 对于需要更多带宽的应用程序，多级缓冲双列直插式内存模块（MCRDIMM）应运而生，其数据吞吐量高达12.8Gbps（基于第二代），为处理人工智能和高性能计算任务提供了关键优势。

对于人工智能加速和3D渲染来说，业界首款24Gb GDDR7是理想之选。 该内存解决方案采用第五代10纳米（nm）级DRAM，单元密度相比前代产品提高了50%，同时保持了相同的封装尺寸。 3级脉冲振幅调制（PAM3）信号技术使数据传输速度提高了25%，达到40Gbps，成为人工智能工作站、数据中心和自动驾驶等下一代应用的理想解决方案。

在存储方面，三星的拍字节级固态硬盘（PBSSD）和PM9D3a固态硬盘（SSD）旨在满足对云计算和企业解决方案日益增长的需求而设计的。 PBSSD集成了三星最新的V-NAND技术，可提供增强的可扩展性。例如，当与26个BM1743和6个PM9D3a结合使用时，其配置最高可达928TB。 该解决方案采用电源优化技术，可将能耗降低约20%，从而提高数据中心的机架密度。 PM9D3a SSD作为业界速度最快的8ch PCIe 5.0 SSD，基于2.5版本的OCP DC规范，可确保高速性能和可靠的数据传输，而BM1743 SSD则彰显了三星在可扩展和高性能存储解决方案方面，适应最新企业基础设施的努力。

小组讨论:为人工智能集群扩展互连和内存

10月15日，三星电子内存营销副总裁Taeksang Song参加了主题小组讨论，重点探讨了扩展AI系统，特别是AI互连和内存技术所面临的挑战与解决方案。 其他小组成员包括Marvell全球营销和业务规划副总裁Nigel Alvares，以及Astera Labs技术与生态系统研究员Chris Petersen。 他们共同探讨了内存层次结构、CXL在扩展中的重要性、以及可靠的互连和冷却系统的关键作用等重要话题。 他们还分享了关于解决推理中的延迟问题的见解以及CXL内存应对这些挑战的潜力。

在小组讨论中，Taeksang提及了对灵活且可靠的人工智能解决方案的迫切需求。 他还强调了资源分解和特定领域观察在提升性能方面的重要性。 此外，Taeksang深入研究了数据中心冷却系统带来的挑战，强调了与冷却相关的高能耗、以及优化这些系统以提高能效的必要性。

Taeksang还强调了三星CXL解决方案的进步，特别是CXL内存池访问延迟及其无缝传输大量数据的功效。 他提出，通过将CXL内存与近内存引擎结合，能够有效弥合内存容量与延迟之间的差距，并在该领域提供具有前景的解决方案。 这种创新且可扩展的下一代内存解决方案提供了高容量和高带宽，可实现无缝的内存共享与扩展，而无需额外的基础设施投资。 这在需要大规模投资的人工智能时代尤为有利。

为人工智能时代扩展开放合作

为了积极参与CXL合作，三星于2022年在其内存研究中心建立了OCP体验中心。 该中心为客户和合作伙伴提供了体验OCP认证产品和开展多种项目合作的机会。

在此次活动中，三星介绍了其CMM-D参考架构，展示了通过与红帽、戴尔和博通合作开发的降低总拥有成本（TCO）的实际应用案例，并强调了CMM-D所支持的内存扩展概念。

三星致力于通过全行业合作伙伴关系推动创新，并积极为开源生态系统做贡献。 通过推动硬件设计和内存技术的发展，三星正在培育突破性的解决方案，以满足人工智能和数据基础设施不断变化的需求。 随着人工智能技术持续发展，三星始终致力于跨行业合作，将最前沿的解决方案付诸实践。