三星如何在超大规模时代扩大数据中心规模

随着人工智能、机器学习、云计算、视频转码和其他高性能计算应用的快速发展，数据中心面临着前所未有的压力。为了帮助解决数据服务器和IT系统算力空前紧缺的问题，三星采用了Compute Express Link™（下称CXL™）标准。CXL三星内存扩展器等产品让数据中心具备了超大规模能力的同时，帮助数据中心提高性能、降本增效。 三星是如何做到的？本篇内容将介绍CXL，内存领域具代表性的创新性技术之一，以及三星半导体是如何开创并正在普及这一技术。 什么是CXL？ Compute Express Link™（下称CXL™）是一种行业支持的开放互联新标准，作为三星创新性内存技术中具有代表性的下一代接口技术，它能够支持不同类型的网络设备更有效地处理高性能计算的工作负载。那么，CXL是如何做到的呢？它允许网络设备绕过主机处理器的限制，快速、直接地相互联接。 想象一下，你一边玩十几个球，一边在心算你要缴的税，结果是，你手上的球可能会掉，或者计算错误。但如果你的眼睛可以将看到的信息直接传递到手，而无需经由大脑处理，这种情况下，你既可以轻松地抛接球，也可以计算税收问题。 简而言之，这就是CXL对数据服务器起到的作用。借助CXL标准的独特优势，三星半导体提高了数据中心处理超大规模应用的性能和效率，同时减少了管理这些应用所需的软件堆栈和成本，并实现了比以往更大的容量和内存带宽。 CXL内存扩展器 去年，三星推出了自家首款512GB CXL 内存模组，即CXL内存扩展器。该产品借助CXL技术，能够在现有IT系统中实现超高的内存容量。 在标准的计算机架构中，中央处理器（CPU）或主机处理器只能访问插在双列直插式内存模块（DIMM）中的DRAM。换句话说，CPU可以访问的内存容量上限是由DIMM的最大容量决定的。 超大规模的应用往往需要大量的内存，因此像运行#ChatGPT这样的大规模数据中心，内存容量需要非常大。但内存容量会有上限，一旦服务器达到这个上限，企业往往只有一个选择：构建一个具有更高内存容量上限的新系统。 CXL内存扩展器的创新之处，在于它能够在现有IT系统中实现超高的内存容量。比起受到DIMM容量上限的制约，有了CXL内存扩展器，便能将网络的内存容量扩展到高达几十兆字节，同时还能够大大减少延迟。 CXL内存扩展器还可以帮助企业减少服务器运营成本，并提高内存效率。秘诀就在于内存池技术，它使主机处理器只从内存池中提取它们需要的内存容量。同时，先进的安全功能还能对不同的主机设置内存池访问许可限制。而热插拔功能则允许管理员在不关闭服务器，“热”的情况下直接置换CXL DRAM。 CXL技术的未来 CXL内存扩展器是包括可扩展内存开发套件(SMDK)在内的三星半导体“CXL创新路线图”中的第一个产品。通过这些产品，数据中心可以借助创新的多功能性，以及更低的成本来轻松管理和扩展内存。 但，未来更可期待。在接下来的几年里，我们预计人工智能、机器学习、虚拟机和其他高性能计算应用的服务器需求将继续爆炸性增长。我们希望能够分享更多的CXL内存创新产品和技术，帮助更多企业应对超大规模时代的挑战。