三星存储器如何助力人工智能变革

Midjourney、Google Bard和ChatGPT/GPT-4等新兴超大规模人工智能应用横空出世，正在颠覆千行百业，有望彻底改变以往的工作流程。这些人工智能应用表现出类似于人的智能和行为，其背后离不开先进的存储器技术。三星半导体(#Samsung Semiconductor)在此领域拥有独特的技术优势：新型存储器、固态硬盘，以及为突破传统硬件性能瓶颈而设计的专用接口 *Midjourney： * Google Bard * ChatGPT/GPT-4 下面我们简要介绍一下三星针对人工智能（AI）和机器学习（ML）应用推出的部分创新。 利用PIM技术减少AI数据移动 AI和ML模型需要通过DRAM移动的数据远超普通应用。大量的数据移动操作会影响性能。 原因在于：在采用冯·诺依曼架构的传统计算机中，数据在处理器和存储器之间只能顺序移动。对此类系统而言，指令获取和数据操作无法同步进行。而人工智能应用需要处理的数据量远超传统应用，这一局限将使数据传输遭遇瓶颈，导致系统速度降低，功耗增加。 超大规模人工智能应用的数据传输量呈指数级增长，传统存储器解决方案难以满足此类需求。为解决这一问题，三星为高带宽存储器(HBM)引入了存内计算(PIM)技术。PIM技术将数据处理器直接集成在HBM DRAM中，可将部分数据计算工作从主机处理器转移到内存当中。这种方式可减少数据移动，提高人工智能应用的能效和数据处理效率。 PIM技术显著提升了人工智能应用的效率。以一个6B（60亿字节）规模的AI模型为例，估计超过80%的计算功能可通过PIM加速处理，性能可提高3.5倍。 先进SSD助力实现更高智能 除了要在存储器中移动大量数据外，人工智能模型还需要更频繁地写入和访问磁盘数据，但每次读写的数据块相比传统应用更小。为满足人工智能应用的这种特殊需求，三星在传统固态硬盘(SSD)中引入了两项创新技术。 第一项技术是存储器语义固态硬盘（Memory Semantic SSD）。存储器语义SSD可为人工智能应用带来高达20倍的性能提升。存储器语义SSD专门针对小数据块的读写进行了优化，大幅提高了随机读取速度，同时降低了延迟。对于需要快速处理小数据集的工作负载（如AI/ML）而言，存储器语义SSD是一种理想的解决方案。 第二种技术是三星SmartSSD，该技术支持AMD的“Adaptive平台”。与存储器中的PIM技术类似，SmartSSD是一种具有计算能力的硬盘，其中也集成了数据处理器。通过在更接近原始数据存储的位置处理数据，SmartSSD可为数据密集型应用带来显著的性能提升，尤其适用于超大规模人工智能应用。 CXL：面向人工智能应用的高速接口 Compute Express Link (CXL)接口是一种开放标准，可在处理器和存储器之间搭建起大容量的高速连接。利用CXL标准的优势，三星半导体打造出创新的解决方案，帮助提升超大规模应用的性能和能效。 人工智能、机器学习和云计算等技术需要更高密度和更大带宽的存储器，传统DRAM设计难以满足此类需求。为帮助企业跟上不断加速的人工智能创新，三星推出了CXL存储扩展器技术。利用这种技术，服务器的存储容量能够扩展到数十TB，带宽可提升至每秒数百GB。 此外，三星还推出了CXL-PNM技术。与PIM（近存处理）和SmartSSD类似，先进的CXL-PNM技术同样可减少CPU和存储器之间的数据移动。CXL-PNM技术在更靠近存储器的地方实现数据处理功能，可将人工智能模型的加载速度提高2倍，容量提高4倍。 总结 三星半导体(#SamsungSemiconductor)深知，人工智能应用在21世纪必会越来越重要。因此我们将继续致力于开发面向超大规模人工智能和机器学习应用的新一代技术，并发布必要的软件和模拟器来支持这些技术的实施。因为，在三星看来，人工智能的革新才刚刚开始。 “科技之芯”(Heart of Tech)是三星半导体的月度通讯简报，旨在介绍三星半导体如何利用科技让人类的生活更美好。如果您不想错过每一期的精彩内容，请即刻订阅。 免责声明：除非经特殊说明，本文中所涉及的数据均为三星内部测试结果，涉及的对比均为与三星产品相比较。