OCP Global Summit:次世代メモリソリューションでAI（人工知能）を強化する

AI革命がもたらしたデータセンターとサーバメモリ市場の変化により、大容量および高帯域幅ソリューションに対する需要が急増している。 こうした傾向は、従来のメモリ技術とアーキテクチャに対するチャレンジであり、業界では革新的なソリューションの必要性を強調している。
 

サムスン電子は、10月15日から17日までカリフォルニア州サンノゼで開かれた2024 OCP Global Summitで次世代メモリ技術を強調した。ここで展示したソリューションはパートナー会社との協業で実現したものであり、AI分野で増加している要求を解決でき、実質的な影響を与えることが可能だと説明した。
 

データ集約型ワークロードに対する需要の増加に伴い、サムスン電子はメモリとストレージ技術分野における先端ソリューションを公開した。その中核には、Compute Express Link（CXL）ソリューション以外にもDRAMとストレージソリューションが含まれている。

サムスン電子の次世代CXLソリューション

急増しているAI産業の要求を満たすため、サムスン電子は今回のイベントで従来のメモリアーキテクチャの限界を解決し、効率的なリソース管理とメモリ拡張を可能にするCMM-D、CMM-H、CMM-Bを含めた多様なCXLソリューションを公開した。 これらのCXLソリューションはCXL 2.0技術を活用してCPU、GPUおよびアクセラレータ間の通信を円滑にすることで、データセンター環境下での性能を大きく向上させる。
 

CXLソリューションの主な特徴はCMM-D（CXL Memory Module - DRAM）であり、これは容量と性能面で実質的な利点を提供し、サーバメモリの拡張性を再定義するものと予想される。 サムスン電子は、CMM-Dの協業コーナーでCMM-Dが実装されたパートナー会社のデモサーバを披露し、データ集約型環境におけるCXLメモリの革新的な影響力を示した。
 

その他にもCMM-DとNAND型フラッシュを結合したCMM-H（CXL Memory Module - Hybrid）をPM（Persistent Memory）とTM（Tiered Memory）タイプで用意し、次世代アプリケーションに最適化されたメモリー容量と帯域幅を提供する。 遅延時間の問題を解決してデータ転送を向上させたサムスン電子のCMM-B（CXL Memory Module-Box）ソリューションは、複雑なワークロードが円滑に働く経験を提供する。また、広範囲なメモリプールに対応する機能は、煩わしいデータプロセスを効率的に処理できるようにする。

DRAMとストレージソリューションによるたゆまぬ革新

CXL製品のラインナップの他、DRAMとストレージ技術の発展はサムスン電子の次世代メモリソリューションにおいて重要な構成要素である。 例えば、HBM3Eの場合、AIモデルの膨大なデータを処理するように設計されており、最大1,250GB/sの高速を実現し、熱効率を12%向上させる。 これは、AIアプリケーションの分野で円滑かつ迅速にデータを処理するための核心要素とも言える。
 

これを補完するRDIMM（Registered DIMM）は、電気負荷を抑えて高性能システムを安定させることで、作業負荷が高い環境でも信頼性を保障できる。 さらなる帯域幅を求めるアプリケーションの場合、MCRDIMM（Multi-Ranked Buffered Dual In-Line Memory Module）は第2世代をベースに最大12.8Gbpsのデータ処理量を提供し、AIと高性能コンピューティングの作業処理に重要な利点となっている。
 

その他、AIアクセラレータと3Dレンダリングのために開発された、業界初の24Gb GDDR7も展示された。 24Gb GDDR7は、第5世代の10ナノ（nm）級DRAMを使用し、パッケージサイズは維持しながら以前のモデルに比べてセルの容量が50%向上した。 パルス振幅変調（PAM3）信号技術はデータ転送速度を25%向上させて40Gbpsの速度を実現し、AIワークステーション、データセンター、自動運転といった次世代アプリケーションに最適なソリューションとされている。
 

ストレージ分野におけるサムスン電子のPBSSD（Petabyte-scale SSD）とPM9D3a SSDは、クラウドとエンタープライズ応用先で増加している需要を満たすように設計されている。 PBSSDはサムスン電子の最新技術であるV-NAND技術を基盤に、例えば26個のBM1743と6個のPM9D3aを結合して最大928TBの構成にするなど、拡張性を向上できる。 また、電力最適化技術によりエネルギー消費を約20%削減し、データセンターのラック容量を高めることができる。 PM9D3aは業界で最も速い8ch PCIe 5.0 SSDとして2.5型基盤のOCP DC仕様で、高速性能と安定的なデータ転送を保障する。また、BM1743 SSDは最新のエンタープライズインフラに合わせて拡張可能であり、高性能のストレージソリューションに対するサムスン電子の取り組みを示す。

パネルディスカッション:Scaling Interconnect and Memory for AI Clusters

10月15日、サムスン電子メモリ事業部のソン・テクサン(常務)は、AIシステムの拡張、特にAIの相互連結およびメモリ技術の課題と解決策に焦点を当てたパネルティスカッションに参加した。 パネリストとして参加したMarvellのNigel Alvares常務、Astera LabsのChris Petersen研究委員とともにメモリの階層構造、拡張におけるCXLの重要性、信頼できる相互連結と必要不可欠な冷却システムの役割について議論した。推論では遅延時間の問題解決について意見を交わし、このような課題を解決できるCXLメモリの潜在力に共感した。 

ソン・テクサンはパネルディスカッションで、柔軟かつ安定的なAIソリューションの重要性を強調した。 また、性能を向上させるための資源分散とドメインを特定して観察することの重要性について語るとともに、データセンターの冷却システムが引き起こす課題を詳しく説明した。さらに、冷却と関連している高いエネルギー消費を指摘し、エネルギー効率を高めるためにこうしたシステムを最適化する必要性があると強調した。

また、ソンはサムスン電子のCXLソリューションを紹介し、特にCXLメモリプールのレイテンシと大量のデータを円滑に転送する効率性に焦点を合わせて説明した。 CXLメモリを近接メモリとともに使用すると、メモリ容量と遅延時間との差を解消でき、この分野で有望なソリューションを提供できると提案した。革新的かつ拡張可能なこの次世代メモリソリューションは、高い容量と帯域幅を提供し、インフラに追加投資をすることなく円滑なメモリの共有と拡張を可能にすることで、AI時代に向けた優れたメリットをもたらす可能性があると紹介した。

AI時代に合わせて業界間の協力を拡大

サムスン電子は次世代CXLソリューションでパートナー会社と協力するため、2022年にメモリ研究センター（Samsung Memory Research Center）内にOCP体験センターを設立した。 このメモリ研究センターでは顧客とパートナー会社に対して、OCP認証製品の体験と様々なプロジェクトに協力する機会を提供している。  イベント期間中にサムスン電子は、Red Hat、Dell、Broadcomとの協力で開発したCMM-Dのリファレンスアーキテクチャを紹介し、実際にTCOを削減した使用事例を披露することで、CMM-Dが実現するメモリ拡張の概念を強調した。

サムスン電子は、業界におけるパートナーシップを通じて革新をリードし、オープンソースエコシステムに積極的に貢献している。  ハードウェア設計やメモリ技術を発展させることで、AIとデータインフラへの急増するニーズを満たす画期的なソリューションを育成し、AI技術の急速な進展に足並みを揃えるために業界の垣根を越えた協力を通じて、最先端ソリューションを実現していく予定である。