AI時代をリードする世界初のCMM-D技術

メモリ密度と帯域幅に対する飽くなき需要により、既存のメモリ技術の限界が押し上げられています。従来のDRAM設計では、メモリ容量を特定の範囲以上に拡張することが制限されるため、完全に新しいメモリインターフェイステクノロジーが必要になります。さらに、AIとビッグデータの登場により、様々なタイプのプロセッサが並行動作して大量のデータを処理する、異種コンピューティングへの勢いが加速しています。

2021年５月、サムスンは業界初のCompute Express Link（CXL^™）をベースにしたDRAMメモリモジュール（CMM-D）の開発について発表しました。2022年５月、サムスンは、業界初の512GBメモリモジュール、高帯域幅、低レイテンシを特徴とする次世代CMM-D 2.0を発表しました。これは、CXLテクノロジーの商業化と実用化における重要なステップでした。

CMM-Dとは何か？

CMM-Dの核心は、CXL^™コンソーシアムを通じて開発されたCXLのオープン標準インターフェースを統合したサムスンのDRAMテクノロジーです。CXLは、PCIeの物理階層を基にして高速と低遅延でCPUとデバイスの相互接続を可能にするテクノロジーです。CXLは、ホストCPUとアクセラレータ、メモリ拡張デバイスなどの接続デバイス間の効率的な接続ができるようにします。CXLトランザクション層は、単一のリンクで動的に多重化された３つの下位プロトコルで構成されています。これらのプロトコルは、CXL.io、CXL.cacheおよびCXL.memとなります。CXLデバイスがCXLホストに接続されると、CXL.ioプロトコルを通じて検索、列挙、構成、管理されます。CXL.cacheはCXLデバイスがプロセッサメモリにアクセスできるようにし、CXL.memはプロセッサがCXLのデバイスメモリにアクセスできるようにします。CXL.cacheおよびCXL.memのプロトコルスタックは、低レイテンシに特化して最適化されています。

CMM-Dの機能と利点

従来、システムにメモリ容量と帯域幅を追加するために、ベースとなるCPUのメモリチャネルの数を増やす必要がありました。しかし、CPUにメモリチャネルを追加すると、エンジニアリングの複雑さが増し、コストも上昇します。CXL Type ３のメモリ拡張デバイスは、ベースとなるCPUのメモリチャネルの数を増やすことなく、メモリの容量と帯域幅を拡大する柔軟で強力なオプションを提供します。

CMM-Dは、次のようなメモリ拡張機能と利点を提供するCXL Type ３のデバイスです。

CMM-Dのメモリ一貫性

CXLの重要な機能は、直接接続されたCPUメモリとCXLデバイス上のメモリ間にメモリ一貫性が維持されるということです。つまり、ホストと同じデータをCXLデバイスでシームレスに参照することができます。CXLホストには、接続されたメモリにアクセスし続けるために、CXL.cacheおよびCXL.memのトランザクションを使うマネージャー機能のホームエージェントがあります。これにより、CXLホストとCXLデバイスは共有データでの作業や、メモリ位置の同じコピーを見ることができます。ホームエージェントはデータの同時変更を許可しないため、ホストまたは接続されたデバイスによって変更が行われる場合、すべてのデータコピーに対して一貫性が維持されるようにします。

CMM-Dのメモリメディアタイプ

CXLのもう１つの大きな特徴は、CXLインターフェースを介して様々な種類のメモリをホストに接続できるため、基盤となるメモリテクノロジーに依存しないということです。さらに、CXL.memトランザクションは、DDRメモリと同様にバイトアドレスの指定が可能なため、トランザクションをロード/セーブできます。従って、接続されたCXLメモリは、エンドアプリケーションのメインメモリのように見えます。

CMM-Dメモリのプーリングとスイッチング

CXL 2.0仕様では、単一レベルのスイッチング及びメモリのプーリングにも対応できます。メモリのプーリングは、メモリリソースの動的な割り当て及び割り当ての解除で、システム全体の効率を向上させます。メモリのプーリングにより、サーバーシステムでよく見られる、取り残されたメモリ問題を削減することができます。