サムスン電子のスケーラブルメモリー開発キット(SMDK)がメモリーを拡張する方法

CXL(Compute Express Link)の相互接続規格で最適化されたハイブリッドメモリーの開発を容易にするオープンソースソフトウェアツールキットであるSMDK(スケーラブルメモリー開発キット)をサムスン電子が発表したことで、インメモリデータベース(IMDB)や仮想マシン(VM)、人工知能と機械学習(AI/ML)などのデータ集約型アプリケーションがエッジクラウドを含む様々なコンピューティング環境においてはるかに高いメモリー帯域幅と容量を活用する機会が開かれました。 今回の発表は、サムスン電子が最先端のメモリーハードウェアの需要に対応し、強力なソフトウェア環境への導入を容易にすることで、顧客価値を生み出す総合的なソリューションプロバイダーとして進化していることを示しています。

SMDKで特に重要なのは、互換性のあるアプリケーションプログラミングインターフェース、つまり互換性のあるAPIです。 このAPIは、エンドユーザーがCXL規格のアプリケーションソフトウェアに変更を適用することなく、メモリーの仮想化を含むハイブリッドメモリー戦略を実装できるようにします。 また、別の最適化されたAPIはアプリケーションソフトウェアを特殊なシステムのニーズに合わせて調整できるようにし、高いレベルの最適化をサポートします。 このような取り組みの結果、ハイパフォーマンスコンピューティング(HPC)のシステム開発者は、従来のDRAMと5月に発表されたサムスンCXLメモリーエキスパンダーなどのCXLベースのメモリーを組み合わせることで、メモリーチャネルと容量を大幅に増やすことができます。 SMDKを使用すると、CXLベースのメモリーの導入がはるかに簡単になり、プロセスが高速化するだけでなく、先端のアプリケーションで生成される爆発的な量のデータ管理方法を探す組織に新しい可能性が開かれます。 CXL: コンピューティングアーキテクチャの重要な新しいオプション 私たちは、データが幾何級数的に増加する時代に生きており、ほとんどのデータは機械学習によって生成されています。 これらのデータの中でも、特に高性能、低遅延メモリーでゲインが得られるデータ集約的タスクおよび人工知能/機械学習(AI/ML)などに利用されるデータ量が増えています。 従来のメモリーアーキテクチャは、今日のCPUとアクセラレータを完全に活用するための十分なデータを提供できませんでした。 これは、データ間の移動に大きく重点を置いている次世代アプリケーションにおいて考慮すべき重要な事項です。 CXL規格は、ホストプロセッサ(CPU、GPUなど)がマザーボード上の標準DIMMスロットを超えてDRAMにアクセスできるようにし、メディア属性(持続性、遅延時間、帯域幅、耐久性など)と異なるメディア(DDR4、DDR5、LPDDR5、および 次世代代替メディア)に新しいレベルの柔軟性を提供します。 特に、CXLはPCle 5.0物理層と電子インターフェースを利用するCXL.ioプロトコルに基づくインターフェースを提供することで、メモリーアクセスとホストプロセッサ間の通信と、メモリーリソースを共有するデバイス間の非常に低い遅延時間を実現する相互接続ルートを提供します。 これにより、新たな機会が開かれます。 サムスンCXLメモリーエキスパンダーは最初の例であり、将来的にはメインメモリーのバックアップとしてNVDIMMを使用する方法や、ホストのメインメモリーをCXLベースのメモリーと非同期式に共有する方法、NVDIMM、コンピューティングストレージ、そして最終的にラックレベルのCXLベースのセグメンテーションなどの新しい可能性が開かれます。

CXLベースのメモリーモジュールであるサムスンCXLメモリーエキスパンダーは今年初めにリリースされ、ハイブリッドメモリーの最初のハードウェアソリューションです。 CXLは、メモリーがより高い容量とより広い帯域幅でサーバベイに拡張されるようにしますが、ハイブリッドメモリー環境は根本的な課題を提示します。 様々なメモリータイプのパフォーマンスを、様々なインターフェースに接続された異なるプロパティと遅延時間に合わせて調整し最大化する必要があります。 サムスン電子は複数のメモリータイプを管理する上で発生する根本的な課題と、メモリーエキスパンダーを便利に実装しやすくしたいという要望に基づいてSMDKを開発し始めました。これは、ハードウェアとソフトウェアの両方を網羅する総合的なメモリーソリューションを提供するというサムスン電子の約束を果たすための大きな一歩です。 SMDKの動作の仕組み SMDKは、次の図に示すように、アプリケーションとハードウェアの間にあるソフトウェアツールおよびAPIのコレクションです。 SMDKは、メインメモリーとCXLメモリーエキスパンダーが優先順位や用途、帯域幅、セキュリティに合わせて簡単に調整されたり、アプリケーションに合わせて調整することなくそのまま使用したりできる多目的メモリーシナリオをサポートします。

そのため、このツールキットは新しいメモリーを導入する負担を軽減し、ユーザーにハイブリッドメモリーの利点を素早く享受できるようにします。 SMDKは、次の4つのレベルのアプローチでこれを実現します。 •異なる遅延時間を持つオンボードDIMMメモリーとメモリーエキスパンダー(CXL)のメモリーを区別し、各メモリープールの使用方法を最適化するメモリー領域階層。 •2つの領域のメモリーがアプリケーションに一つとして表示され、スケーラビリティの中でメモリーのトポグラフィを管理するメモーリプール管理。 •カーネルとアプリケーション間の通信を処理し、アプリケーションのニーズ(遅延時間、容量、帯域幅など)に応じてメモリーを割り当てるインテリジェントティアリングエンジン(Intelligent Tiering Engine)。 •2つのAPI： エンドユーザーがアプリケーションに変更を適用することなくメモリーエキスパンダーにアクセスできるようにする互換性のあるAPIと、アプリケーションの最適化を通じてさらにハイレベルのパフォーマンスを実現するために使用される最適化API。 互換性のあるAPIによる透過的なメモリー管理は、Linuxプロセスと仮想メモリーマネージャ(VMM)デザインを継承して拡張し、Linuxカーネルの設計とメリットを利用してCXLメモリーとの互換性を維持することで達成されます。 これまでの進展状況と未来のビジョン メモリーエキスパンダーとSMDKを早期に採用したパートナーやお客様のフルスタックデモプロジェクトにはIMDBとVMが含まれ、両方の領域から即時にメリットを享受することができます。 その後を追いかけるのは、データ集約型の人工知能(AI)と機械学習(ML)およびエッジクラウドアプリケーションです。 全体的にはメモリーエキスパンダーとSMDKを組み合わせることで容量と帯域幅の両方を増やし、データセンターアプリケーションのサービス品質を向上させる可能性があります。 長期的に見ると、このプロジェクトの目的は、ソフトウェア開発キットにとどまらず、P2P通信に基づく次世代アーキテクチャで誰でも新しいハイブリッドメモリーシステムの利点を活用できる、より広範なスケーラブルなメモリー開発環境(SMDE)を提供することです。 あらゆる種類の高度なコンピューティングアプリケーションがこれまで以上にメモリーに大きなパフォーマンスを求めています。これを受け、サムスン電子はハイブリッド環境でメモリーをより効率的に使用するためのソフトウェア開発環境を構築することで対応しました。 SMDKは、データ使用量が爆発的に増加する中で、サムスン電子が最先端のメモリーハードウェアの需要に対応し、強力なソフトウェア環境への導入を促進することで、顧客価値を生み出すソリューションプロバイダとして進化していることを示すほんの一事例です。