サムスン電子のメモリはどのようにAI革命を推進しているか

Midjourney、Google BardおよびChatGPT/GPT–4などの新しいハイパースケール人工知能(AI)は、産業に多大な影響を及ぼし、ワークストリームを変革しています。ただし、この高度なAIの背後には、#SamsungSemiconductor(サムスン電子半導体)のみが提供できる最先端レベルのメモリ技術が必要です。すなわち、従来のパフォーマンスのボトルネックの解消に特化して設計された新しいタイプのメモリ、ソリッドステートドライブ、さらにはインターフェースです。 以下に、サムスン電子が提供するAIと機械学習(ML)用途向けの技術革新の一部についてご説明します。 AIのデータ移動を減らすPIM技術 AIとMLのモデルでは、DRAMを介して通常の用途よりはるかに多くのデータ移動があります。ただし、こうしたデータ移動はすべてパフォーマンスにマイナスの影響を及ぼします。 その理由は次のとおりです。フォン・ノイマンのアーキテクチャを使用する従来のコンピュータでは、データは処理装置とメモリ間をシーケンシャルに移動します。そのようなシステムでは、命令のフェッチとデータ操作を同時に処理することができません。従来の用途より大量のデータ処理が必要になるAIでは、この欠点が原因となってデータの停滞が発生し、速度の低下と必要な電力の増大につながります。 従来のソリューションに対するハイパースケールAIのメモリ要求は指数関数的に増大します。これを解決するために、サムスン電子は高帯域幅メモリ(HBM)向けのメモリ内処理(PIM)技術を開発しました。PIM技術によって、HBM DRAMにプロセッサを直接実装し、データ計算処理の一部をメモリ自体に移行してプロセッサの負担を軽減できます。これにより、データ移動が減少し、AIのエネルギー効率とデータ効率が向上します。 AI用途の強化にPIM技術を使用することで優れた結果が得られるのは明白です。60億規模のAIモデルでは、PIMによって全コンピュータ機能の80%以上が加速され、パフォーマンスが3.5倍向上すると見積もられています。 高度なインテリジェンスのための高度なSSD AIモデルでは、メモリを介したデータ移動が従来の用途より多く必要になりますが、ディスク上で小さいデータチャンクの書き込みやアクセスをより頻繁に行う必要もあります。サムスン電子は、AIが従来のソリッドステートドライブ(SSD)に課する特別な要求に対処するために、次の2つの技術を新たに開発しました。 最初の技術はメモリセマンティックSSDです。メモリセマンティックSSDをAIに使用すると、パフォーマンスを最大20倍向上できます。小さいデータチャンクの読み書きに最適化されたメモリセマンティックSSDを使用すると、ドライブのレイテンシを短縮しながらランダム読み取り速度が高速化されるため、AI/MLのようにより小さなデータセットの高速処理が必要なワークロード向けのソリューションに最適です。 また、サムスン電子はAMD Adaptive Platformを活用するSmartSSDを発表しました。メモリに統合されたPIM技術と同様に、SmartSSDはストレージにプロセッサを内蔵したコンピュテーショナルストレージドライブです。データ自体が保存されている場所の近くでデータを処理することにより、SmartSSDはHyperScale AIなどのデータ集約型アプリケーションを大幅に高速化できます。 AI用途でのCXLによるインターフェースの高速化 Compute Express Link (CXL)インターフェースは、プロセッサとメモリ間の高速大容量接続のオープンスタンダードです。サムスン電子半導体は、CXL規格のユニークな特長を活用して革新的なソリューションを開発し、ハイパースケール用途のパフォーマンスと効率を改善しました。 AI、機械学習、クラウドコンピューティングなどの技術には、慣用的なDRAM設計よりさらに高い密度と帯域幅のメモリが必要になります。企業がAIイノベーションの極めて速いペースに遅れを取らないようにするために、サムスン電子はCXLメモリエキスパンダー技術を開発しました。この技術により、サーバーの帯域幅は毎秒数百ギガバイトに拡張され、メモリ容量が数十テラバイトに増加されます。 さらにCXL-PNMがあります。PIMやSmartSSDのように、CXL-PNM(プロセッサ近傍メモリ)は、CPUとメモリ間のデータ移動を減らすことができる最先端技術です。CXL-PNM技術では、プロセッサユニットをメモリの近くに配置することによって、AIモデルのロード速度が2倍向上され、容量が4倍拡大されます。 結論 #SamsungSemiconductor(サムスン電子半導体)はAIの重要性が21世紀を通してますます高まることを踏まえて、ハイパースケール用途と機械学習用途向けの次世代技術の開発に加え、それをサポートするためのソフトウェアとシミュレータのリリースに集中的に取り組んでいます。サムスン電子は、AI革命は始まったばかりであることを認識しています。 _{「技術の核心」は、サムスン電子半導体の技術が世界をどのように変革しているかをご紹介する月刊のニュースレターです。最新情報を見逃さないよう、ご購読ください。}