[寄稿] 「超高性能、超高容量、超低消費電力」、AI時代を拡大させるサムスン電子のDRAMが持つ潜在能力

昨年末、世界を賑わせた「ChatGPT」の登場。 登録者数は発売から5日で100万人、2ヶ月で1億人にものぼり、アプリケーション史上最速の登録率を記録した。 なぜ、これほど多くの人がChatGPTに関心を集めているのだろうか？ それは、質疑応答から創作まで、様々な機能を提供するだけでなく、人間と区別できないほどの自然な会話ができるほどの精緻な性能を見せているからである。生成AIは、2016年のAlphaGoの登場以来、もうひとつの可能性として超巨大人工知能(AI)時代の新たな地平を開いた。

ChatGPTは、1,750億のパラメータ(parameter、媒介変数)の大量なデータをもとに学習された言語モデルであるため、スムーズなサービスの提供のためには高性能半導体が不可欠である。 このような巨大なデータを処理するためには、メモリ半導体はデータを迅速に読み書きできるように高性能、高帯域幅、低遅延などの性能を最大化する必要がある。

このように超巨大人工知能(AI)時代においては、メモリ技術の発展と性能の向上が重要である。 サムスン電子では、過去40年間業界をリードし積み重ねてきた独自の技術ノウハウをもとに、AI半導体エコシステムの拡大に向けて様々なメモリ製品を準備してきた。

AI時代の必須要素、高性能HBM

サムスン電子は、2016年に世界で初めて高性能コンピューティング(HPC)向けHBMの事業化を開始し、本格的にAI向けメモリ市場の開拓を行った。 2017年にリリースした8段積層HBM2は、当時最速メモリだったGDDR5に比べて8倍の速度を実現し、 この製品を通じてAIHPC時代に不可欠な3次元スタック技術を公開した。

その後もサムスン電子は、顧客企業と密接に連携してAIHPCエコシステムを推進しており、 HBM2製品に続いてHBM2E、HBM3を量産している。また現在、9.8Gbps*の速度を実現したHBM3E製品を開発し、顧客企業にサンプル供給を開始する予定である。 HBM4は2025年を目標に開発が進められており、本製品への適用に向けて高温の特性に最適化したNCF*組立技術とハイブリッド銅接合(HCB*)技術も準備している。

_{* Gbps(Gigabit per second): 1秒あたりに転送されるギガビット単位のデータ
*NCF(Non-conductive Film、非電導性接着フィルム): 積層されたチップ間に生じる絶縁と機械的衝撃からはんだ接合(Solder joint)部を保護するために使用されるポリマー層(Polymer layer)
*HCB(Hybrid Copper Bonding、ハイブリッドボンディング): 次世代の接合技術で、従来のはんだ(Solder)を用いた方式ではなく、銅(導体)と酸化膜(絶縁体)を用いた接合方式}

また、今年初めには最先端のパッケージ技術の強化と事業部間のシナジーを最大化するために、AVP(Advanced Package)事業チームを発足した。 HBMとともに、2.5次元と3次元*の最先端パッケージソリューションを含む最先端のカスタマイズパッケージ・ターンキー・サービスを提供し、AIHPC時代最良のソリューションを公開する予定である。

<sub>* 2.5次元パッケージ: 単層のロジック半導体と多層のメモリ半導体を基板上に集積したパッケージ
* 3次元パッケージ: 複数のロジック半導体とメモリ半導体を垂直に集積したパッケージ</sub>

世界最大の容量と最高の性能を提供するDDR5 DRAM

人工知能(AI)サービスのためのハイエンドCPUには、100以上のコア(Core)と、各コアに十分なメモリが必要である。 また、限られたパッケージ内により多くの容量を搭載するためには、DRAMシングルチップのサイズを最小限に抑えるプロセス技術と、フォームファクタ内の部品を適切に配置し仕様に合わせて動作させる設計技術も不可欠である。

先月発表された32Gb(ギガビット)DDR5 DRAMは、40年前に開発された64Kb(キロビット)DRAMに比べて50万倍の容量となっている。 さらに、アーキテクチャの改善により同じパッケージサイズで16Gb DRAMの2倍の容量を実現し、128GB(ギガバイト)モジュールをTSV*プロセスなしで製作可能となった。 これにより、コスト削減と生産性の改善が可能となり、消費電力も10％改善できるようになった。

_{* TSV(Through Silicon Via、シリコン貫通電極): チップを薄くした後、数百個の微細な穴を開け、上下のチップの穴を垂直に貫通する電極を接続した先端パッケージング技術}

今回の製品で最大1TB(テラバイト)のモジュールの実装が可能となり、大容量を必要とするデータセンターだけでなく、今後はMCRDIMMやCXLなど次世代メモリソリューションでも使用できる基盤になると期待されている。

一方、業界最先端技術を採用したDDR5規格の12nmクラスDRAMは、前世代製品に比べて生産性が約20％向上した。 差別化された技術ノウハウをもとに優れた性能と低消費電力を実現し、最大転送速度7.2Gbpsをサポートする。 これは、1秒に30GBのUHD映画を2本処理できる速度で、サムスン電子は今後顧客企業の需要に合わせて、データセンターAIHPCなど様々な応用先に供給する予定である。

メモリの新しいパラダイム、PIM

ノイマン型によるメモリのボトルネックは、ChatGPTのような大量のデータを処理するアプリケーションにおいては特に致命的である。 この限界を克服するために、サムスン電子では2018年に世界で初めて、メモリ内で演算ができ高いエネルギー効率を実現するHBM-PIM(Processing-in-Memory)を開発した。 これにより、産業界と学界におけるPIMプラットフォームの標準化とエコシステム構築の基礎が築かれた。 HBM-PIMは、DRAM内にデータ演算機能を搭載してメモリ帯域幅のボトルネックを改善し、音声認識など特定の作業量において最大12倍の性能アップと4倍の低消費電力を実現した。

これに関連し、システムの性能改善を目指す研究も進行中である。生成AIアプリケーションへの拡張性はもちろん、最近ではCXL(Compute Express Link)インタフェースを使用するCXL DRAMでPIMアーキテクチャを構成する研究も同時に行われている。

ネクストフォームファクタで新たな市場を開拓する これまで、PCに搭載されているDRAMはSo-DIMM*やLPDDR*が一般的だった。 So-DIMMは脱着は可能だが、転送速度とスペース効率化の面で限界があり、LPDDRは小型化や低消費電力などの利点はあるものの、オンボード(On-board)方式で搭載されているため脱着が難しかった。 両製品の限界を克服できる製品が、LPCAMM(Low Power Compression Attached Memory Module)である。

<sub>* So-DIMM(Small Outline Dual In-line Memory Module): プリント基板の両面にDRAMを搭載したモジュールで、一般的なDIMMより小さいため、ノートパソコンなどの小型システムによく使用されている
* LPDDR(Low Power Double Data Rate): スマートフォン、タブレット、ノートパソコンなどのモバイル機器などに搭載される低消費電力DRAM</sub>

LPCAMMは、LPDDR DRAMベースのモジュール製品で、サムスン電子は最近業界初のLPCAMMを開発し、LPDDRの新たなフォームファクタ市場を開拓した。 LPDDRを搭載して高性能、低消費電力を実現するとともに、モジュール形式で脱着が可能なため、ニーズに合わせて交換およびアップグレードが可能である。 また、So-DIMMに比べて搭載面積が最大60％削減されるため、メーカーが内部空間をより効率的に使用できる。 また、性能は最大50%、消費電力は最大70%改善され、今後はノートパソコンなどのモバイル機器に限らず、業務効率と低電力が重視されるデータセンターなど様々な応用先での活用が期待されている。

半導体技術で未来を描く

サムスン電子は、約40年にわたる絶え間ない変化と革新を通じて、技術の超格差を達成してきた。 今後も超格差に対する潜在能力をもとに技術的限界を克服し、世界にない様々なメモリソリューション製品を開発していく計画である。 特に、DRAM市場の大きな変曲点となる10nm以下のプロセスを基盤に、AI時代に世界が求める超高性能、超大容量、超低消費電力のメモリ製品を提供していく予定である。

これまでと同様、サムスン電子は常に技術革新の中心に立ち、世界が求める半導体を創造していく。