[Memory Tech Day 2023] AIデータ時代のメモリ

生成AIのユーザー数が急速に増えている。これに伴い、増加する生成AIの作業量に追いつくため、より多くのCPU処理能力と優れたメモリソリューションが求められている。クラウドサービスプロバイダーが増加する作業量のニーズを満たすため、最新のCPU、DPU、xPU、スマートNIC、FPGA及びその他のプロセッサソリューションを採用しており、メモリ増設は、向上されたCPU処理能力の効率性を最大化するために開発しなければならない次世代の領域である。 2023年10月20日、カリフォルニア州サンタクララで開かれた「Samsung Memory Technology Day（MTD）」で、新しいAIコンピューティング時代を切り拓くメモリプロセッサ分野の様々な技術発展の成果が紹介された。その発展事例の1つとして、サムスンのメモリデバイスを通じたCXLメモリ増設の商業化に関する議論が行われた。 Memory Tech Dayを主導したメモリ製品マーケティング事業部のクリスティーナデイ(取締役)は、「生成AI」分野のトレンドと、これが今日の市場とコンピューティングシステムに与える影響について議論を行った。クリスティーナデイは、コンピューティング分野のメモリへのニーズを解消するために開発されたサムスンの先端技術について紹介した。特に、最新の高帯域幅メモリ（HBM）インタフェースであるHBM3E（Shinebolt）の発展の成果、そして現在HBM3E 8Hは開発を終え顧客に提供されていると発表した。HBM4、LLW（Low-Latency Wide-IO）、PIM（Processing-In-Memory）、最大9.6 Gbpsの速度を誇るLPDDR5Xメモリモジュール及びその他のニアメモリソリューション（Near Memory Solution）のような将来のメモリイノベーションの開発についても議論が行われた。 続いて、メモリー事業部DRAM設計総括のオ・テヨン(副社長)が2030年までの最新のDDRラインナップのロードマップについて説明した。その中でも注目すべきなのは、DDR5、LPDDR5X/6、LPDDR5X CAMM2及びGDDR7である。オは、開発中の最新技術と新しくて革新的な設計方法によって、現在直面しているいくつかの課題について集中的に説明を行った。この発表で取り上げられたロードマップの主な内容は、1bノードの量産と業界初の32Gb DDR5を、同じ1bノードで完成するものである。ロードマップによると、2027年まで毎年DDR5の速度を最大8800Mbpsまでアップグレードし、2028年には9600Mbps DDR6を発売する予定である。また、将来のDRAMの開発に必要な繊細なパターニングに対応するため、High NA EUV装置が使われるということにも注目が集められた。 また、発表ではLPDDR5Xの発展のトレンドについても取り上げられた。電圧スケーリング、ABB（Adaptive Body Biasing）、改善されたパワーゲーティング、High-Kメタルゲートトランジスタ、内部電圧制御など電力効率を改善させるテクノロジーが継続的に発展している。サムスンのLPDDR5X CAMM2（Compression Attached Memory Module 2）へのリーダーシップも強調された。このモジュールは、密度拡張機能と共にクライアント及びサーバー環境で電力効率とLPDDR5Xの速度を活用する。次は、次世代のJEDEC標準低電力DRAMであるLPDDR6であり、サムスンがこの仕様を定義する上で業界をリードしていることは当然のことである。 また、オは、サムスンは常にグラフィックDRAMテクノロジーをリードしてきており、世界初のGDDR7製品を通じてその名声を高め続けていると強調した。同製品はDRAM初の3レベルパルス幅変調IOテクノロジーにより1ピン当たり32Gbpsの速度に対応している。 DRAM設計担当のソン・ギョミン(博士)は、ニアメモリテクノロジーの最新動向にフォーカスを当てて発表を行った。これまでは1.5年から2年ごとにCPU速度が2倍ずつ向上していたが、CPUの拡張が難しくなったことにより速度が鈍化しており、これを解決するためにGPU、NPUなどのドメイン特化プロセッサが登場していると説明した。それにもかかわらず、ノイマン型アーキテクチャ（Von Neumann Architecture）で発生するプロセッサの速度とメモリチップからのデータ供給速度の不一致によるボトルネック問題を軽減させるためHBM、LLW、PIMなどの高帯域幅の新しいニアメモリソリューションが示されている。このようなソリューションは、メモリをCPUの近くに配置することでメモリのアクセスと帯域幅を増やし、遅延時間と電力消費は減らす。 以上のような発表内容を通じ、サムスンは生成AI時代におけるメモリソリューション業界のリーダーとして浮上していることがよくわかる。今後10年間、サムスンが新しいデータ消費時代に備え業界のニーズに応えられるよう、さらに高速で効率的なソリューションを継続的に提供していくことは明らかである。