더 스마트한 메모리를 통한
AI 가속화

삼성은 기존 HBM에 인공지능 프로세서를 하나로 결합한 HBM-PIM(Processing-in-Memory)을 세계 최초로 개발하며, PIM(Processing-in-Memory)의 새로운 장을 열었습니다. 삼성 PIM은 메모리 코어에 PCU(Programmable Computing Unit)는 인공지능 엔진을 통합하는 방식으로 메모리 내부에서 일부 연산처리를 가능하게 하며 성능을 극대화 하였습니다. 삼성 PIM은 2배 이상 높아진 성능으로, 슈퍼컴퓨터(HPC), 데이터 센터 등 최근 초고속 데이터 분석을 요구하는 인공지능의 발전에 효과적인 솔루션을 제시합니다.

메모리 및 메모리의 처리와 비교한 이미지입니다.

병렬 프로세싱을 통한
2배 성능 증가

삼성 PIM은 PCU(Programmable Computing Unit)를 통해 메모리 내부에서 프로세싱을 가능하게 하며 기존 메모리 솔루션 대비 이론적으로 최대 4배 성능을 개선할 수 있습니다. CPU 내 멀티코어 프로세싱과 마찬가지로 PCU는 메모리 내 병렬 프로세싱을 구현하며 성능을 극대화 합니다. 특히, 음성 인식 등 AI 애플리케이션에서 HBM-PIM은 기존 HBM 대비 2배 이상 성능 증가를 입증하며 그 가능성을 보여주고 있습니다.

음성 인식과 같은 AI 애플리케이션에서 PIM이 가져올 수있는 이점과 함께 병렬 처리로 성능이 2 배 향상되는 이미지입니다.

70 % 더 적은
에너지 사용

전력 소모는 많은 양의 데이터를 빠르게 처리해야 하는 AI 애플리케이션에서 매우 중요한 이슈입니다. 메모리 내부에서 연산처리가 가능해진 PIM은 CPU와 메모리간 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있습니다. HBM-PIM은 기존 HBM대비 70 % 더 적은 에너지 사용으로 같은 양의 데이터를 처리할 수 있어 전력 소모가 심한 AI 애플리케이션에 최적의 대안을 제시합니다.

집중적인 작업에도 70%의 에너지를 덜 사용하는 예시 이미지입니다.

편하고 쉬운 활용성과
확장된 애플리케이션 제공

PIM은 기존 메모리 시스템 환경을 변경할 필요 없이 시스템 채용이 가능하며, HBM 뿐만아니라 LPDDR 및 GDDR 메모리에도 적용할 수 있습니다. HBM-PIM도 기존 HBM 인터페이스를 그대로 지원해 HBM을 이용하는 고객들은 하드웨어나 소프트웨어의 변경 없이 HBM-PIM을 통해 강력한 AI 가속기 시스템을 구축할 수 있습니다. 삼성은 PIM을 통해 초고속 데이터 처리가 필요한 다양한 응용에 더 높은 수준의 성능과 에너지 효율을 제공하며, 우리의 더 나은 일상을 위해 노력하고 있습니다.

HBM, LPDDR 및 GDDR 메모리와 통합된 PIM의 예시 이미지입니다.