HBM-PIM: 차세대 AI를 가속화하는 최첨단 메모리 기술

지금 전세계는 ChatGPT에 열광하고 있습니다. ChatGPT는 OpenAI에서 개발한 초거대 AI 서비스입니다. ChatGPT와 같은 초거대 AI는 인간의 뇌처럼 스스로 학습해 사고, 판단할 수 있으며, 이 같은 수준의 AI를 구현하려면 처리할 데이터와 연산량이 기하급수적으로 증가하기 때문에 기존 컴퓨팅 시스템으로는 성능과 효율의 한계가 있습니다. 이를 해결하기 위해서는 차세대 메모리 반도체의 역할이 절대적으로 필요합니다. 삼성전자는 AI 전용 반도체 솔루션인 PIM(Processing-In-Memory) 기술을 고성능 DRAM인 HBM에 세계 최초로 적용하였습니다. PIM은 프로세서가 수행하는 데이터 연산 기능을 메모리 내부에 구현한 차세대 메모리 기술입니다. 그만큼 프로세서와 메모리 간의 데이터 이동이 줄어들어 AI 가속기 시스템의 성능과 에너지 효율을 높일 수 있습니다. 삼성전자는 AMD의 그래픽처리장치(GPU) 'MI-100' 가속기 카드에 HBM-PIM 메모리를 탑재하기도 하였습니다. HBM-PIM 클러스터를 구현해 대규모 AI 및 HPC 애플리케이션에 적용한 결과, 기존 GPU 가속기 대비 성능은 2배 늘고 에너지 소모는 50% 감소한 것을 확인했습니다. 한 편, 세계 최대 반도체 설계 기업 AMD의 CEO 리사 수는 지난 달 20일 미국 샌프란시스코에서 열린 세계 최대 반도체 기술학회 'ISSCC 2023' 기조연설자로 나서서 "PIM 기술을 활용하면 기존 메모리가 정보를 처리할 때보다 85% 이상 전력을 절감할 수 있다. 삼성전자와 차세대 메모리 반도체 분야에서 긴밀하게 협력하고 있다" 라고 말했습니다. ISSCC: https://youtube.com/watch?v=3jHi8E5C-18&feature=shares&t=1300 삼성전자는 HBM-PIM을 비롯한 차세대 반도체 기술을 개발하고 이를 위한 S/W 및 Simulator를 모두 공개하여 생태계 구축 또한 지속해 나가고 있습니다.