삼성전자, NVIDIA GTC 2026에서 Agentic AI 기반 반도체 엔지니어링 혁신 전략을 공개하다.

NVIDIA GTC 행사 둘째 날인 3월 17일(현지시간), 삼성전자 DS부문 AI센터장 송용호 부사장은 “Transforming Semiconductor Manufacturing with Agentic AI from Design and Engineering to Production”을 주제로 발표를 진행했다. 송 센터장은 증가하는 반도체 기술 난이도에 대응하기 위해, 설계부터 제조까지 이어지는 전 과정을 개별 단계 단위가 아닌 End-to-End 관점에서 통합적으로 최적화하는 Agentic AI 기반 반도체 엔지니어링 전략을 소개했다. 이는 복잡도가 급격히 높아지는 차세대 반도체 개발 환경에서 품질과 효율을 동시에 확보하기 위한 핵심 방향으로 제시됐다.

설계 영역: Agentic AI 기반 설계 자동화와 최적화

삼성전자는 설계 영역에서 Agentic AI를 활용해 기존 설계 프로세스의 효율과 품질을 동시에 높이고 있다.
전체 설계 과정 가운데 특히 아날로그 및 로직 설계를 중심으로 Agentic AI 도입을 확대하고 있다.

이 가운데 아날로그 설계는 HBM과 같은 고성능 제품의 성능을 좌우하는 핵심 영역으로, 다양한 설계 변수와 제약 조건을 동시에 고려해야 해 반복적인 최적화 과정이 필수적이다. 이를 개선하기 위해 강화 학습(reinforcement learning)과 유전 알고리즘(genetic algorithm) 등의 AI 기술을 적용해 트랜지스터 사이징과 같은 반복 작업을 자동화하고, DRC (Design Rule Check) 위반 가능성도 사전에 예측해 레이아웃에 반영했다. 그 결과 설계 소요 시간(Turnaround Time)은 약 50% 단축됐고, 이러한 AI 기반 최적화는 HBM4 핀당 13Gbps 속도 구현에도 기여했다. 

기존에는 회로도(schematic)와 레이아웃이 개별적으로 최적화되는 구조였다면, 삼성전자는 앞으로 각 단계 간 피드백을 주고받는 상호 최적화(Co-optimization) 구조로 발전시켜 나갈 계획이다. 이를 위해 각 단계별 Agent를 통합한 멀티 에이전트 워크플로(multi-agent workflow)를 구축해, 앞 단계에서는 후속 단계의 PPA(Performance, Power, Area)를 예측해 회로를 조정하고, 후속 단계에서는 앞 단계의 수정 사항이 자동으로 반영되도록 고도화하고 있다. 이를 통해 추가적인 성능 향상이 기대된다. 

이어진 Synopsys 발표에서는 양사가 Generative AI를 넘어 Agentic AI까지 협업을 확장해 온 과정이 소개됐다. 특히 NVIDIA GPU 가속 기반으로 삼성전자 메모리 사업부, 반도체연구소 CSE팀, 그리고 공정개발실과 함께 진행한 협업 성과를 공유하며, 반도체 설계 전반에서 AI 기반 협업이 만들어내는 구체적인 성과를 보여줬다. 

제조 영역: Agentic AI와 Digital Twin 기반 품질 고도화

설계 단계에서 최적화된 칩을 안정적으로 생산하기 위해서는 제조 영역의 고도화 역시 필수적이다. 특히 HBM4E와 같은 고성능 메모리는 미세한 공정 변화에도 품질과 수율이 크게 영향을 받기 때문에, 제조 전 과정에 걸친 정밀한 품질 관리가 요구된다. 삼성전자는 기존 MES(Manufacturing Execution System) 기반 품질 관리 체계를 한 단계 발전시키기 위해 Agentic AI를 도입하고 있다. 대규모 제조 데이터를 실시간으로 분석해 이상 원인을 신속히 식별하고 대응하는 체계를 구축했으며, 설비 운영, 공정 결함, 수율 관리 등 세 가지 핵심 영역에 AI를 적용해 제조 품질 안정성을 높이고 있다.

설비 운영 단계에서는 AI가 설비 알람을 자동으로 감지해 문제 해결을 지원하고, 공정 결함 발생 시에는 이상 신호를 신속히 탐지해 적시에 보정이 가능하도록 돕는다. 또한 수율 저하 상황에서도 AI가 원인을 분석하고 최적의 진단 방향을 제시함으로써, 복잡한 제조 환경에서도 안정적인 품질 관리가 가능하도록 하고 있다.

이와 함께 삼성전자는 개별 공정 단위 대응을 넘어, Fab 전체를 하나의 시스템으로 관리하기 위해 NVIDIA의 Omniverse 플랫폼 기반 Digital Twin 환경을 구축했다. 실제 Fab과 동일한 가상 생산 환경을 MES와 연동해 공정 상태를 실시간으로 모니터링하고 잠재적 위험을 사전에 예측 및 대응할 수 있는 기반을 마련했다. 이를 통해 다양한 시나리오를 사전에 검증함으로써, 안정적인 품질 확보와 생산 효율 향상이 가능할 것으로 기대된다. 금번 발표에서는 평택 Fab을 구현한 Digital Twin 영상을 공개하며, 세계 최대 규모의 가상 Fab 환경에서 고품질 칩 생산을 구현해 나가는 삼성전자와 NVIDIA 간 제조 혁신 시너지를 강조했다.

NVIDIA와의 협업으로 구현한 엔지니어링 혁신

이와 같은 설계-제조 전 과정의 Agentic AI 기반 혁신은 NVIDIA와 반도체 가치사슬 전반에 걸친 긴밀한 협업을 통해 가능했다. 삼성전자는 NVIDIA의 GPU 가속 기술을 활용해 R&D 영역에서는 cuLitho를 통한 Lithography 혁신을 추진하고 있으며, 설계 영역에서는 공동 발표를 진행한 Synopsys와 함께 TCAD 및 EDA 툴 최적화를 지속하고 있다. 제조 영역에서는 Digital Twin과 predictive maintenance system을 활용해 Fab 운영 전반을 실시간으로 연결하고, 선제적 품질 관리 체계를 구축하고 있다. 더 나아가 미래 로드맵에서는 로봇과 AI가 결합된 autonomous AI factory 구현을 목표로, 차세대 제조 환경을 단계적으로 고도화해 나갈 계획이다.

차세대 AI 플랫폼으로 이어진 협력 성과

이러한 협력은 삼성전자가 NVIDIA의 차세대 AI 플랫폼 Vera Rubin을 지원하는 메모리 및 스토리지 통합 솔루션을 적기에 제공하는 성과로 이어졌다. 특히 HBM4, SOCAMM2, PM1763 등 핵심 제품을 통해 GPU와 CPU 등으로 구성되는 고성능 AI 인프라를 뒷받침할 폭넓은 메모리·스토리지 포트폴리오를 제시했다. HBM4와 HBM4E는 대규모 AI 학습 성능을 높이고, SOCAMM2와 PM1763는 AI 추론과 데이터 처리를 안정적으로 지원한다. 이는 단일 제품 공급을 넘어, 차세대 AI 플랫폼이 요구하는 메모리와 스토리지 전 계층을 통합적으로 지원하는 시스템 차원의 협력 성과라는 점에서 의미가 크다.

이번 발표는 행사 현장에서 좌석이 모두 채워질 정도로 높은 관심 속에 진행됐으며, 국내외 언론과 업계 관계자들로부터 큰 주목을 받았다. 특히 삼성전자가 NVIDIA와의 협력을 단순한 메모리 공급을 넘어, Agentic AI와 Digital Twin 기반의 반도체 엔지니어링 혁신으로 확장하고 있다는 점이 주요 성과로 평가됐다.

또한 설계부터 제조까지 전 과정을 End-to-End 관점에서 통합 최적화하는 전략을 실제 기술과 제품으로 연결했다는 점에서, 차세대 반도체 개발 방향을 제시했다는 평가도 이어졌다. 앞으로도 삼성전자는 글로벌 파트너와의 협력을 바탕으로 차세대 AI 인프라를 지원하는 핵심 반도체 기술 개발을 지속해 나갈 계획이다.