삼성전자, NVIDIA AI Day Seoul 2026에서 AI 기반 반도체 엔지니어링 협업 성과 소개

삼성전자가 NVIDIA AI Day Seoul 2026에 참가해 AI 기반 반도체 엔지니어링 연구 성과와 NVIDIA와의 협업 사례를 소개했다. 이번 행사는 NVIDIA가 국내 주요 기업과 최신 AI 기술 및 산업 적용 사례를 공유하는 자리다.

삼성전자 반도체연구소 CSE(Computational Science & Engineering)팀은 NVIDIA와 함께 "Building Autonomous AI Engineers With NVIDIA PhysicsNeMo"를 주제로 Joint Session을 진행했다. 해당 세션에서 NVIDIA는 AI physics를 활용한 반도체 엔지니어링 혁신 방향과 관련 기술을 소개하고, 삼성전자는 Scientific Machine Learning(SciML)을 대규모 반도체 시뮬레이션에 적용한 연구 성과와 양사의 협업 사례를 공유했다.

AI physics, 반도체 엔지니어링의 새로운 도구로

반도체 산업은 설계, 제조 공정, 패키징, 시스템에 이르기까지 여러 단계에서 복잡한 시뮬레이션을 활용한다. 제품과 기술이 고도화될수록 고려해야 할 변수는 늘어나고, 최적의 설계와 공정 조건을 찾기 위해 반복해야 하는 계산의 규모도 함께 커진다.

NVIDIA는 이번 세션에서 시뮬레이션 데이터와 물리 지배방정식을 기반으로 AI 모델을 구축·학습하고 이를 다시 엔지니어링 워크플로우에 적용하는 AI physics 접근을 소개했다. 이를 통해 설계 TAT 단축, 공정 최적화, 열·기계 해석 등 반도체 엔지니어링 전반의 효율을 높이는 방향을 제시했다. 대표 기술로는 AI physics 모델 개발을 지원하는 NVIDIA PhysicsNeMo↗와 Python 기반의 GPU 가속 물리 컴퓨팅 프레임워크인 NVIDIA Warp↗가 있다.

삼성전자와 NVIDIA는 AI physics뿐 아니라 공정·소자·광학 시뮬레이션의 GPU 가속과 소재 연구까지 협력 범위를 넓히고 있다. TCAD 분야에서는 희소 선형 시스템의 연산을 가속하기 위해 NVIDIA cuISS↗와 NVIDIA cuDSS↗를 활용하고 있다. 소재 분야에서는 NVIDIA cuEST↗를 삼성전자의 분자 DFT 플랫폼 sMOL에 적용해 전자구조 계산을 가속하고, NVIDIA cuEquivariance↗를 활용해 원자 단위 AI 모델의 학습과 추론을 보다 빠르게 수행하는 방안도 연구하고 있다.

이처럼 시뮬레이션 도구와 AI physics 모델이 다양해지면서, 이를 하나의 엔지니어링 워크플로우로 연결하는 방식도 중요해지고 있다. NVIDIA는 이를 지원하기 위한 에이전트 기반 접근 방식도 소개했다. NVIDIA Agent Toolkit↗을 활용하면 사용자의 설계 목표를 형상, 재료, 경계조건 등 시뮬레이션 입력 조건으로 구체화하고, AI 예측과 필요한 고충실도 수치 해석을 수행한 뒤, 결과를 평가해 다음 설계 후보를 선택할 수 있다. 이 과정을 조율하는 것이 에이전트의 역할이다. AI physics 모델과 수치 솔버는 각 조건에 필요한 물리량을 계산하고, 에이전트는 계산 도구와 실행 환경을 연결하고 작업 상태와 결과를 관리한다.

NVIDIA Agent Toolkit for Design and Engineering

이러한 기술이 실제 반도체 개발 과정에 어떻게 적용될 수 있는지는 삼성전자 CSE팀의 연구 사례에서 확인할 수 있다.

AI로 풀어가는 대규모 반도체 시뮬레이션

삼성전자 CSE팀이 주목한 문제는 칩 스케일의 열·기계 시뮬레이션이다. 안정적인 제품 설계를 위해서는 칩 내부의 열 특성과 서로 다른 소재 간의 응력과 변형을 정확하게 예측해야 한다. 그러나 복잡한 3D 구조를 세밀하게 해석할수록 계산량이 급격히 늘어나 많은 시간과 컴퓨팅 자원이 필요하다.

삼성전자 CSE팀은 이러한 한계를 해결하기 위해 물리 기반 시뮬레이션과 AI를 결합한 SciML 연구를 지속해 왔다. 특히 대규모 시뮬레이션의 효율을 높이기 위해 두 가지 접근에 AI를 접목했다.

“전체를 한 번에 풀지 말고, 작은 문제로 나눠 풀고 다시 합치면 안 될까?”

하나는 Domain Decomposition이다. 거대한 영역을 여러 개의 작은 영역으로 나누고, 각 영역의 계산 결과를 경계에서 주고받으며 반복적으로 전체 해를 구하는 방식이다. CSE팀은 물리 법칙을 반영한 파운데이션 모델을 활용해 각 영역의 물리 응답을 예측하고, 영역 간 결과를 연결해 전체 시뮬레이션에서도 일관된 해를 얻는 방법을 연구했다.

다른 하나는 Homogenization이다. 반도체의 복잡한 미세 구조를 그대로 모두 계산하는 대신, 열·기계 특성을 대표하는 유효 물성을 AI로 예측해 더 큰 규모의 시뮬레이션을 수행하는 방식이다. 이를 통해 계산 부담을 줄이면서 더 큰 규모의 해석으로 확장할 수 있다.

이러한 연구를 통해 CSE팀은 개별 문제 중심의 SciML 연구에서 나아가, 칩 스케일의 대규모 멀티물리 시뮬레이션(Multi-Physics Simulation)까지 확장 가능한 방법론을 발전시켜 왔다. 관련 연구는 DAC 2026에 게재됐으며, FP-DDM 연구는 NVIDIA PhysicsNeMo의 공개 예제↗에서 살펴볼 수 있다.

AI Homogenization으로 칩 스케일 해석을 초 단위로

이번 Joint Session에서는 이러한 연구를 실제 반도체 엔지니어링에 적용하기 위한 삼성전자와 NVIDIA의 협업도 소개했다.

End-to-End SciML Pipeline

양사는 삼성전자가 축적한 반도체 시뮬레이션 전문성과 NVIDIA의 GPU Computing 및 AI physics 기술을 결합해 End-to-End SciML Pipeline을 구축했다. Pipeline은 반도체의 형상과 재료 특성을 반영한 합성 레이아웃을 생성하는 단계에서 시작한다. 이어 NVIDIA Warp 기반 GPU-Accelerated Solver로 시뮬레이션 데이터를 생성하고, PhysicsNeMo를 활용해 물리 법칙을 반영한 AI 모델을 학습한다. 학습된 모델은 복잡한 구조의 특성을 대표하는 물성값을 산출해 더 큰 규모의 해석에 활용한다.

대표적인 성과는 AI Homogenization 기반 열·기계 시뮬레이션이다. 약 10억 개의 세밀한 격자(fine voxel)로 표현된 복잡한 구조를 약 100만 개의 큰 계산 단위(coarse cell)로 단순화해, CPU 32코어의 fine-grid 해석에서 약 18시간 걸리던 계산을 Hopper GPU 1개를 활용한 coarse-grid 해석으로 41초 만에 수행했다. 기존처럼 촘촘한 격자를 그대로 계산하는 CPU 기반 fine-grid 해석 대비, AI Homogenization과 GPU 가속을 결합한 워크플로우는 약 1,600배 빠른 속도를 구현하면서도 유효 수직 열전도도 기준 99.17%의 정확도를 확보했다.

이처럼 양사는 반도체 도메인 지식과 GPU 가속 컴퓨팅, AI 모델을 결합해, 물리적 정합성을 유지하면서 계산 속도를 높이고 보다 크고 복잡한 문제까지 확장 가능한 시뮬레이션 환경을 구현하고 있다.

이러한 결과는 AI physics가 반도체 시뮬레이션을 가속해 엔지니어가 설계안을 보다 빠르게 검토할 수 있음을 보여준다. 시뮬레이션이 ‘기다리는 작업’에서 ‘즉시 묻고 답하는 작업’으로 바뀌면, 엔지니어는 더 많은 대안을 더 짧은 주기로 검토하고 개선할 수 있다.

삼성전자는 NVIDIA와의 협업을 통해 AI physics와 SciML 기술의 적용 범위를 넓히고, 궁극적으로 AI가 다양한 엔지니어링 업무를 자율적으로 수행하는 Autonomous AI Engineers의 구현 가능성을 지속 모색해 나갈 예정이다.