DFT 계산의 한계를 넘어: EquFlashV2가 여는 AI 기반 반도체 소재 시뮬레이션의 미래

원자 수준에서 보다: 반도체 R&D 시뮬레이션

새로운 반도체 소재를 실제로 만들지 않고도 성능과 내구성을 미리 확인할 수 있다면 어떨까요? 원자 수준 시뮬레이션은 눈으로 보기 어려운 물질 내부의 변화와 결함을 가상 환경에서 먼저 살펴보게 합니다.

반도체 기술이 발전할수록 물질의 조성, 원자 결함, 그리고 계면 구조처럼 미세한 차이가 누설 전류와 신뢰성, 열 전달 능력 등 핵심 소자 특성에 영향을 미칩니다. 하지만 이러한 원자 수준의 현상을 실험만으로 관찰하고 최적화하기는 쉽지 않습니다.

원자 수준 시뮬레이션을 활용하면 실제 제작에 앞서 후보 소재의 물성을 평가하고, 결함과 계면이 소자에 미치는 영향을 분석할 수 있습니다. 오늘날 반도체 R&D에서는 소재 탐색과 계면 공학부터 공정 최적화 및 신뢰성 분석까지 폭 넓게 활용되며, 시행착오를 줄이고 실험만으로 얻기 어려운 원자 수준의 통찰을 제공합니다.

정확도와 계산 비용의 병목

원자 수준 시뮬레이션의 활용범위는 빠르게 넓어졌지만, 정확한 계산일수록 더 많은 시간과 컴퓨팅 자원이 필요합니다. 특히 더 크고 복잡한 원자 시스템을 다룰수록 이러한 한계는 더욱 두드러집니다. 밀도 범함수 이론(DFT)과 같은 제일원리 계산(First-principles calculations)은 원자 구조와 안정성, 다양한 조건에서의 원자 수준 거동을 높은 신뢰도로 분석할 수 있는 가장 널리 사용되는 방법입니다. 하지만 원자 수와 계산 조건이 늘어날수록 계산 비용이 급격히 증가해 많은 수의 후보 소재나 복잡한 원자 구성, 또는 대규모 시뮬레이션 시나리오를 연구하는 데에는 현실적으로 한계가 있습니다.

머신러닝 포스필드(MLFFs): 계산의 한계를 넘어

이러한 계산상의 한계를 보완하는 방법이 머신러닝 포스필드(MLFF)입니다. 많은 제일원리 계산에서 전자 구조 계산 비용은 시스템 크기에 따라 대략 O(N³) 규모로 증가해, 복잡한 계면·결함·비정질 구조를 다루기 어렵습니다.

MLFF는 원자 구조로부터 제일원리 수준의 에너지, 힘(force), 응력(stress)을 근사하도록 학습해 계산 규모를 약 O(N) 수준으로 낮추고, 더 큰 원자 시스템과 다양한 구조·조건을 탐색할 수 있게 합니다.

하지만 계산 속도만으로 MLFF의 성능을 판단할 수는 없습니다. 실제 소재 시뮬레이션에서는 구조 완화(Structure relaxation)와 특성 예측 과정에서 모델이 반복적으로 사용되기 때문에, 단일 예측 정확도뿐 아니라 복잡한 과정에서의 안정적인 성능도 중요합니다. Matbench Discovery는 이런 환경을 반영해 안정성 예측, 구조 완화, 포논 기반 특성 예측 등을 종합적으로 평가하며, MLFF의 실질적인 성능을 비교하는 기준을 제공합니다.

EquFlashV2: E(3)-물리적 대칭성과 계산효율을 함께 설계하다

EquFlashV2는 원자 수준의 소재 시뮬레이션을 빠르게 수행하기 위해 개발된 E(3)-등변(equivariant) MLFF입니다. E(3)-등변성은 원자 구조를 회전, 평행 이동 및 반사하더라도 물리적 예측 값이 일관성을 유지하도록 하는 설계 원칙입니다. 예를 들어 구조의 방향이 달라져도 에너지는 동일하게 유지되고, 힘과 같은 방향성 물리량은 구조의 변화에 맞춰 함께 변해야 합니다.

EquFlashV2는 원자 구조를 그래프로 표현하고, 등변 메시지 패싱을 통해 원자 간의 상호작용을 학습합니다. 이를 바탕으로 구조 완화와 후속 물성 평가에 필요한 에너지, 힘, 응력 관련 정보 등의 원자 수준의 물리량을 예측합니다. 이 과정에서 클레브시-고르단(Clebsch–Gordan) 텐서곱 기반의 메시지 패싱과 이차 게이트 활성화 함수를 적용한 정밀한 설계를 통해, 원자의 거리와 방향에 따라 달라지는 상호작용을 정확히 반영하면서도 물리적 대칭성을 유지합니다.

EquFlashV2의 강점은 등변 연산을 GPU에서 효율적으로 수행할 수 있도록 설계된 모델 구조에 있습니다. 어텐션 대신 텐서곱 기반 연산을 사용하는 트랜스포머 스타일의 블록 아키텍처를 적용해, 연산 부담을 크게 늘리지 않으면서 parameter와 layer 수를 확장함으로써 기존 모델보다 강력한 표현력을 확보했습니다. 이러한 설계는 기존의 제일원리 계산만으로는 현실적으로 다루기 어려웠던 대규모 원자 수준 시뮬레이션의 계산 부담을 낮춰 구조 안정성과 결함·계면 평가의 범위를 넓힙니다. 결과적으로 더 많은 후보 소재를 탐색하고, 다양한 소재 구조와 반도체 제조 공정 조건을 빠르게 비교, 검토할 수 있습니다.

검증을 넘어, 실제 반도체 R&D로

EquFlashV2는 평가 당시 통합 성능 점수(Combined Performance Score)를 기준으로 Matbench Discovery 벤치마크에서 최고 수준의(State-of-the-art) 성능을 달성했습니다.¹ 이는 원자 수준 시뮬레이션을 위한 MLFF로서의 경쟁력과 AI 기반 소재 연구의 가능성을 보여주는 결과입니다.

현재 EquFlashV2는 당사의 소자 개발 업무와 공정 소재 스크리닝 업무에 활용되고 있으며 앞으로 차세대 메모리와 로직 소재의 탐색, 최적화, 제작 전 유망한 후보 소재를 선별하는 고속 스크리닝(High-throughput screening)등으로 활용 범위를 넓혀갈 것입니다.

삼성전자는 EquFlashV2를 포함, 관련 기술을 지속적으로 고도화하고 오픈소스 플랫폼과 연계해 MLFF가 차세대 반도체 소재 개발을 앞당기는 R&D의 도구로 자리잡도록 할 계획입니다.

References