AI의 새로운 세계가 프로세서 개발의 새로운 세계를 주도하는 방식

이 글의 공동 저자: • Tim Dry, 삼성 파운드리, 엣지 및 엔드포인트 세그먼트 마케팅 이사 • Santiago Fernandez Gomez, Blaize, 플랫폼 엔지니어링 부사장 • Mahadev Kolluru, VeriSilicon, 북미 플랫폼 솔루션 부사장 Blaize의 새로운 엣지 AI용 스트림 프로세서는 소규모 기업이 반도체 산업 리소스를 활용해 목표를 추구할 수 있는 새로운 기회에 대한 사례 연구를 제공한다. 지금까지 AI 애플리케이션에 사용된 대부분의 프로세서 칩은 GPU처럼 초기에 다른 목적으로 개발된 장치를 조정한 것이었다. 이러한 기존 장치의 유용성이 충분히 입증되었기 때문이기도 했고, 대부분의 회사에서 AI별 프로세서 개발을 엄두를 낼 수 없을 만큼 비싸고 복잡하고 위험한 것으로 보았기 때문이기도 했다. 하지만 AI 시장이 급격하게 확장되면 엣지와 엔드포인트에서 다양한 새 애플리케이션에 특정 작업과 상황에 더 밀착된 맞춤형 실리콘이 필요하게 될 것이며, AI 처리를 위해 클라우드로 이동할 필요가 없어질 것이다. 이제 반도체 부문이 이러한 니즈를 충족시키기 위해 어떻게 발전하고 있으며, AI 마켓플레이스의 발전과 시장 진입을 추구하는 이들에게 어떤 의미가 있는지에 대한 단서들이 보이기 시작하고 있다. 이런 맥락에서 엣지 AI 스타트업인 Blaize는 유용한 사례 연구를 제공한다. Blaize는 최근 출시된 Pathfinder 및 Xplorer 시스템 온 모듈 플랫폼과 부속 소프트웨어로 도구를 통해 산업, 스마트시티, 자동차 센서 융합, 라스트 마일 배송, 소매 애플리케이션 분야에서 고객을 찾고 있다. 이 회사는 이러한 부문에서 기존 엣지 솔루션이 "너무 작아서 로드를 계산할 수 없거나 너무 비싸고 어려워서 상품화할 수 없다"고 언급한다. Blaize는 다중 센서 처리 능력, 컴팩트한 크기, 극도로 낮은 전력 소비, 쉬운 프로그래밍 가능성을 결합하여 이러한 상황을 해결하는 것이 목표이며, 이를 위해 삼성 파운드리 및 설계/IP 회사 VeriSilicon과 공동 작업으로 개발한 새로운 GSP(Graph Streaming Processor)를 사용한다. 왜 스트림 프로세서일까? 스트림 프로세서는 여러 소스의 연속 그래픽 데이터를 실시간으로 분석할 때 여러 장점을 발휘한다. 공장 현장이나 소매 매장의 많은 카메라나 센서의 조율된 조합을 통해 생성되는 그런 그래픽 데이터이다. 기존의 배치 지향적 프로세서와 다르게 스트림 프로세서는 처리를 위해 데이터를 임시 저장하거나 배치 데이터를 다시 집계할 필요가 없다. 이는 메모리 요구 사항과 대기 시간을 크게 줄여주며 엣지 AI 상황에서 자주 필요한 작업들의 처리 효율성을 높여준다. 예를 들어, Blaize가 GSP를 구현함으로써 Pathfinder 모듈은 초당 10프레임(총 50fps)에서 100ms 미만의 지연으로 비디오 스트리밍을 위한 5개의 독립적인 신경망을 제공하는 동시에 여러 스트림에 걸쳐 동시적으로 여러 작업 부하를 지원할 수도 있다. 이를 통해 센서 융합, 물체 감지, 이미지 노이즈 감소, 비디오 및 라이더/레이더 데이터 융합 및 사용 사례에 따른 기타 기능을 지원하며, 플랫폼은 100% 프로그래밍이 가능하다. 16 TOPS의 처리 능력을 제공하지만 GSP 전력 소비가 7와트라는 점도 놀랍다. 전략적 관점에서 볼 때 매력적이면서도, 이러한 기능을 안정적이고 합리적인 가격의 실리콘으로 출시하는 것은 엄청나게 어려운 작업이어서 최근까지도 이를 해결하려는 의지나 능력을 가진 회사는 거의 없었다. 이는 일반적인 맞춤형 칩 프로젝트의 범위를 훨씬 뛰어넘어 광범위한 고급 설계 및 제조 능력, 다양한 회로 IP의 통합, 대규모 학제간 개발팀의 관리 및 조정을 필요로 하며, 이는 전통적으로 스타트업이 아닌 전문적인 대기업의 영역이었다. 개발을 막는 기본적 장애물(타이밍, 물리적 레이아웃, 메모리 관리 등) 외에도 비즈니스와 기술적 고려 측면에서 모두 신속하고 신뢰할 수 있는 출시 시간이 필수다. 이러한 유형의 프로젝트는 제대로 할 수 있는 기회가 단 한 번뿐이기 때문에 위험 보상에 대해 고려할 것도 많아진다. 성공적인 개발을 위한 전략적 선택 결과적으로 Blaize가 삼성 파운드리와 초기 업무를 시작하고 프로젝트 목표 및 요구 사항을 설명했을 때, 파운드리팀은 맞춤형 실리콘 솔루션 및 반도체 IP의 원스톱 소스이자, 다른 AI 관련 프로젝트를 포함한 광범위한 실적을 보유한 VeriSilicon을 참여시키자고 권유했다. 또한 SAFE™(삼성 Advanced Foundry Ecosystem) 파트너십 프로그램의 멤버인 VeriSilicon은 삼성과의 생산 프로세스를 통해 많은 설계 프로젝트를 경험했고 이를 바탕으로 개발 중에 사용된 전략적 계획과 전술을 세웠다. 최초이자 가장 중요한 결정 중 하나는 제조 공정 노드의 선택이었다. 사용 가능한 모든 옵션을 고려한 후 삼성 파운드리의 14nm FinFET 프로세스가 여러 이후 노드를 능가하는 이상적인 선택지로 부상했다.

초기 칩의 타겟 애플리케이션을 고려하고, 당시 14nm IP의 많은 부분이 보다 발전된 노드에서는 사용할 수 없다는 사실을 감안할 때 성숙한 프로세스 노드가 가장 합리적이었으나, 비용은 또 다른 우려를 낳았다. 그리고 VeriSilicon은 수년에 걸쳐 14nm에서 삼성과 협력한 경험과 전문 지식을 바탕으로 이것이 최초의 실리콘 성공을 위한 최선의 길이라고 확신했다. 또한 파트너사들은 Blaize의 초기 GSP 개념을 개선하고 최적화하여 엣지 AI 제품 플랫폼의 가장 중요한 목표를 달성하도록 할 수 있었다. 프로젝트의 초기 몇 달 동안 삼성 파운드리팀과 VeriSilicon은 협력하여 Blaize에 필요한 성능과 전력 소비의 조합을 제공할 수 있는 모든 가능한 설계 방법을 시험해 보았다. 삼성 파운드리는 Blaize가 전력/성능/면적 목표를 완전히 충족할 수 있게 해주는 표준 공정을 넘어선 솔루션을 제시할 수 있었다. 또한 VeriSilicon은 필수 공급망을 조정하는 것 외에도 사양에서 생산까지의 완전한 실리콘 턴키 서비스를 제공하여 삼성뿐만 아니라 패키징, 조립 및 테스트 계약업체와도 생산 능력을 확보했다.

정시 납품 및 시장에 대한 시사점 전체 프로세스는 중국, 인도, 영국 및 미국의 여러 팀 간에 긴밀한 조율이 필요했지만 순조롭게 진행되었고, 심지어 코로나19 팬데믹으로 인해 장치가 출시되기 ​​2주 전에 전 세계 사무실이 문을 닫았을 때도 마찬가지였다. 그리고 첫 실리콘에 낮은 위험 경로를 선택한 사전 결정은 초기 샘플이 도착했을 때 상당한 효과를 보았다. 일반적으로 첫 실리콘에서 고객 샘플로 이동하는 데 6~9개월이 걸리고 전체 생산 실행까지 12~18개월이 소요될 수 있다. 하지만 Blaize는 두 달 만에 고객 샘플을 받을 수 있었고, 실리콘이 거의 완벽했기 때문에 6개월 후에 실제 생산에 들어갈 수 있었다. Blaize가 사용하는 접근 방식이 모든 AI 신생 기업에서 효과적이지는 않을 것이다. 시장 기회, 기술, 자금 조달, 조직적 역량뿐 아니라 유능한 파트너의 특별한 조합이 필요하다. 상황이 적절하다면 기존 반도체 자원(예: 삼성 파운드리 및 SAFE™ 에코시스템, VeriSilicon의 다양한 역량)이 전문 AI 지향 프로세서로 가는 전례 없이 접근성 높은 개발 경로를 제공할 수 있음이 GSP 프로젝트의 성공을 통해 증명되었다. 불과 몇 년 전만 해도 그렇지 않았겠지만, 이러한 유형의 프로젝트는 앞으로 훨씬 더 접근 가능성이 높아지고 저렴해질 것이다. 결과적으로 더 이상 용도를 변경한 실리콘으로 할 수 있는 일에만 제한되지 않고 고객에게 효과적인 솔루션을 제공할 수 있는 더 큰 자유와 범위를 새로운 AI 지향 조직이 점점 더 늘어날 것이다.