본문으로 이동

(컴퓨팅) 파워를 사람에게 - AI의 민주화: SambaNova Systems의 AI 선구자와의 대화

  • 메일
compute-power-to-the-people-democratizing-ai-a-conversation-with-ai-visionaries-from-sambanova-systems_1
compute-power-to-the-people-democratizing-ai-a-conversation-with-ai-visionaries-from-sambanova-systems_1
Sarah Peach 삼성전자 반도체, 마케팅 시니어 디렉터 인공지능(AI)과 머신러닝(ML) 애플리케이션의 신속한 성장으로 컴퓨팅 파워에 대한 수요가 기하급수적으로 늘어나고 있다. AI/ML 컴퓨팅 용량으로 널리 채택되고 있는 그래픽 처리 장치(GPU)조차도 늘어나는 처리 수요를 따라잡는데 어려움을 겪을 수 있다. 다행히도 획기적인 솔루션이 곧 출시된다. 삼성은 차세대 DRAM 메모리인 DDR5를 차세대 데이터 프로세싱의 핵심 기술로 개발 중이다. AI/ML 분야의 리더인 SambaNova Systems는 모든 규모의 기업과 조직이 절실하게 필요로 했던 AI/ML 중심의 컴퓨팅 솔루션을 제공한다. 플랫폼 제품(DataScale 및 Dataflow-as-a-Service)은 삼성 DDR5의 파워를 활용하여 AI/ML 애플리케이션에 요구되는 성능을 제공할 것으로 기대된다. 최근에 SambaNova Systems에서 네 명의 핵심 인사와 대화할 특별한 기회를 가졌다. SambaNova 공동 창립자 겸 CEO인 Rodrigo Liang, 공동 창립자 겸 CTO인 Kunle Olukotun, 제품 관리 부사장인 Marshall Choy, 그리고 수석 아키텍트인 Sumti Jairath는 이 분야의 진정한 선구자들이다. 이분들께 SambaNova의 혁신적인 시스템이 DDR5의 파워를 활용하여 AI 및 ML의 잠재력을 최대한 발휘하게 만들 방법에 대해 물었다.
compute-power-to-the-people-democratizing-ai-a-conversation-with-ai-visionaries-from-sambanova-systems_2
compute-power-to-the-people-democratizing-ai-a-conversation-with-ai-visionaries-from-sambanova-systems_2
Sarah Peach (SP): SambaNova의 제품이 필수적인 빅데이터 컴퓨팅 분야에서는 지금 어떤 일이 벌어지고 있나? Rodrigo Liang (RL): 데이터를 진정 가치 있는 무언가로 바꾸는 것, 이는 우리 세대에서 노리는 일확 천금이다. 하지만 데이터의 가치를 진정으로 실현하려면 기업과 조직은 사용이 편리하고 수집된 데이터에 효율적으로 액세스하도록 지원하는 컴퓨팅 시스템이 필요하다. SambaNova의 역할은 이 부분에 있으며, 우리는 데이터 수요와 데이터 공급을 연결하는 일을 지원한다. Kunle Olukotun (KO): 우리는 데이터 흐름 아키텍쳐에 기반한 차세대 컴퓨팅을 개발했다. 데이터 흐름 컴퓨팅은 AI/ML 분야의 문제를 해결하는 데 편리하게 사용되므로 우리는 세계 최초의 확장 가능 데이터 흐름 시스템을 만들기 시작했다. RL: 사용이 간편한 AI용 컴퓨팅 플랫폼에 대한 니즈를 보았으며 기존 솔루션에서 커버하지 못하는 기능을 제공하게 되었다. 자연어 처리(NLP)부터 고해상도 비디오에 이르기까지 고용량 AI/ML 플랫폼에 대한 수요는 늘고 있다. 우리는 그런 유형의 고용량 컴퓨팅을 보다 효율적으로 수행할 방법을 생각해냈다. SP: 많은 AI/ML 플랫폼이 효율적인 컴퓨팅을 위해 GPU에 의존한다. SambaNova 접근법은 어떤 면에서 다른가? Sumti Jairath (SJ): GPU는 본질적으로 비디오 게임용으로 제작된 하드웨어이고, 분명히 AI/ML에는 보다 강력한 플랫폼이 필요하다. 저희의 고용량 플랫폼은 고해상도 이미지의 가능성을 열어 놓기 시작했다. 특히 의료 이미징 같은 분야의 예를 들면 MRI의 해상도를 4k 이상으로 올려놓을 수 있으며, 최첨단 NLP 모델과 추천 엔진을 지원한다. RL: 과거에는 GPU 성능을 극대화하기 위해 제조사들은 DDR보다는 HBM[고대역폭 메모리]을 사용했다. HBM이 DDR보다 더 큰 대역폭을 제공했지만 이와 상충하여 메모리 용량이 더 작기 때문에 우리 솔루션은 고용량 DDR과 고대역폭을 결합한다. SP: 삼성의 메모리와 스토리지 기술은 오늘날 SambaNova와 같은 회사가 AI/ML를 현실로 구현하도록 지원하고 있다. DDR5 DRAM을 사용할 수 있게 되면 SambaNova의 현재 및 잠재적 고객 기반에 제공하는 제품이 어떻게 개선되리라고 보는가? RL: 컴퓨팅 파워에 대한 수요는 공급 속도를 초과하고 있다. SambaNova는 항상 수요와 공급의 간격을 메우기 위한 신기술 솔루션을 찾고 있으며 DDR5가 바로 그런 솔루션이다. DDR5는 머신러닝 모델을 실행할 때 정확도를 더 높이는 동시에 ML용 이미지 데이터 라벨링 문제를 최소화하고 고해상도 이미지의 정보를 유지한다. NLP의 경우 DDR5의 더 커진 메모리 용량 덕분에 더 많은 파라미터를 사용해 성능을 크게 향상할 수 있다. SJ: DDR5는 두 가지 핵심 요소, 즉 데이터플로 아키텍처와 메모리 용량에 영향을 준다. 고해상도 모델에는 더 많은 메모리 용량이 요구되며 DDR5가 이 용량을 제공한다.
compute-power-to-the-people-democratizing-ai-a-conversation-with-ai-visionaries-from-sambanova-systems_3
compute-power-to-the-people-democratizing-ai-a-conversation-with-ai-visionaries-from-sambanova-systems_3
SP: 고용량 AI 플랫폼이 실사용자와 사회에 어떤 이점을 제공해 주나? RL: 모바일 또는 가전 제품을 사용하는 분들의 경우 DDR의 더 커진 메모리 용량으로 앱과 웹사이트의 추천 엔진이 개선된다. 더 많은 메모리로 개발자는 더 큰 임베딩을 할 수 있다. 예를 들어 리테일 분야에서 전자상거래 사이트는 보다 정확하게 관련 제품을 추천하여 소비자 경험을 개선하는 동시에, 리테일 기업의 매출을 늘려줄 수 있다. Marshall Choy (MC): 의료 연구 분야에서는 AI 및 ML의 파워를 활용하여 약물 연구와 약물 임상시험 과정의 시간을 앞당겨 신약 개발과 항바이러스성 화합물의 발견을 돕는다. AI는 이미 데이터 분석 및 모델링의 속도를 높여서 코로나19 연구 가속화를 지원하고 있다. Lawrence Livermore Cancer Moonshot 프로젝트는 AI가 의료 연구에 활용된 또 다른 사례이다. SJ: 고해상도 이미지 분석을 통해 암 진단이 개선될 것이다. 예를 들어 스캔 이미지 읽기에는 넓은 영역에 걸쳐 높은 해상도가 필요할 수 있는데 이런 유형의 고해상도를 지원하는 SambaNova의 노력을 통해 조기 탐지와 환자 결과의 개선으로 이어질 수 있다. SP: SambaNova의 두 가지 제품으로 AI 사용이 더 편리해질 수 있나? RL: 그렇다, 이런 종류의 플랫폼의 효율성과 사용 용이성을 증가시키고 큰 기업만이 아니라 더 작은 회사의 기술에 대한 접근성도 높여주기 때문이다. 첫 제품인 DataScale은 통합 소프트웨어 및 하드웨어 시스템 플랫폼으로 사람들이 최첨단 AI 애플리케이션을 대규모로 실행할 수 있게 만들어준다. DataScale의 소프트웨어 정의 하드웨어 접근법은 교육 및 추론에서 데이터 분석과 고성능 컴퓨팅에 이르는 애플리케이션 전반에서 높은 수준의 효율성을 제공한다. 우리의 두 번째 제품은 저희가 AI/ML 모델링 관리를 민주화한 방법이다. Dataflow-as-a-Service는 고객 요청에 따라 개발한 구독 서비스다. AI 및 ML은 어려운 분야이고 대부분의 기업이 AI/ML을 대규모로 관리할 전문성이나 인력을 갖고 있지 않다. Dataflow-as-a-Service는 SambaNova의 전문성과 학습방법을 클라이언트가 활용할 수 있도록 도와준다. 서비스를 통해 클라이언트는 대규모 사내 팀 없이 최첨단 AI/ML 애플리케이션을 운영할 수 있다.
compute-power-to-the-people-democratizing-ai-a-conversation-with-ai-visionaries-from-sambanova-systems_4
compute-power-to-the-people-democratizing-ai-a-conversation-with-ai-visionaries-from-sambanova-systems_4
SP: AI의 미래에 관련해 흥미를 느끼는 부분은 무엇인가요? 내년, 5년 후, 10년 후에는요? RL: AI로의 전환은 인터넷 시대가 도래한 것보다 더 큰 사건이 될 것이다. 모든 업계의 모든 회사에 영향을 미치고 온갖 종류의 기회를 창출할 것이다. 하지만 AI 채택에 있어서 단지 추가 이닝 게임의 한 이닝에서 1/3 정도에 와 있다. 5~10년 후에 기술이 어떤 모습일지는 상상만 할 수 있을 뿐이다. 그때쯤이면 데이터 센터에 있는 컴퓨터의 대다수는 저희 제품처럼 AI/ML 기술을 운용하게 될 것이다. KO: 현재 AI/ML의 무게 중심은 대기업이다. 그러나 저희 기술은 훨씬 더 작은 회사와 작은 시스템으로도 AI/ML을 운용하도록 지원한다. RL: 기술의 광범위한 채택이 가능하려면 모든 사람이 쉽게 사용할 수 있는 기술을 만들어야만 한다. 바로 이것이 저희가 AI/ML 같은 기술을 민주화하는 방법이다. SambaNova는 최종 사용자에게 복잡한 기술을 모두 노출하는 대신 최종 사용자가 플러그인해서 1시간 안에 배울 수 있는 기술을 제공한다. SambaNova의 DataScale 및 Dataflow-as-a-Service는 모든 규모의 회사와 조직에 절실히 필요한 AI/ML 중심의 컴퓨팅 솔루션을 제공한다. 또한 특히 대규모 사내 팀을 보유하지 못한 회사에서도 편하게 사용할 수 있는 기술을 만든다. 시스템이 DDR5의 파워를 활용하여 AI/ML의 완전한 잠재력을 실현하는 데 필요한 컴퓨팅 파워를 제공한다. 이를 통해 우리의 삶에 긍정적 영향을 미치고 미래의 모습을 만들어가는 놀라운 신기술이 가능해질 것이다. 삼성 DDR5 기술에 관한 자세한 내용은 https://semiconductor.samsung.com/kr/dram/ddr/ddr5/를 참조.
Related contents
관련 컨텐츠