NVIDIA는 3분기 연속 매출이 3배 이상 증가하였고, 올해 남은 기간에도 장밋빛 전망이 나오고 있습니다. 하지만 그와 동시에 경쟁사들은 NVIDIA를 몰아내거나 적어도 기반을 확보하려고 합니다
이번 주에 쏟아지는 기업의 발표는 AI의 지속적인 상승을 강조했습니다. OpenAI, Microsoft 및 Google은 모두 더 강력한 AI 모델, 더 나은 인간-AI 상호 작용, 심지어 비디오 게임부터 주간 쇼핑까지 모든 것을 할 수 있는 다목적 가상 비서를 공개했거나 약속했습니다.
기술 대기업과 스타트업이 더 나은 AI 제품을 만들기 위해 경쟁하면서 이러한 애플리케이션을 구동하는 반도체를 둘러싼 경쟁도 가열되고 있습니다.
시장 조사 기관인 IoT Analytics에 따르면 NVIDIA는 현재 데이터 센터에 사용되는 GPU, AI 가속기 시장의 90% 이상을 장악하고 있습니다. 이러한 주도는 Blackwell 칩 출하를 시작하면서 더욱 확고해질 것으로 예상됩니다.
NVIDIA는 AI 모델 훈련을 위한 컴퓨팅 성능 수요로 인해 2023년 데이터 센터 사업에서 기록적인 475억 달러 매출을 기록했습니다. 이러한 성장은 올해에도 계속되며, 최근 분기에만 데이터 센터 매출이 226억 달러로 전년 동기 대비 427%나 급증했습니다.
경쟁사에 있어 이러한 NVIDIA의 막강한 시장 장악력은 넘어야 할 거대한 산입니다.
데이터센터 GPU 시장의 약 3%를 점유하고 있는 AMD는 2023년 데이터센터 매출 65억 달러, 올해 1분기에는 23억 달러를 기록했습니다. 또 다른 경쟁사인 인텔은 지난해 데이터센터와 AI 부문에서 155억 달러의 매출을 올렸고, 최근 1~3월에는 30억 달러의 매출을 올렸습니다.
AMD의 데이터 센터 사업부 총괄 겸 부사장인 Andrew Dieckmann은 "망상에 빠져 있지는 않다"고 말했습니다. "오늘날 NVIDIA가 시장 점유율 측면에서 시장을 선도하고 있다는 것을 알고 있습니다. NVIDIA가 시장에서 지배적인 위치에 있다는 것을 알고 있다"고 말했습니다. 그러면서 Andrew는 "신뢰할 수 있는 2위가 되는 것부터 시작해야 한다"고 말했습니다.
NVIDIA가 AI 훈련 공간을 장악하면서 다른 경쟁사들은 클라우드가 아닌 로컬 AI, 온-디바이스 AI에 베팅하며 다른 영역에서 싸움을 이어가고 있습니다.
마이크로소프트는 AI 플랫폼인 코파일럿(Copilot)으로 구동되는 PC를 공개하고 신흥 부문에 대한 강력한 수요를 예측했습니다. MS CMO인 Yusuf Mehdi는 출시 행사에서 "향후 12개월 동안에만 5천만 대 이상의 AI PC가 구매될 것"이라고 말했습니다.
AI PC에는 NPU와 같이 AI 코드를 실행하도록 특별히 설계된 하드웨어가 포함되어 있습니다. 기존 PC도 특정 AI 작업을 실행할 수 있지만 AI 기계는 더 빠른 처리, 더 나은 에너지 효율성 및 더 높은 보안을 약속합니다.
마이크로소프트는 AMD, 인텔, 퀄컴 등 세 개의 칩 파트너와 협력하고 있지만 코파일럿 기반 PC의 시작은 PC 시장의 전통 강자인 인텔 또는 AMD가 아닌 퀄컴이 사용되었습니다.
연구 및 자문 회사인 CCS Insight의 CEO인 Geoff Blaber는 "이것은 Qualcomm에게 엄청난 일격입니다. Intel과 AMD가 지배하는 PC 시장에 마침내 진입할 수 있는 엄청난 기회를 제공한다"고 말했습니다.
AMD와 Intel은 모두 최초의 AI PC 칩을 출시했다고 주장하며, 둘 다 주요 제조업체와 협력하여 AI 기반 PC를 개발했습니다.
인텔 클라이언트 컴퓨팅 그룹 AI 부사장 로버트 할록은 "2028년에는 전 세계 PC의 80%가 AI 가속 PC가 될 것으로 생각한다"고 말했다.
인텔은 2024년에만 4천만 대 이상을 포함해 2025년까지 1억 대 이상의 AI PC용 칩을 출하하기로 약속했습니다.
AI PC 부문은 아직 초기 단계이고 Qualcomm이 경쟁에 합류하고 있는 상황에서 누가 이 분야의 진정한 리더인지 판단하기는 아직 쉽지 않습니다. 이러한 PC 시장이 궁극적으로 얼마나 커질지에 대한 회의적인 시각도 있습니다.
Counterpoint Research의 수석 분석가인 Akshara Bassi는 "AMD와 Intel에게는 훌륭한 시장이라고 생각합니다. 하지만 이미 시장은 포화 상태입니다. AI PC가 등장했다고 해서 노트북 플랫폼에 대한 수요가 훨씬 더 많아지는 것은 아니"라고 설명했습니다.
AI PC외에 경쟁사가 NVIDIA에 도전할 수 있는 또 다른 영역은 바로 추론입니다.
Bank of America의 반도체 분석가인 Vivek Arya는 "훈련에서는 NVIDIA를 이기는 것이 매우 어렵습니다. 하지만 추론 측면에서 보면 사람들이 비용이나 다양한 요인에 대해 최적화하고 있기 때문에 훨씬 더 많은 단편화를 보게 될 것이라고 생각한다"고 말했습니다.
컴퓨팅에서 추론은 저장된 파일을 검색하는 프로세스를 의미했지만, 생성 AI가 시대에서 엔비디아 CEO 젠슨 황(Jensen Huang)은 추론이라는 의미를 "상황에 맞게 관련성이 있고 지능적인 답변을 생성"이라고 설명했습니다. 간단히 이야기 해 이미 훈련된 생성 AI 모델을 이용해 어떠한 결과물을 출력하는 과정입니다.
AI 모델 훈련에 비해 추론은 일반적으로 전력 및 컴퓨팅 리소스 측면에서 덜 까다롭습니다. AMD와 Intel의 경영진은 추론이 칩 제조업체에 제공하는 시장 기회를 강조했습니다.
Intel의 네트워크 및 엣지 그룹 수석 부사장 겸 총괄 책임자인 Sachin Katti는"AI가 확장되려면 실제로 비즈니스에 영향을 미치는 제품에 들어가야 합니다. 이는 사업, 추론이 될 것입니다. 그래서 인텔은 그 시장을 노리고 있다"고 말했습니다.
기업 고객은 단지 돈을 쓰는 자체 모델을 훈련시키는 것보다 AI를 사용하여 돈을 버는 것, 즉 추론에 더 관심이 있다고 그는 말했습니다. Intel은 중소형 AI 모델을 지원하기 위해 비용, 전력 및 성능을 위해 칩을 최적화하는 데 중점을 두고 있다고 Katti는 덧붙였습니다.
인텔은 올해 최신 AI 칩인 가우디 3(Gaudi 3) 출하를 시작할 계획이다. "Gaudi 3가 다른 어떤 시스템보다 더 나은 TCO(총 운영 비용)를 제공할 것"이라고라고 Katti는 말했습니다.
AMD의 Dieckmann은 기업이 AI를 상용화하기 시작하면 추론이 훈련보다 더 큰 기회를 제공할 것이라는 견해를 공유했습니다.
Dieckmann은 "우리의 가치 제안은 실제로 MI300X의 메모리 하위 시스템 이점으로 인해 추론에 더 강력하며 거기에서 엄청난 견인력을 얻고 있다"고 말했습니다.
Counterpoint의 Bassi는 추론이 아마도 AMD와 Intel이 NVIDIA와 경쟁할 수 있는 가장 좋은 기회를 제공할 것이라고 말했습니다. 그러나 NVIDIA도 추론 시장을 노리고 있기 때문에 싸움은 쉽지 않을 것입니다.
엔비디아는 이 이야기에 대해 논평을 거부했지만 수요일 실적 발표에서 추론이 지난 4분기 동안 데이터 센터 매출의 약 40%를 창출했다고 밝혔습니다.
그리고 최근 언급으로 판단하면 NVIDIA은 그다지 걱정하지 않습니다. 올 3월 스탠포드 대학에서 열린 기조연설에서 젠슨 황은 "NVIDIA 칩의 TCO가 너무 좋아서 경쟁사의 칩을 무료로 제공하더라도 충분히 저렴하지 않다"고 말했습니다. |