AI 반도체 시장규모는 2024년에 특히 비약적으로 성장해 3년 안에 100조 원을 넘길 것이란 전망이 나오고 있습니다. 시장조사업체 가드너는 2027년 AI 반도체 시장이 1194억 달러(약 155조 원)로 성장할 것으로 예측했는데요. 현재 AI반도체 시장을 선도하는 것은 미국의 엔비디아(nVIDIA)로 GPU를 바탕으로 세계 경쟁에서 가장 앞서가고 있습니다. ,특히 엔비디아의 A100은 엔비디아 주가를 끌어올리는 데 큰 기여를 하는데요. 엔비디아의 AI반도체의 경쟁력과 성공 이유를 살펴봅시다.
AI로 다시 살아난 ‘반도체의 봄’
반도체는 이제 AI를 빼놓고는 말할 수 없습니다. 현재를 ‘AI 반도체의 시대’라고 하는 바로 그 이유입니다. 같은 반도체를 만들더라도 AI와 연관돼 있지 않다면 시장에서 도태되는 경우가 많은 반면 AI에 혁신을 만들 반도체를 만들어낸다면 세상의 모든 조명을 받는 시대입니다.
반도체 시장은 2023년 글로벌 경기침체, 미국과 중국의 무역 갈등, 러시아와 우크라이나 전쟁 등의 영향으로 불황을 겪었습니다. 이로 인해 반도체 기업들은 일부 생산량을 줄이는 ‘감산’을 결정하기도 하였지만 2024년 초부터 분위기가 바뀌게 됩니다. 글로벌 빅테크 기업들 사이에서 AI 개발 열풍이 불면서 AI반도체 시장도 반등하기 시작한 것인데요. 특히 글로벌 기업의 주요 인사들은 1월 미국 라스베이거스에서 열린 세계 최대 가전·IT 박람회 ‘CES 2024’에서 일상생활에서 사용하는 가전제품에 AI가 접목된 사례를 본 후 “AI에 미래가 있다”는 확신을 가지게 되었고 이후 너도나도 AI 개발에 뛰어들며 자연스럽게 AI 구동에 필요한 반도체의 수요도 동반해서 상승하고 있습니다.
반도체는 그동안 AI의 핵심 두뇌 역할을 해오던 중앙처리장치(CPU), 그래픽처리장치(GPU)의 자리를 이미 대체했고, 이어 AI에 특화된 AI 반도체가 개발되기에 이르렀습니다. AI반도체는 AI 서비스 구현에 필요한 대규모 연산을 초고속, 초전력으로 실행하는 효율성 측면에 맞추어 제작되는데 궁극적으로 AI반도체라 함은 AI 작업을 진행하는 비메모리 반도체, 넓게는 AI 작업 과정에 들어가는 메모리, 비메모리 반도체를 통칭합니다.
현재 AI반도체 시장은 공장 없이 반도체 설계를 전문으로 하는 ‘팹리스’, 팹리스의 설계를 받아서 반도체를 만들어주는 ‘파운드리(반도체 수탁생산)’, HBM과 같은 고성능 D램을 묶어 하나의 칩처럼 작동하게 하는 ‘최첨단 패키징’으로 나뉩니다. 기업들은 각자의 규모, 여건 등을 고려해 세 가지를 모두 소화하거나, 한 가지에 집중하고 있습니다.
엔비디아의 역사
엔비디아는 1993년에 AMD의 마이크로프로세서 엔지니어였던 커티스 프리엠과 젠슨 황, 크리스 말라코스키까지 세 명이 설립한 회사입니다. 현재 CEO는 대만계 미국인인 젠슨 황으로 엔지니어 출신이지만 탁월한 수완과 시각으로 GPU 판매량을 높이고 최대 수익을 창출하는 데 기여했다는 평가를 받고 있습니다. 젠슨 황의 건재로 30년간 회사 주인이 교체될 일이 없었던 엔비디아는 ‘리더십 리스크’ 없이 안정적 경영체제를 구축하면서 GPU와 AI 개발에 집중할 수 있었던 것으로 보입니다.
엔비디아는 1995년, 자사 최초의 그래픽 칩셋 NV1이 출시되었으나 저조한 성능 대비 비싼 가격에 전용 API를 고수한 바람에 그다지 큰 인기를 끌지 못하고 시장에서 처참하게 실패했습니다. 하지만 1997년에 출시된 RIVA 128이 크게 히트하면서 전세계에 이름을 알리면서 재기에 성공하였고, 1998년 RIVA TNT, 1999년 RIVA TNT2 제품군이 연달아 히트하게 됩니다.
21세기는 완전히 AMD가 되어버린 ATI와 함께 전세계 외장형 GPU 시장을 양분하는 제조 회사였습니다. 그러나 내장형 GPU 분야에서는 AMD와 엔비디아를 합쳐야 겨우 인텔의 점유율과 비슷했습니다. 아무도 인텔의 내장 GPU를 보고 구매하지는 않긴 하지만, 인텔이 PC 시장의 핵심인 CPU 분야의 독과점 사업자이기 때문에 끼워팔기가 가능하기 때문입니다.
엔비디아는 그래픽 코어와 CPU를 동시에 생산하는 AMD처럼 CPU의 생산을 꿈꾸고 있었지만 결국 AMD와는 달리, CPU보다는 CUDA를 개발하며 GPU의 범용성을 확장시키는 데 주력했으며, 이는 엔비디아가 현재의 자리에 오를 수 있는 신의 한수가 되었습니다.
엔비디아의 경쟁력
엔비디아는 시스템반도체를 설계하는 기업입니다. 현재 외장PC GPU 리테일 시장 점유율 1위를 기록하며 AI반도체 분야에서도 80% 이상의 점유율로 선두를 달리고 있습니다. 2020년대 이후로 AI 광풍이 불었고 엔비디아는 GPU를 만들던 기술력으로 AI반도체를 생산하면서 전 세계에서 가장 주목받는 AI 수혜주로 등극했고 이로 인해 2023년, 사상 처음으로 세계 반도체 기업 매출 1위에 등극했습니다.
AI 개발이 시작된 후 GPU가 ‘AI의 연산 작업을 가장 잘 수행할 수 있는 반도체’로 주목받으면서 엔비디아가 만드는 GPU의 수요가 기하급수적으로 증가했는데요. 이전까지 대부분의 PC 등에선 어려운 작업을 정확하게 해낼 수 있는 CPU가 연산을 도맡았지만 AI가 방대한 정보를 빠르게 연산할 수 있도록 개발되면서 CPU보다 많은 정보를 한꺼번에 처리할 수 있는 GPU가 각광받기 시작했던거죠. GPU는 그래픽 처리 때 화면에 띄울 수만 개 픽셀(화소)을 단번에 표현하는 장치로 단번에 많은 정보를 처리할 수 있어 AI 구현에 적합합니다.
이를 간파한 엔비디아는 2016년부터 게임 그래픽카드 사업에서 AI GPU 디자인 사업을 주력으로 삼았고, 전체 GPU 시장의 약 98%를 점유하며 AI반도체 개발에서도 선두주자로 도약했습니다.
엔비디아 A100
엔비디아가 시장에서 AI반초체로 각광을 받게된 것은 바로 A100 덕분이었습니다. A100 작동원리는 병렬연산(parallel processing)을 구현한 칩을 코어에 장착함으로써 엄청난 양의 그래픽 데이터를 처리하는데 뛰어난 성능을 보이는 GPU를 안정적으로 구현시켰는데 이러한 연산방식은 그래픽 처리 뿐 아니라 대규모 데이터를 다루는 작업에서도 우수한 것으로 평가되었습니다. 또한 뇌신경망 원리를 구현하는 AI의 LLM 데이터 처리에도 응용될 수 있어 AI기술을 개발하는 대형 IT 업
체들이 A100을 마구 사들이면서 엔비디아 주가는 뉴욕증시를 선도하게 됩니다.
엔비디아 H100
최근에는 H100도 시장에서 수요가 높아지고 있는데요. H100은 엔비디아가 2022년 10월 출시한 호퍼 아키텍쳐 기반의 최신 GPU 시스템으로 최대 256개를 연결해 엑사스케일 작업을 가속화한 것입니다. H100은 전용 트랜스포머 엔진으로 조 단위 매개변수를 가진 대형언어모델(LLM)을 처리하는 역할을 합니다. 챗GPT와 유사한 LLM을 개발하려는 기업이 급증하면서 H100 수요가 급증하였는데요. 전문가들은 AI 시스템을 실행하려면 강력한 성능을 갖춘 컴퓨터가 수일 또는 수 주 동안 텍스트와 이미지 그리고 예측 등을 생성할 수 있도록 테라바이트 이상의 데이터를 처리해야 하는데 이에 H100이 가장 기술력이 집약됐다고 평가하고 있습니다. 그러니 앞으로 당분간 H100에 대한 수요가 늘면서 가격 상승세가 이어질 수 있다는 전망이 나오고 있는거겠죠?
