엔비디아, AI 시장과 휴머노이드 시장에 또다른 도전

엔비디아, AI 시장과 휴머노이드 시장에 또 다른 도전

1. 엔비디아, NIM으로 AI 시장에 또 다른 도전

엔비디아는 2024년 3월 인공지는 콘퍼런스인 GTC 2024에서 '엔비디아 인피어런스 마이크로서비스(NIM)'를 발표했으며, 6월 출시했습니다. NIM은 AI 모델에 대한 추론을 최적화하는 개발자들을 위한 소프트웨어로, AI 애플리케이션을 만들 때 여러 구성 요소를 모듈 형태로 제공해 조립할 수 있게 함으로써 모든 구조를 직접 설계하지 않아도 돼 개발자가 배포 시간을 몇 주에서 몇 분으로 단축된다는 장점이 있습니다.  

마치 마트에서 재료를 하나하나 구매해 손질하지 않고, 밀키트를 구매해 보다 편리하고 빠르게 음식을 만드는 것과 비슷한 원리라고 이해하시면 됩니다.

 

NIM에는 엔비디아 GPU 플랫폼에서 최적화될 수 있는 AI 모델들이 모여 있기 때문에, 차후 AI 산업이 활성화되고 개발자들의 NIM 사용이 더 확대될수록 엔비디아는 AI 반도체의 지배력을 공고히 할 것으로 전망됩니다.

 

2. 엔비디아 GPU의 핵심 3요소

엔비디아 GPU와 관련된 부품, 장비들은 매우 다양하며, 펩리스 업체인 엔비디아는 여러 회사와 연관되어 있습니다. 이 중 핵심적인 3요소에 대해 알아보겠습니다.

1) HBM

HBM은 AI 반도체의 핵심이라고 할 수 있습니다. HBM은 정보 전달을 돕는 역할을 하는데, 서버의 학습 능력이나 연산 능력을 향상하고 더욱 효율적으로 수행할 수 있도록 만듭니다. HBM은 여러 개의 D램을 수직으로 쌓고 곳곳에 구멍을 뚫은 형태로 이 구멍들을 입출구(핀)이라고 부르는데, 이 핀을 통해 정보가 전달됩니다.

핀이 많으면 많을수록 정보가 빠르고 효율적으로 이동하기 때문에 핀이 많으면 많을수록 좋습니다. 또한 D램을 여러 개 겹칠수록 더 많은 용량을 확보할 수 있기 때문에 겹겹이 쌓은 D램도 많으면 많을수록 좋습니다. 엔비디아의 주력 AI 가속기인 H100에는 HBM3 4개가, H200에는 5세대 HBM인 HBM3E 6개가 탑재되어 있습니다.

 

HBM이 AI 반도체의 핵심인 만큼 HBM 시장도 뜨거워지고 있습니다. 2013년 시장이 열리기 시작한 후 1세대(HBM), 2세대(HBM2), 3세대(HBM2E), 4세대(HBM3)까지 진화를 거듭하고 있으며, 글로벌 HBM 시장은 2022년 27억 달러에서 2029년 377억 달러로 연평균 46% 성장할 것으로 전망하고 있습니다.

 

2) 서버 랙(Server Rack)

AI 가속기가 여러 개 탑재된 AI 서버들을 한 곳에 모아 설치할 수 있는 일종의 금속 선반입니다. 주로 데이터센터에 대규모로 설치되는 랙은 전원관리 장치나 서버의 열을 식히는 쿨링 스스템, 케이블 정리와 관리 장비도 함께 있어 복잡한 장비에 속합니다.

AI에 대한 수요가 늘어날수록 AI를 연산하는 반도체가 탑재된 서버를 한 곳에 모아 설치하는 서버 랙에 대한 수요는 증가할 수밖에 없습니다. 특히 AI 서버는 대량의 데이터를 고속으로 연산해 많은 열기를 발산하기 때문에, 냉각 시스템을 갖춘 서버 랙의 중요성은 더욱 높아지고 있습니다.

 

3) NV링크 & NV링크 스위치

NV링크는 여러 개의 GPU를 연결하여 커뮤니케이션할 수 있는 별도 규격의 전선을 이용한 네트워크 인터페이스이며, NV링크 스위치는 100개 이상의 NV링크 포트를 지원하는 하드웨어 장치입니다. 

 

엔비디아는 지난 2019년 서버 간 상호연결 기술을 보유한 반도체 기업 멜라녹스를 70억 달러(약 9조 7000억원)에 인수한 후 이를 토대로 여러 개의 GPU가 서로 통신이 가능해지며 데이터를 주고받을 수 있어 AI에 필요한 빠른 계산과 함께 데이터 처리 속도 또한 획기적으로 높아졌습니다.

차세대 AI칩 ‘블랙웰’에 적용되는 5세대 NV링크는 초당 1.8테라바이트(TB)의 속도로 데이터를 주고받으며 병목현상을 최소화하는데, 이는 현재 AI서버에 사용되는 5세대 PCI익스프레스보다 14배 이상 빠른 속도입니다. 엔비디아는 이를 통해 단순 칩 단위를 넘어 서버 단위에서도 우위에 서게 되었습니다.

반응형

3. 엔비디아, 휴머노이드 로봇용 AI 플랫폼 '그루트' 발표

엔비디아는 일론 머스크가 촉발한 휴머노이드 개발 경쟁에 뛰어들었습니다. '24년 3월 'GTC 2024'에서 휴머노이드 로봇 개발을 위한 AI 플랫폼인 ‘그루트’(GROOT)를 발표했습니다. 이 날 발표에서 젠슨 황은 “해당 플랫폼으로 구동되는 로봇은 인간의 행동을 관찰해 자연어를 이해하고 움직임을 모방하도록 설계될 것”이라고 밝히며, “일반 휴머노이드 로봇을 위한 기초 모델을 구축하는 것은 오늘날 AI 분야에서 해결해야 할 가장 흥미로운 문제 중 하나”라고 하였습니다.

 '24년 11월 독일 뮌헨에서 열린 연례 로봇 학습 콘퍼런스에서 에는 인공지능(AI) 로봇 개발자를 위한 새로운 도구를 출시했습니다. 엔비디아는 개발자가 가상 세계에서 로봇을 테스트하고 실행할 수 있는 디지털 트윈 시뮬레이션 플랫폼인 옴니버스(Omniverse)에 구축된 오픈 소스 로봇 학습 프레임워크인 아이작 랩(Isaac Lab)을 출시했습니다. 이는 아티스트, 개발자, 기업이 3D 모델과 장면을 구축할 수 있는 초현실적인 실시간 3D 그래픽 협업 및 시뮬레이션 플랫폼입니다. 

출처: 엔비디아

또한 엔비디아는 로봇에 새로운 기능을 구축하는 데 도움이 되는 새로운 그루트 프로젝트 워크플로 청사진을 발표했습니다. 다양한 시뮬레이션 환경을 만들기 위한 그루트-젠(GR00T-Gen), 로봇 동작 및 궤적 생성을 위한 그루트-미믹(GR00T-Mimic), 세밀하고 능숙한 조작을 위한 그루트-댁스러터티(GR00T-Dexterity), 이동 및 탐색을 위한 그루트-컨트롤(GR00T-Control), 다중 모드 감지를 위한 그루트-퍼셉션(GR00T-Perception) 등입니다.

 

5. 차후 엔비디아의 Risk 요소

엔비디아는 현재 AI칩 시장의 80% 이상을 점유하고 있고, 진입장벽이 높은 소프트웨어 CUDA를 보유하고 있는 점이 강력한 경쟁력이지만 동시에 Risk 요인이기도 합니다. 미국과 유럽 등에서 엔비디아의 독점 문제를 주시하고 있기 때문입니다.

 

월스트리트저널(WSJ)은 9월 8일(현지시간) 미국 법무부 반독점 부서가 인공지능(AI) 반도체 시장 점유율 80% 이상을 차지하는 것으로 추정되는 엔비디아에 연락해 계약 및 파트너십 조건에 대해 질의했다고 익명의 소식통들을 인용해 보도했습니다. 조사는 초기 단계에 있고 엔비디아에 대한 소환장은 발부하지 않았지만 본격적인 조사가 필요하다고 판단되면 수개월 내로 소환장을 발부할 수 있다고 소식통들은 전했습니다.

 

엔비디아의 위기는 엔비디아와 유사한 제품을 내놓는 경쟁사인 AMD와 인텔 등에게 좋은 기회가 될 수 있습니다. 

 

 

지금까지 2회에 걸쳐 엔비디아 사업 전반에 대해 알아보았습니다. 엔비디아는 독과점 관련한 Risk는 있으나 당분간 AI 시장은 성장할 것으로 기대되고 있습니다. AI 시장의 대장주인 엔비디아에 대한 관심은 2024년을 넘어 2025년에도 지속될 것으로 보이며, 관심이 있으신 분들은 시장 변화에 대한 꾸준한 모니터링이 필요해 보입니다.

 

* 참조: NH투자증권, 유튜브 소수몽키, 각종 언론사 자료, SK하이닉스 참조

* 상기 내용은 투자 권유나 종목 추천이 아닌 단순 정보 제공을 위한 용도입니다. 투자 시 책임은 투자자 개인에게 있으며 투자 시 충분한 분석과 신중한 판단을 하시기 바랍니다.

 

2024.11.25 - [주식일기] - 2024년 가장 주목받은 기업 '엔비디아'

2024년 가장 주목받은 기업 '엔비디아'