커져가는 AI 반도체 시장의 규모
시장조사업체 가트너에 따르면, AI 모델 확산으로 인해, AI 반도체 시장 규모가2021년을 시작으로 연평균 16%씩 급성장해 2026년에는 약 108조5000억원에 달할 전망이라고 해요.
이는 전 세계 메모리 반도체 시장의 절반에 달하는 규모죠.
[자료1] 전세계 AI 반도체 시장규모
두 종류의 AI 반도체, 학습용 & 추론용
데이터센터용 AI 반도체는 AI 모델 학습에 적합한 학습용 AI 반도체와 AI 모델 실행에 특화된 추론용 AI 반도체로 나눌 수 있어요.
[자료2] 학습용 AI 반도체 vs 추론용 AI 반도체
학습용 AI 반도체 (Training NPU) :
AI 모델 학습과 추론(실행)을 모두 지원
<장점>
- 다양한 AI 모델에 적용 가능
- 고대역폭 메모리(HBM)탑재를 통해 데이터 처리양과 처리 효율이 높음
<단점>
- 생산 단가가 비싸고 전력 소비가 큼
추론용 AI 반도체 (Inference NPU) :
특정 AI 모델 실행을 지원
<장점>
- 엔비디아 AI 반도체(GPU)보다 비용, 전력 소비 효율이 월등히 좋음
<단점>
- 구조가 다른 AI 모델을 제대로 실행할 수 없음
- 단기간에 처리 가능한 데이터양이 적음
학습용 AI 반도체와 추론용 AI 반도체에 대한 자세한 내용이 궁금하다면, 하단 링크를 통해 확인하세요!
현재는 학습용 AI 반도체가 대세
학습용 AI 반도체는 고대역폭 메모리를 활용하여, 데이터 처리율을 높이는 등의 기술을 갖추고 있으며, 이를 통해 초거대 AI 모델을 학습시키는 데 사용될 수 있어요!
현재까지는 대부분의 기업들이 AI 학습에서 엔비디아 학습용 AI 반도체를 사용하고 있다고 해요!
- [테슬라 V 시리즈] 전세계에서 유일하게 슈퍼컴퓨터(HPC) 학습용 AI 반도체를 시판하고 있음
- [NV Link] 고대역폭 메모리 간 빠르게 데이터를 주고받음으로써, AI 모델의 학습 속도를 끌어올리는 기술을 가짐.
실제로 2022년 11월 출시된 오픈 AI의 Chat-GPT도 대량의 엔비디아 학습용 AI 반도체로 구성된 마이크로소프트의 애저 HPC 클라우드에서 학습을 진행했어요.
하지만, 학습용 AI 반도체는 60W 내외의 전력을 소모하는 추론용 AI 반도체와 비교해 수백W의 전력을 소모하기 때문에, 저전력·탄소중립이라는 전세계적인 추세에 반해요.
또한 현재는 엔비디아가 학습용 AI 반도체 시장을 주도하고 있지만, 이를 넘어서기 위한 노력은 계속되고 있어요.
- 추론용 AI 반도체로 시작한 구글의 AI 반도체 TPU는 지속적인 기술 개발을 통해, 엔비디아와 유일하게 기술적으로 겨룰 수 있는 학습용 AI 반도체라는 평가를 받고 있음.
- 엔비디아도 자사 AI 반도체를 학습용, 학습+추론용, 추론용 등으로 세분화하여 전력 소비 최소화에 집중함.
[자료 2] HPC(High-Performance Computing)
3년 뒤 AI 반도체 시장은 추론용이 주도할 것
시장조사업체 트랙티카는 오는 2025년 AI 반도체 시장에서
추론용 AI 반도체 78%, 학습용 AI 반도체 22% 정도의 시장 점유율을 차지할 것으로 예측했어요.
추론용 반도체는 저렴한 비용과 적은 전력 소비로 인해 AI 반도체 시장에서 중요한 요소가 되고 있어요. 일례로 세계 최대 클라우드 사업자인 아마존웹서비스(AWS)는 AI 반도체 기업 '안나푸르나랩스'를 인수하고 자사 클라우드를 통해 추론용 AI 반도체 '인퍼런시아'를 선보였죠.
‘인퍼런시아’의 장점
- 기존 엔비디아 AI 반도체 대비 최대 70% 저렴한 비용에 이용할 수 있음
- 아마존 AI 비서 ‘알렉사’에 적용 시, 서비스 비용 30% 절감, 영상 인식 속도 8배 향상
- 국내 스타트업 스캐터랩의 연구보고서에 따르면, AWS 추론용 AI 반도체가 엔비디아의 추론용 AI 반도체(테슬라 A 시리즈) 대비 약 1/3, 학습 + 추론용 AI 반도체(테슬라 N시리즈) 대비 약 1/5 저렴하게 이용 가능하다고 함
물론 추론용 AI 반도체도 데이터 처리와 관련된 문제를 안고 있지만, 향후 AI 반도체 시장은 추론용이 주도할 것으로 보여요! 여러 기업들이 노력하고 있으며, 특히 AWS와 같은 대규모 클라우드 사업자들이 추론용 AI 반도체를 활용하여 비용을 절감하고 성능을 향상시키는 데 관심을 가지고 있죠.
전문가들은 장기적으로 봤을 때는 추론용과 학습용 AI 반도체는 별개의 시장을 형성하고, 이를 연결하여 상용 AI 서비스를 제공하는 방향으로 진화할 것으로 예상된다고 하네요.
[자료 3] 아마존 웹 서비스 EC2 Inf2 인스턴스 정식 출시
기사 출처: 아주경제
Share article