학습용 반도체 VS 추론용 반도체

데이터센터용 AI 반도체는 AI 모델 학습에 적합한 학습용 AI 반도체와 AI 모델 실행에 특화된 추론용 AI 반도체로 나눌 수 있어요.

학습용 AI 반도체 (Training NPU) : AI 모델 학습과 추론(실행)을 모두 지원

• 학습용 AI 반도체는 고대역폭 메모리(HBM)를 탑재함으로써 데이터 처리율을 끌어올린 것이 특징이에요.

• 생산 단가가 비싸고 전력 소비도 많지만, 초거대 AI를 포함해 AI 모델 학습과 추론 어디에나 사용할 수 있는 게 강점이죠. 지난해 화제가 된 '그림 그리는 AI(생성 AI)' 실행도 아직은 학습용 AI 반도체에서만 가능해요.

• 국내 기업이 경쟁력을 가진 추론용 AI 반도체와 달리 학습용 AI 반도체는 엔비디아의 독무대에요.

추론용 AI 반도체 (Inference NPU) : 특정 AI 모델 실행에 특화

• 추론용 AI 반도체의 가장 큰 강점은 엔비디아 AI 반도체(GPU)보다 월등한 비용 효율성과 적은 전력 소비에요.

• AI 서비스 비용이 치솟고, 데이터센터 전력감축이 탄소중립의 핵심이 된 상황에서 추론용 AI 반도체가 해법으로 떠오르고 있다고 해요! 시장 수요는 추론용 AI 반도체가 절대적으로 많아요.

• 시장조사업체 트랙티카는 오는 2025년 AI 반도체 시장에서 추론용 AI 반도체가 78%, 학습용 AI 반도체가 22% 정도의 시장 점유율을 차지할 것으로 예측했죠.

추론용 AI 반도체는 학습용 AI 반도체와 설계 및 용도가 다른 것이지, 결코 하위 기술이 아니에요. 업계 전문가들은 국산 AI 반도체 산업이 2~3년 후에는 서로 다른 방향성을 보일 것으로 해석했어요.

자료 출처: 아주경제