Global Insights
학습보다 추론으로 수요가 이동하면서 잠재력을 드러낼 애플, 그런 환경에서도 견고한 엔비디아
— '학습'에서 '추론'으로 이동하는 AI 무게중심. 인공지능 (AI) 서비스를 개발하기 위해, 초대형 기술 기업들은 수많은 지식을 '학습' (learning)해서 대형언어모형 (LLM)을 만드는 데에 집중했음. 학습에 필요한 반도체 수요는 전체 AI 반도체 수요의 약 90%로 추정. 그러나 이렇게 만들어진 LLM을 이용해서 사용자의 요청 (질문)에 응답하도록 하는 '추론' (inference)으로 수요가 이동하고 있음. LLM의 개발 (학습)은 계속되고 있는 가운데, 최근에는 언어모형 (LM) 여러 개를 연동하는 전문가 혼합 (MoE)의 효율이 높다는 게 확인됐고, 소형언어모형 (sLM)을 최적화하면 LLM만큼이나 좋은 추론 성능을 보일 수 있다는 게 증명. 그래서 LLM의 파라미터를 늘리는 경쟁은 잠잠해졌고, 파라미터가 너무 많지 않은 LLM이나 파라미터 개수가 300억 개 미만인 sLM의 학습 수요가 늘고 있음 (2/26). 이렇게 학습 수요의 범위가 넓어지면서 학습 수요는 증가하고 있지만, 학습을 마친 언어모형 (LM)을 활용 (추론)하는 수요가 빠르게 증가하고 있음. 학습을 하려면 대규모의 데이터를 이용해서 많은 연산을 거쳐야 하므로, 상당한 컴퓨팅 능력을 가진 AI GPU가 필요. 반면, 사용자의 요청에 응답하는 추론에는 그만큼의 컴퓨팅 능력이 필요하지는 않음. 따라서 학습에서 추론으로 시장 수요가 이동하면, 엔비디아가 만든 고성능 AI GPU의 수요가 줄어들 거라는 우려가 있음. 대형 기술 기업들이 추론을 위해 지출하는 비용은 이미 80%를 상회하는 것으로 알려짐. 그래서 LLM이 아니라 sLM을 사용해서 추론에 필요한 컴퓨팅 부담을 낮추고, 삼성의 갤럭시 S24에서 선보인 온-디바이스 AI (On-Device AI 또는 엣지 (Edge) AI)처럼 클라우드 서버를 거치지 않고 사용자 기기에서 추론을 수행하도록 하는 방법들이 나오는 중
— 엣지 AI (온-디바이스 AI)에서 기회를 찾으려는 엔비디아 경쟁사들. 사용자 기기 (edge devices)에서 구동할 때는 LLM보다 sLM이 적합. 그래서 최근에 새로운 LM을 내놓는 기업들은 대부분 sLM과 LLM을 동시에 공개. 엣지 AI 시장이 확대될 거라는 기대가 있기 때문. 엣지 AI 시장이 확대되면 필연적으로 높아지는 요구는 '저전력'. 사용자가 들고 다니는 기기에서 AI 연산이 수행되면, 전력 소모가 많아질 수밖에 없음. 최근 손 마사요시 소프트뱅크 회장이 1,000억 달러의 반도체 회사 설립 계획을 갖고 있다는 게 알려졌는데 (2/20), 소프트뱅크가 90%의 지분을 보유하고 있는 ARM은 저전력의 강점을 갖고 있음. 지금은 AI 반도체 시장을 엔비디아가 장악하고 있지만, 온-디바이스 시장이 확장되면 ARM에게 기회가 있다고 판단했다는 평가. 그동안 AI 경쟁력이 뒤처졌다고 여겨지는 애플도 엣지 AI 시장에서 의미 있는 움직임을 보일 가능성이 높음. 여느 반도체 회사들과는 달리, 반도체부터 사용자 기기 (아이폰, 맥북, 아이패드 등)까지 모두 설계하는 애플은 엣지 AI 시장에서 자사의 역량을 극대화할 가능성이 가장 높음. 애플이 설계하는 칩은 ARM에 기반하고 있기도 함. 약 15억 명이 아이폰을 사용하고 있는 상황에서 애플은 단숨에 엣지 AI 시장을 장악할 수 있는 잠재력을 갖고 있음
— 그럼에도 불구하고 여전히 강력한 엔비디아의 경쟁력. AI의 효능감을 극적으로 보여준 OpenAI의 ChatGPT나 Sora, 그리고 마이크로소프트의 Copilot은 모두 클라우드에서 가동. 반면, 엣지 AI로 결정적인 AI 효능감을 보여줄 수 있을지는 아직 의문. 따라서 엣지 AI 시장이 확장되더라도 현재 클라우드 기반의 AI 수요는 계속 성장할 전망. 최근 실적을 발표한 엔비디아는 데이터센터 (AI GPU) 매출의 40%가 학습이 아닌 추론용 수요였다고 밝힘. 추론으로 AI 무게중심이 이동해도 엣지 AI 시장이 대규모로 확장되기 전까지는 엔비디아의 경쟁력이 여전히 높다는 걸 보여줌. 그리고 H200이나 B100 등과 같은 차세대 AI GPU가 나오면, 현재 주력 제품인 H100이나 A100의 가격을 낮춰서 중저가 AI GPU 시장을 공략할 수도 있음. 아이폰이 새로 나오면 기존 모델의 가격이 낮아지면서 중가 스마트폰 시장으로 이동하는 것과 비슷. 소비자 충성도가 높은 애플과 비슷하게, 소프트웨어 CUDA로 고객을 묶어 놓은 엔비디아도 이와 같은 전략을 펼치면서 AI GPU 시장 장악력을 유지할 가능성이 있음
[미국 주요 주가지수]
다우 산업 -0.16%
S&P 500 -0.38%
나스닥 종합 -0.13%
러셀 2000 +0.61%
목요일 1월 개인소비지출 (PCE)과 금요일 2월 ISM제조업 지수 등 굵직한 경제지표를 기다리면서, 최근 상승 피로가 누적된 3대 지수 모두 하락 마감. 시가총액 상위의 대형 기술주가 대부분 하락한 가운데, 이미지 생성 AI의 재출시까지 수 주가 걸릴 수 있다는 딥마인드 CEO의 언급으로 알파벳의 하락폭이 유난히 컸음. 반면, 최근 1주일 성과 최상위인 엔비디아는 시장 전반이 하락하는 와중에도 매수세가 지속되며 상승세 연장
- KB증권 크로스에셋/해외주식 Strategist 김일혁, CFA, FRM -
