온디바이스 AI가 등장하면서 빅테크 기업들이 AI 활용 방안에 대한 논의를 활발히 진행하고 있다. 삼성과 애플은 스마트폰을 중심으로 한 ‘온디바이스 AI’ 제품을 출시할 예정이며, 이들은 AI 생태계 확장을 위한 경쟁에 속도를 내고 있다.
온디바이스 AI는 클라우드를 거치지 않고, 장치 자체에서 AI 작업을 처리하는 기술로 CPU, GPU, NPU 등의 하드웨어를 활용해 실행 된다. 이 기술은 보안 문제 해결과 비용 절감 등의 장점을 제공해 생성형 AI의 한계점을 보완할 수 있어 주목받고 있다.
그러나 온디바이스 AI가 대중화되기 위해서는 배터리 효율과 같은 하드웨어 문제를 해결하는 것이 중요하다. 이를 위해 OLED 전환과 AP 성능 개선이 진행되고 있으며, 이를 통해 AI 기술이 일상에 자연스럽게 스며들도록 하는 것이 핵심 과제이다.
온디바이스 AI는 일시적 유행이 아니라 3G에서 4G로 기술 확장이 되었던 것과 같이 새로운 패러다임으로 자리 잡을 것으로 예상된다. 이로 인해 반도체, 디스플레이, 보안 등 기존 밸류체인에도 큰 변화를 가져올 전망이다.
온디바이스 AI가 온다.
온디바이스 AI, AI 수익 모델의 첫 번째 해답
빅테크들의 막대한 Capex 증설과 함께, 시장 한편에서는 AI 활용 방안에 대한 논의가 이루어지고 있다. 특히, IT 기업들은 다양한 AI B2C 서비스를 디바이스에 적용하기 위해 ‘온디바이스 AI’ 개발에 집중하고 있다.
생성형 AI에 이은, 온디바이스 AI 생태계 확보 경쟁
대표적으로 스마트폰 시장의 선두주자인 애플은 자체 AI인 ‘애플 인텔리전스’를 오는 28일 출시할 전망이다. 앞서 갤럭시S24를 통해 갤럭시 AI를 먼저 선보인 삼성전자의 경우 AI가 장착된 자사의 모든 제품을 스마트폰 등 모바일 기기로 제어할 수 있는 ‘원UI 7’ OS 서비스를 내년 1월 갤럭시S25 시리즈와 함께 공개할 계획이다. 즉, 온디바이스 AI 시장은 삼성전자, 애플, 메타 등 IT B2C 빅테크 기업들의 제품 출시 경쟁과 함께 이들의 자체 AI 생태계 확장을 위한 움직임이 더욱 빨라지고 있다.
2세대 아이돌, 온디바이스 AI
온디바이스 AI란 클라우드 기반 서버로 데이터를 송수신하는 대신, 장치 자체에서 처리 및 학습과 같은 인공지능 작업을 수행할 수 있는 기능을 의미한다. 디바이스 내 CPU, GPU 또는 NPU를 활용하여 자체적으로 AI 알고리즘을 실행할 수 있기 때문에 생성형 AI가 제공할 수 없는 새로운 영역의 AI 서비스를 제공할 수 있을 것으로 기대된다.
생성형 AI의 한계점을 보완하며,
AI 서비스 보급의 핵심 역할 기대
Chat-GPT와 같이 사용자의 요구에 맞는 콘텐츠를 생성해주는 ‘생성형 AI(Generative AI)’는 데이터센터를 기반으로 한 클라우드를 통하여 빅데이터를 학습한 후, 주어진 조건이나 명령에 맞춰 새로운 텍스트, 이미지, 코드 등을 생성한다는 특징을 가진다. 하지만, 학습하는 데이터의 양이 늘어나면서 1) 저장용량, 2) 비용과 에너지, 3) 정보 보안 등의 단점이 부각되면서 AI 보급에 한계점을 보였다. 반면, 온디바이스 AI는 1) 보안 이슈 등으로 ‘생성형 AI’를 활용하지 못했던 기업과 2) 개인정보를 활용한 맞춤형 AI 서비스를 받고자 하는 수요에 대응할 수 있으며, 3) 생성형 AI 대비 비용도 절약할 수 있어 AI 서비스 보급에 핵심 역할을 할 것으로 기대된다.
온디바이스 AI 대중화까지는?
하드웨어, 소프트웨어 등 여전히 극복할 과제는 남아있다.
앞으로 ‘온디바이스 AI’ 대중화의 관건은 AI 서비스가 기술 사용자의 일상에 얼마나 자연스럽고 친근하게 스며들 수 있는 지에 달려 있다. 그렇기 때문에, 이용자가 일상에서 불편함을 느끼지 않도록 하드웨어와 소프트웨어 차원의 극복해야할 과제도 남아있다.
생성형 AI를 활용하기 위해 많은 전력이 소비가 되듯, 온디바이스 AI도 배터리 효율 확보가 관건이다. 전자기기의 배터리 소비 추이를 살펴보면, 화면 출력이 전체 배터리 사용량의 과반 이상을 차지한다. 그렇기 때문에, 화면 출력 효율성을 확보하여 ‘온디바이스 AI’를 구현하기 위해 하이엔드 온디바이스 AI 제품을 중심으로 OLED 전환이 시작되었다.
또한, 온디바이스 AI의 성능을 극대화하기 위해 스마트폰에 탑재되는 AP뿐만 아니라, AI 연산에 특화된 NPU와 같은 전용 하드웨어의 도입도 확대되고 있다. NPU는 AI 작업을 빠르고 효율적으로 처리할 수 있도록 설계되어, CPU나 GPU에 비해 전력 소모를 줄이면서도 높은 성능을 제공한다. 이처럼 NPU와 같은 전용 칩 셋의 적용은 온디바이스 AI 기술 발전에 중요한 역할을 하고 있다.
온디바이스 AI는 새로운 패러다임.
기존 밸류체인 점검할 필요
온디바이스 AI는 일시적 유행이 아니라, 3G에서 4G로의 기술 진보가 있었던 것과 같이 기술 확장의 새로운 패러다임이기 때문에, 기존의 AI 기술에 대한 회의론도 불식시켜 나갈 것이다. 특히, OLED 전환에 따른 디스플레이 밸류체인 기업과 고성능 스마트폰 AP를 생산할 수 있는 고전압, 혼합신호 등 선단 공정을 지원하는 파운드리 업체의 주가 차별화가 이미 시작되었다. 온디바이스 AI라는 경험해보지 못한 봄을 맞이하기 위해 반도체, 디스플레이, 보안 등 기존 밸류체인을 새로이 생 각해볼 필요가 있다.
원문: Winner of AI gadget race might already be in your pocket, The race to bring generative AI to mobile devices (Financial Times)
- 메리츠증권 양승수 수석 연구원 -