생성형 AI에게 펼쳐진 새로운 무대, 온디바이스 AI

삼정KPMG 경제연구원은 Issue Monitor 제165호 『생성형 AI에게 펼쳐진 새로운 무대, 온디바이스 AI』를 발간합니다..

혁신적인 기술력과 높은 효용을 제공하는 생성형 AI가 주목받고 있는 AI 시대에 ‘온디바이스(On-Device) AI’라는 새로운 플랫폼이 화제를 모으고 있습니다. 삼성전자의 갤럭시 S 시리즈, 애플의 Apple Intelligence, 마이크로소프트의 Copilot+PC 등 글로벌 빅테크 기업이 앞다투어 경쟁을 이어가고 있는 온디바이스 AI 시장의 성장에 주목해야 할 시기입니다.

온디바이스 AI는 이용자가 직접 사용하는 휴대폰, 노트북 등의 스마트 디바이스 내에 소형 AI 모델을 탑재하여 생성형 AI 서비스를 구현합니다. 클라우드 등 외부 인프라를 활용하는 기존 AI 시스템과 달리, 인터넷 연결 없이도 생성형 AI 서비스 구현이 가능하다는 점이 특징입니다. 온디바이스 AI를 기반으로 한 생성형 AI 서비스는 AI 모델의 분석 속도가 빠르고, 시스템 운영 비용이 비교적 적을 것으로 분석됩니다. 더불어 이용자의 사용 데이터를 개인의 스마트 디바이스 외부로 보내지 않고도 AI 서비스를 구현할 수 있기 때문에 데이터 보안 측면에서 강점을 지닙니다.

속도, 비용, 보안 측면에서 강점을 가진 온디바이스 AI의 성장을 활용해 Scale-up을 할 수 있는 기업의 전략 모색이 필요한 시점입니다. 본 보고서에서는 온디바이스 AI 시대에 핵심 요소로 자리한 S(Semiconductor)-C(Cloud)-A(Ambient Computing)-L(Language Model)-E(Explainable AI)의 5가지 키워드를 활용한 ‘SCALE’ 전략을 제시했습니다. 국내 기업이 온디바이스 AI를 활용한 비즈니스 기회를 모색하고 AI 시대의 새로운 성장 동력을 찾는 데 도움이 되기를 기대합니다.

I. AI의 넥스트 스테이지, 온디바이스 AI

II. 왜 온디바이스 AI인가

III. 온디바이스 AI 시대 Scale-up을 위한 전략

온디바이스 AI 시대의 주목해야 할 키워드 ‘SCALE’

S(Semiconductor):저전력 AI 반도체 성장 속 창출되는 기회 발굴

C(Cloud): 클라우드의 역할 변화로 인한 인프라 시장 변화 대응

A(Ambient Computing): 앰비언트 컴퓨팅 가속화 속 새로운 시장 모색

L(Language Model): AI 모델 역할 변화 속 빅테크·스타트업 움직임 주목

E(Explainable AI): 기술적 데이터 통제 방안 마련으로 설명 가능한 AI 시스템 구축