혁신적인 기술력과 높은 효용을 제공하는 생성형 AI가 주목받고 있는 AI 시대에 ‘온디바이스(On-Device) AI’라는 새로운 플랫폼이 화제를 모으고 있습니다. 삼성전자의 갤럭시 S 시리즈, 애플의 Apple Intelligence, 마이크로소프트의 Copilot+PC 등 글로벌 빅테크 기업이 앞다투어 경쟁을 이어가고 있는 온디바이스 AI 시장의 성장에 주목해야 할 시기입니다.
온디바이스 AI는 이용자가 직접 사용하는 휴대폰, 노트북 등의 스마트 디바이스 내에 소형 AI 모델을 탑재하여 생성형 AI 서비스를 구현합니다. 클라우드 등 외부 인프라를 활용하는 기존 AI 시스템과 달리, 인터넷 연결 없이도 생성형 AI 서비스 구현이 가능하다는 점이 특징입니다. 온디바이스 AI를 기반으로 한 생성형 AI 서비스는 AI 모델의 분석 속도가 빠르고, 시스템 운영 비용이 비교적 적을 것으로 분석됩니다. 더불어 이용자의 사용 데이터를 개인의 스마트 디바이스 외부로 보내지 않고도 AI 서비스를 구현할 수 있기 때문에 데이터 보안 측면에서 강점을 지닙니다.
속도, 비용, 보안 측면에서 강점을 가진 온디바이스 AI의 성장을 활용해 Scale-up을 할 수 있는 기업의 전략 모색이 필요한 시점입니다. 본 보고서에서는 온디바이스 AI 시대에 핵심 요소로 자리한 S(Semiconductor)-C(Cloud)-A(Ambient Computing)-L(Language Model)-E(Explainable AI)의 5가지 키워드를 활용한 ‘SCALE’ 전략을 제시했습니다. 국내 기업이 온디바이스 AI를 활용한 비즈니스 기회를 모색하고 AI 시대의 새로운 성장 동력을 찾는 데 도움이 되기를 기대합니다.
