온디바이스 AI (On-device AI) 시대

글로벌 시장조사기관 가트너에 의하면 2022년까지 출하되는 전체 스마트폰의 약 80%에 온디바이스(On-device) AI가 탑재될 것으로 예상하고 있으며, 이는 온디바이스에 대한 관심과 활용이 점차 증가하고 있다는 것의 반증이기도 하다.

 

 

1. 온디바이스 AI (On-device AI) 란?

우선 AI의 정의를 살펴보면, '컴퓨터에서 인간과 같이 사고하고 생각하고 학습하고 판단하는 논리적인 방식을 사용하는 인간지능을 본 딴 컴퓨터 프로그램을 말한다. 과거의 인공지능은 확정된 환경에서 유한개의 솔루션을 탐색하는 일이었다....  매우 불확정적이고, 솔루션도 미리 유한개로 정해져 있지 않은 경우가 많았다. 기계학습은 이런 문제들을 “데이터 중심의 판단”으로 풀어간다.' 

 

AI

 

즉, AI의 핵심은 ‘컴퓨터에 의한 데이터 기반의 학습과 판단’이라고 할 수 있다.

 

일반적으로 컴퓨터에서 행해지는 AI의 핵심인 '학습과 판단'은 대용량 서버로 구성된 클라우드 인프라에서 이루어지고 있다. 스마트폰, 태블릿 등 스마트기기에서 수집한 정보를 중앙 클라우드 서버로 전송하여 분석 후 다시 기기에서 받는 방식으로 '학습과 판단'이 이루어지고 있는 것이다.

하지만 이러한 방식은 물리적으로 떨어져 있는 중앙 클라우드 서비를 거쳐야 함에 따라 '속도 저하, 개인정보 유출, 커넥티드 이슈 등' 여러 이슈가 제기되고 있으며, 더욱이 현실세계에서의 다양한 이슈를 바로바로 처리/대응해야 하는 향후의 여러 기술 등 (ex 자율주행과 같은 문제) 을 해결하기 위해서는 중앙 서버에 의존적인 기존 방식으로는 한계가 있을 수밖에 없다.

 

이와 같은 중앙 처리 방식과 물리적인 거리 이슈를 해결할 수 있는 방식이 바로 '온디바이스 AI (On-device AI)'이다.
이는 중앙 클라우드 서버를 거치지 않고, 사용자가 보유하고 있는 기기 (스마트기기 등) 내에서 자체적 정보를 수집하고 연산하며, 이후 판단을 바로 바로 수행한다는 것이다. 즉, 빠른 학습을 통한 처리/대응과, 무엇보다 중앙 서버와의 접속이 어려운 환경에서도 실시간으로 AI 서비스 제공이 가능한 것이 가장 큰 특징이라 할수 있다.
이러한 방식은 단말 기기 자체적으로 현실의 작은 데이터를 기반으로 AI를 수행하는 기술이라 하여 '온디바이스 AI (On-device AI) 외 '스몰 AI (Tiny AI)'라고도 한다.

 

 

출처) 삼성반도체 이야기

 

2. 온디바이스 AI (On-device AI)의 장점

 

1) 빠른 서비스 제공
데이터의 이동이 필요한 중앙 서버를 통한 클라우드 방식의 처리가 아닌 단말기 자체 처리를 통하여 빠른 서비스 제공이 가능하다. 더욱이 네트워크가 불안정한 상황에서도 데이터 처리가 가능하여 서비스 제공의 안정성도 향상 시킬 수 있다.

2) 정보보호 강화
클라우드 AI 방식의 특성상 개인 정보가 중앙 서버에 집중될 수밖에 없는 특징이 있다. 이로 인하여 해킹, 디도스 등으로부터의 공격 표적이 될 수 있는데, 반면 온디바이스 AI는 데이터를 단말 중심으로 운영함으로써 데이터 보안성을 강화할 수 있다.

3) 에너지 절감
다량의 데이터의 운영을 위해서는 많은 전력이 필요하다. 중앙집중식 클라우딩 서비스의 경우 불필요한 데이터까지도 단말기로부터 수집하여 보관/운영하는 경우가 있을 수 있다. 온디바이스 AI는 이러한 기존의 중앙 집중식 처리 방식에서 일부 영역을 단말기에서 직접 처리함으로써 클라우드 컴퓨터로의 에너지 집중 및 과부하 해결에 많은 도움을 줄 것이다.

 

 

 

 

3. 온디바이스 AI (On-device AI)의 가까운 미래

지금까지 AI 기술은 특정 기업들만의 것이라는 인식이 강했다. 이러한 환경에서 온디바이스 AI (On-device AI) 의 확산은 고성능 컴퓨터와 어마어마한 데이터가 기반이 되어야 한다는 기존의 AI 시장의 장벽을 뛰어넘는데 많은 기여를 하고 있다. 또한 데이터 분석을 위해서 대규모 데이터가 필요하다는 고정관념에서 벗어나 개인 및 개별 디바이스가 한정적으로 보유하고 있는 데이터 만으로도 인사이트를 얻어 활용하다는 스몰데이터(Small Data) 전략과 맞물려 온디바이스 AI의 활용성과 가능성은 점점 부각되고 있다.

가정에서 사물인터넷(IoT)과 결합된 다양한 가전제품의 활용이 들어나고 있으며, 개개인이 보유 활용하고 있는 스마트 기기/스마트 워치 등을 통하여 수집된 데이터들이 늘어남에 따라 이러한 온디바이스 AI (On-device AI) 의 활용성과 새로이 창출 가능한 시장은 무궁무진하다 할 수 있겠다.

 

 

앞으로 데이터에 대한 이해는 기업의 생존 뿐만 아니라 개개인의 미래 경쟁력을 재고함에 있어서도 중요한 요소임에는 분명해 보인다.