일상을 바꿀 내 손 안의 AI, 온디바이스 AI
CHEIL WORLDWIDE 기사입력 2024.03.12 12:00 조회 453
국민대학교 소프트웨어융합대학 윤종영 교수

“내가 꼭 이런 용어까지 알아야 할까?”

요즘 비즈니스 현장에서 기술이 미치는 영향이 커지며 다양한 기술 용어가 필수처럼 여겨지고 있다. 특히 인공지능 분야는 더욱 알아야 할 용어가 많다. 머신러닝, 딥러닝, 생성형 AI, 거대언어모델 등. 이런 용어를 익히기도 바쁜데 최근에 또 하나의 용어가 등장했으니 ‘온디바이스(on-device) AI’다.

얼핏 봐선 일반인에겐 의미 없는 단어 같지만, 사실은 그렇지 않다. 향후 우리 비즈니스를 바꿀 것으로 보이는 아주 중요한 개념이기에 알아 놓는 편이 좋다. 온디바이스 AI가 무엇이고 왜 중요한지, 또 이것이 일상화될 가까운 미래에는 어떤 서비스가 가능할지 알아보도록 하자.




인터넷 연결 없이 자체 AI 기능 가진, 온디바이스 AI

온디바이스 AI는 말 그대로 인터넷 연결이 필요 없이 스마트폰이나 태블릿 같은 디바이스에서 자체적으로 작동하는 인공지능을 말한다. 챗GPT와 같은 AI 서비스는 인터넷에 연결되어야만 사용할 수 있지만, 온디바이스 AI는 데이터를 외부 서버로 전송하지 않고 기기 내에서 실시간으로 처리한다.

우리 일상 속, 특히 스마트폰에서는 이미 온디바이스 AI가 활용되고 있다. 그 예로는 사진 속 피사체를 인물 또는 장소에 따라 구분하거나, 사진에서 원하는 부분만 떼어내는 작업(일명 ‘누끼 따기’)을 들 수 있다. 이는 디바이스에 탑재된 프로세서와 인공지능 모델을 활용하여 데이터를 내부적으로 처리함으로써 사용자가 원하는 결과를 도출해 내는 것이다. 최근의 온디바이스 AI 기술은 신경처리장치(Neural Processing Unit, NPU)라고 하는, 전력 소모가 적으면서도 AI 추론을 효율적으로 수행하는 전용 프로세서를 통해 발전하고 있다.





'진짜' 빠른 속도가 주는 삶의 변화

최근 삼성이 공개한 신형 스마트폰은 온디바이스 AI를 통해 인터넷 연결 없이도 실시간 번역 기능을 제공하여 주목을 받았다. 그런데 현대 사회에서 인터넷이 없는 상황을 상상하기란 쉽지 않다. 마치 전기처럼 우리 삶의 필수적인 요소가 된 인터넷. 그럼에도 인터넷이 필요 없는 온디바이스 AI가 중요시되는 이유는 무엇일까?

먼저, 속도가 빠르다는 점이 그 이유다. 인터넷에 연결해 클라우드 서비스를 이용할 필요가 없고, 데이터 센터의 서버 자원을 공유하지 않으며 자신의 기기만을 사용하기 때문에 실시간으로 번역을 제공하거나 수초 내에 고품질 이미지를 생성하는 일이 가능하게 된다. 하지만 이 또한 사용자에게는 큰 장점으로 느껴지지 않을 수도 있는데, 클라우드 서비스도 이미 충분히 빠른 속도를 제공하기 때문이다.

그러나 서비스를 제공하는 기업의 입장에서는 다를 수 있다. 온디바이스 AI를 활용함으로써 비용 절감이 가능해지기 때문이다. 특히 생성형 AI 모델이 복잡해지고 사용자가 증가함에 따라 필요한 인프라 비용이 기하급수적으로 늘어나고 있는데, 간단한 AI 작업의 경우 스마트폰 등 개인용 기기의 자원을 이용함으로써 클라우드 인프라 비용을 절약할 수 있고, 이는 사용자에게 혜택으로 환원될 수도 있다.



개인 맞춤과 정보 보완, 두 마리 토끼를 잡다

온디바이스 AI가 가진 더 큰 장점은 개인 프라이버시와 기업 정보의 보호 강화에 있다. 아직은 챗GPT 같은 AI 서비스에 맛집을 추천받는 것보단, 나를 잘 아는 친구에게 추천받는 음식점이 더 유용한 경우가 많다. AI가 나만의 취향과 내가 주로 가는 동네 등을 파악하고 있진 못하기 때문이다. AI가 개인이나 기업에 진짜 도움을 주려면, 각각의 주체들이 가진 정보를 최대한 많이 알아야 한다. 하지만 그런 정보를 온라인 상에 공유하긴 쉽지 않다. 온디바이스 AI는 개인의 건강 상태나 기업 기밀 등 민감한 정보를 클라우드로 전송해서 처리하지 않고 스마트폰 내에서 처리하기 때문에 다양한 인공지능 서비스를 보다 안심하고 이용할 수 있게 된다.

서비스 공급자를 비롯한 타인에게 공유하기 꺼려질 수 있는 개인 데이터(나이, 건강 상태, 취향 등)나 디바이스에 장착된 카메라, 마이크, 그리고 여러 센서 데이터를 활용하여 사용자의 필요에 더욱 적합한 답변을 추론하고 제공함으로써 개인 맞춤형 서비스의 수준을 높일 수 있다는 점이 바로 온디바이스 AI의 커다란 장점이 된다.




온디바이스 AI가 바꾸는 미래

온디바이스 AI는 일상적인 스마트폰에서부터, 스마트워치, 확장현실(XR) 헤드셋에 이르기까지 다양한 기기와 상호 작용하는 방식을 변화시키고 개인화된 서비스를 제공함으로써 우리의 일상생활에 영향을 미치게 될 것으로 예상된다. 몇 가지 예를 살펴보도록 하자.

– 개인 맞춤형 AI 어시스턴트: 사용자의 선호도, 습관, 위치 정보 등을 기반으로 맞춤형 정보 제공, 일정 관리 등을 지원한다.

– 실시간 번역: 사용자의 목소리를 인식하여 다른 언어로 실시간 번역한다.

– 맞춤형 콘텐츠 추천: 사용자의 시청 기록, 검색 기록, 구매 기록 등을 분석하여 사용자 취향에 맞는 콘텐츠를 추천한다.

– 작업 자동화: 사진 분류, 문서 정리, 음성 메모 작성 등 반복적인 작업 자동화한다.

– 개인 데이터 보호: 사용자의 개인 데이터를 기기 내에서 안전하게 저장하고 처리하여 유출 방지한다.

– XR 및 웨어러블 기기 기능 확장: 동작 및 활동 추적, 건강 관리, 알림 제공 등의 기능 강화한다.

이와 같이 온디바이스 AI를 장착한 기기는 사용자의 선호도를 실시간으로 학습하고 적용하여 극도로 개인화된 서비스 제공이 가능해진다. 단지 스마트한 디바이스가 아닌, 우리의 필요를 이해하고 예측하는 진정한 인텔리전트 디바이스 시대가 열리고 있는 것이다.




마케터라면 놓치지 말아야 할 단어, 온디바이스 AI

물론 금빛 미래만 기다리는 건 아니다. 온디바이스 AI에도 한계는 있다. 바로 하드웨어 문제로, 스마트폰이나 태블릿, XR 헤드셋과 같은 개인용 기기의 성능이 제한적이기 때문이다. 예를 들어, GPT-3의 경우 1,750억 개의 매개변수를 가지고 있으며 이를 실행하려면 고성능의 인프라가 필요하고, 당연히 모바일 기기에서는 이를 구현하기 어려울 수밖에 없다.

이러한 문제를 해결하기 위해서는 매개변수를 줄이면서도 성능 저하를 최소화한 AI 모델의 개발이 온디바이스 AI 시대의 필수 요소로 여겨지고 있다. 그리고 현재의 기술 발전 추세를 고려할 때, 온디바이스 AI의 성능이 향상되는 것은 시간문제일 것이다.

아직은 도입 단계이지만 온디바이스 AI는 다양한 분야에서 활용될 가능성이 높다. 시장 조사 기관인 IDC는 온디바이스 AI 시장이 2027년까지 1,500억 달러 규모로 성장할 것이라고 전망했다. 이처럼 앞으로 더욱 발전될 온디바이스 AI 기술은 우리 일상을 더욱 편리하고 안전하게 만들어 줄 것이며, 개인화된 서비스를 제공하여 사용자의 만족도를 높이게 될 것이다.

요즘처럼 광고 마케팅 종사자들이 다양한 기술 용어를 알아야 하는 시기가 또 없었을 것이다. 바쁜 비즈니스 현장 탓에 때론 신기술에 관심을 끄고 싶을 때도 있을 것이다. 하지만 AI 기술을 손안에서 만날 수 있게 하는 온디바이스 AI는 우리가  간과할 수 있는 개념이 아니다. AI가 가져 바꿀 미래를 기대하며, 이에 대한 준비를 시작해야 할 때다.


윤종영 국민대학교 소프트웨어융합대학 교수

국민대학교 소프트웨어융합대학원에서 인공지능과 블록체인을 가르치고 있으며, 다양한 활동을 통해 인공지능 활용의 대중화에 힘쓰고 있다. 또한 AI양재허브 센터장을 역임하면서 수많은 인공지능 스타트업을 육성하기도 하였다. 미국 스탠포드대에서 커뮤니케이션을 공부하고, 실리콘밸리의 IT 컨설팅 회사를 시작으로 Facebook, Yahoo, Pinterest, Microsoft, IBM 등 다양한 기업에서 15년 넘게 IT 아키텍트로 커리어를 쌓았으며, 실리콘밸리 한국인 모임인 Bay Area K Group의 대표로도 활동했다.

 
AI 개인맞춤AI 광고 마케팅 생성형AI 온디바이스AI 제일기획 트렌드 · 
이 기사에 대한 의견 ( 총 0개 )
2023년 광고 시장 결산 및 2024년 전망
2023년 연초 광고 시장에 드리웠던 불안한 예감은 현실이 됐다. 지난 2021년 20.4%라는 큰 성장 이후 2022년 5.4% 재 성장하며 숨 고르기로 다시 한번 도약을 준비하던 광고 시장이었다. 하지만 발표된 다수의 전망들은 2023년 광고 시장의 축소를 내다보고 있다. 한국방송광고진흥공사에 따르면 2023년 광고비는 전년 대비 3.1%p 하락으로 전망됐고, 이중 방송 광고비는 17.7% 감소가 예상됐다.
[캠페인 하이라이트] MCC 고베식당을 이야기하다
크리에이티브 컨설팅, 실행을 담보로 할 수 있을 것인가? ‘MCC 고베식당’ 프로젝트는 둘로 나뉘어진다. 바로 컨설팅과 실행이다. 그 둘이 함께 붙어 있기에 힘을 발휘한 프로젝트였고, 또한 둘로 나뉘어 있기에 어려운 프로젝트기도 했다. 2010년 4월 27일 매일유업에서 날아든 굵직한 숙제 하나. “우유하던 우리가 카레를 하려고 하는데, 어떻게 하면 잘 할지… 총체적으로 해봐!” 그렇게 시작된 숙제는 제일기획으로서는 새로운 ‘제품 컨설팅’ 의 영역이었다. 지금 이 시점, ‘ 크리에이티브 컨설팅’이라 명명된 우리만의 USP(Unique Selling Point)가 되어가고 있지만 초기만해도 가뜩이나 압도적 독점브랜드가 있는 시장 상황 속에 제품개발도 완결되지 않은, 유통도 가격도 결정되지 않은 실로 막막한 프로젝트였다.
[월간 2024밈] 4월 편 - 잼얘해봐?
  오늘 점심 떵개했다?  HSAD 광고 사건  펠꾸 모음  카카오톡 미니 이모티콘  잼얘 해봐.   오늘 점심 떵개했다 음식을 맛있게 먹기로 유명한 유튜브 먹방 유튜버 떵개떵. 출처: 유튜브 떵개떵  음식을 맛있게 먹는 떵개떵의 이름에서 따와, 맛있는 음식을 먹으면 '떵개했다'라는 말을 사용해요! '오늘 점심
이노션, <디스커버리 2024> 성료
  이노션이 해외법인의 현지인 리더급 임원들을 한국에 초청, 이노션의 조직문화를 체험하게 하고 각국의 역량을 교류할 수 있는 ‘디스커버리(Discovery) 2024’를 실시했다. ‘디스커버리’는 해외 현지인 리더급 직원들이 이노션 본사에 직접 방문해 한국과 이노션만의 조직문화를 이해하고, 법인 별 역량 교류를 통해 글로벌 네트워크 시너지를 창출하는 이노션만의 특별한 사내 프로그램이다. 코로
알바몬 올여름 알바몬으로 알박아, 알바여
알바몬은 ‘1억 알바머니 챌린지’라는 통 큰 프로모션을 홍보하기 위해, 전국민 대상 ‘알바몬으로 누구든 쉽게 알바를 구할 수 있다’는 메시지를 담은 광고 캠페인을 선보였다. 알바와는 가장 거리가 멀어 보이는 시골 어르신들을 주인공으로 정하고, ‘알바’라는 단어가 생소한 시골 어르신들이 ‘알바 가’를 ‘알박아’로, ‘알바여’를 ‘알 빠여’로 잘못 알아듣고 생긴 소동을 영상으로 담아내 재미와 신선함으로 좋은 평을 받았다.
2023년 광고 시장 결산 및 2024년 전망
2023년 연초 광고 시장에 드리웠던 불안한 예감은 현실이 됐다. 지난 2021년 20.4%라는 큰 성장 이후 2022년 5.4% 재 성장하며 숨 고르기로 다시 한번 도약을 준비하던 광고 시장이었다. 하지만 발표된 다수의 전망들은 2023년 광고 시장의 축소를 내다보고 있다. 한국방송광고진흥공사에 따르면 2023년 광고비는 전년 대비 3.1%p 하락으로 전망됐고, 이중 방송 광고비는 17.7% 감소가 예상됐다.
당신과 친밀감 느끼는 사이
사람은 만나면 서로의 이야기를 듣습니다. 이야기가 통하면 친해지고 친밀감을 느끼게 됩니다. 관계가 단단해지기 위해선 서로의 이야기에 귀 기울여야 하며, 공감할 수 있어야 하죠.
고고한 메인스트림에 날리는 서브컬처의 통쾌한 펀치! ? QWER에 영향을 준 캐릭터들
    걸밴드 QWER의 인기가 심상치 않습니다. QWER의 미니 1집 앨범 수록곡 <고민중독>은 음악방송 출연 없이 1위 후보에 올랐을뿐더러, 발매 2개월이 지난 지금까지도 멜론 차트 4위를 유지하고 있습니다. QWER의 위아래로 하이브, 카카오엔터, SM과 같은 대형자본이 제작한 노래들만 있다는 점에서 더욱 놀라운 결과입니다. QWER의 인기를 하나의 문화 현상으로 봐야 한다는 주장(아래 영상)도 있습니다. 저는 그
이노션의 공익 캠페인, 글로벌 무대에서도 통했다IID
  이노션이 해외에서 기획·제작한 사회공헌성 캠페인들이 글로벌 어워드를 휩쓸면서 이노션만의 크리에이티브를 활용한 선한 움직임이 주목받고 있다. 이노션은 최근 영국의 권위 있는 광고·디자인 분야 시상식 D&AD(Design and Art Direction) 어워드에서 금상 2개를 포함한 본상 6개를, 미국의 One Show에서 동상 2개를 수상했다. 이번 D&AD 어워드에서 이노션이
[월간 2024밈] 6월 편 - 선배 탕후루 사주실 수수수수퍼노바
  이 영상은 무료로 볼 수 있고 편의점 비닐봉지는 유료인 이유를 모르겠다?‍♀? 수 수 수 수퍼노바? 구라같은데 탕탕후루후루 마라탕후루? 권력있는 점심   이 영상은 무료로 볼 수 있고 편의점 비닐봉지는 유료인 이유를 모르겠다    그룹 라이즈의 일본팬이 X에 작성한 트윗이 화제예요. 'この映像は無料で見れてコンビニのビニ?ル袋は有料なの意味が分からない' 번역하자면 '이 영상은 무
2023년 광고 시장 결산 및 2024년 전망
2023년 연초 광고 시장에 드리웠던 불안한 예감은 현실이 됐다. 지난 2021년 20.4%라는 큰 성장 이후 2022년 5.4% 재 성장하며 숨 고르기로 다시 한번 도약을 준비하던 광고 시장이었다. 하지만 발표된 다수의 전망들은 2023년 광고 시장의 축소를 내다보고 있다. 한국방송광고진흥공사에 따르면 2023년 광고비는 전년 대비 3.1%p 하락으로 전망됐고, 이중 방송 광고비는 17.7% 감소가 예상됐다.
당신과 친밀감 느끼는 사이
사람은 만나면 서로의 이야기를 듣습니다. 이야기가 통하면 친해지고 친밀감을 느끼게 됩니다. 관계가 단단해지기 위해선 서로의 이야기에 귀 기울여야 하며, 공감할 수 있어야 하죠.
고고한 메인스트림에 날리는 서브컬처의 통쾌한 펀치! ? QWER에 영향을 준 캐릭터들
    걸밴드 QWER의 인기가 심상치 않습니다. QWER의 미니 1집 앨범 수록곡 <고민중독>은 음악방송 출연 없이 1위 후보에 올랐을뿐더러, 발매 2개월이 지난 지금까지도 멜론 차트 4위를 유지하고 있습니다. QWER의 위아래로 하이브, 카카오엔터, SM과 같은 대형자본이 제작한 노래들만 있다는 점에서 더욱 놀라운 결과입니다. QWER의 인기를 하나의 문화 현상으로 봐야 한다는 주장(아래 영상)도 있습니다. 저는 그
이노션의 공익 캠페인, 글로벌 무대에서도 통했다IID
  이노션이 해외에서 기획·제작한 사회공헌성 캠페인들이 글로벌 어워드를 휩쓸면서 이노션만의 크리에이티브를 활용한 선한 움직임이 주목받고 있다. 이노션은 최근 영국의 권위 있는 광고·디자인 분야 시상식 D&AD(Design and Art Direction) 어워드에서 금상 2개를 포함한 본상 6개를, 미국의 One Show에서 동상 2개를 수상했다. 이번 D&AD 어워드에서 이노션이
[월간 2024밈] 6월 편 - 선배 탕후루 사주실 수수수수퍼노바
  이 영상은 무료로 볼 수 있고 편의점 비닐봉지는 유료인 이유를 모르겠다?‍♀? 수 수 수 수퍼노바? 구라같은데 탕탕후루후루 마라탕후루? 권력있는 점심   이 영상은 무료로 볼 수 있고 편의점 비닐봉지는 유료인 이유를 모르겠다    그룹 라이즈의 일본팬이 X에 작성한 트윗이 화제예요. 'この映像は無料で見れてコンビニのビニ?ル袋は有料なの意味が分からない' 번역하자면 '이 영상은 무
2023년 광고 시장 결산 및 2024년 전망
2023년 연초 광고 시장에 드리웠던 불안한 예감은 현실이 됐다. 지난 2021년 20.4%라는 큰 성장 이후 2022년 5.4% 재 성장하며 숨 고르기로 다시 한번 도약을 준비하던 광고 시장이었다. 하지만 발표된 다수의 전망들은 2023년 광고 시장의 축소를 내다보고 있다. 한국방송광고진흥공사에 따르면 2023년 광고비는 전년 대비 3.1%p 하락으로 전망됐고, 이중 방송 광고비는 17.7% 감소가 예상됐다.
당신과 친밀감 느끼는 사이
사람은 만나면 서로의 이야기를 듣습니다. 이야기가 통하면 친해지고 친밀감을 느끼게 됩니다. 관계가 단단해지기 위해선 서로의 이야기에 귀 기울여야 하며, 공감할 수 있어야 하죠.
고고한 메인스트림에 날리는 서브컬처의 통쾌한 펀치! ? QWER에 영향을 준 캐릭터들
    걸밴드 QWER의 인기가 심상치 않습니다. QWER의 미니 1집 앨범 수록곡 <고민중독>은 음악방송 출연 없이 1위 후보에 올랐을뿐더러, 발매 2개월이 지난 지금까지도 멜론 차트 4위를 유지하고 있습니다. QWER의 위아래로 하이브, 카카오엔터, SM과 같은 대형자본이 제작한 노래들만 있다는 점에서 더욱 놀라운 결과입니다. QWER의 인기를 하나의 문화 현상으로 봐야 한다는 주장(아래 영상)도 있습니다. 저는 그
이노션의 공익 캠페인, 글로벌 무대에서도 통했다IID
  이노션이 해외에서 기획·제작한 사회공헌성 캠페인들이 글로벌 어워드를 휩쓸면서 이노션만의 크리에이티브를 활용한 선한 움직임이 주목받고 있다. 이노션은 최근 영국의 권위 있는 광고·디자인 분야 시상식 D&AD(Design and Art Direction) 어워드에서 금상 2개를 포함한 본상 6개를, 미국의 One Show에서 동상 2개를 수상했다. 이번 D&AD 어워드에서 이노션이
[월간 2024밈] 6월 편 - 선배 탕후루 사주실 수수수수퍼노바
  이 영상은 무료로 볼 수 있고 편의점 비닐봉지는 유료인 이유를 모르겠다?‍♀? 수 수 수 수퍼노바? 구라같은데 탕탕후루후루 마라탕후루? 권력있는 점심   이 영상은 무료로 볼 수 있고 편의점 비닐봉지는 유료인 이유를 모르겠다    그룹 라이즈의 일본팬이 X에 작성한 트윗이 화제예요. 'この映像は無料で見れてコンビニのビニ?ル袋は有料なの意味が分からない' 번역하자면 '이 영상은 무