[삼성전자 AI 리더십] ① 온디바이스 기반 AI 경험 혁신
상상을 현실로 만드는 AI(인공지능) 기술이 빠르게 일상 속으로 스며들고 있다. 삼성전자는 ‘모두를 위한 AI(AI for All)’ 비전 아래 AI 스마트폰과 AI TV, AI 가전으로 차세대 디바이스의 새로운 기준을 제시하며 사용자에게 풍요로운 AI 경험을 제공한다.
다양한 AI 기기의 혁신을 이끄는 핵심에는 ‘온디바이스 AI(On-Device AI)’가 있다. 이는 서버나 클라우드 없이 기기 내에서 자체적으로 AI를 구동하는 기술이다. 네트워크 연결이 필요 없어 사용자가 언제나 빠른 반응 속도로 AI 기능을 사용할 수 있으며, 개인정보 유출 걱정이 없다는 것이 강점이다.
온디바이스 AI는 이제 단순 기능을 넘어 기기 안의 자원만으로 생성형 AI 같은 방대한 데이터를 처리하는 수준으로 진화했다. 삼성전자가 선도하는 온디바이스 AI 혁신을 살펴보자.
클라우드 없이도 척척, 내 손 안의 생성형 AI
복잡한 생성형 AI를 온디바이스 환경에서 구동하는 기술이 업계의 주요 과제로 떠오른 가운데, 삼성전자는 실생활에서 온디바이스 AI 경험을 제공하고 있다.
대표적으로, 삼성전자는 최신 스마트폰과 태블릿 등에서 온디바이스 기능을 포함한 갤럭시 AI를 제공한다.[1] 갤럭시 AI는 현재까지 총 20개 언어로 확대돼[2] 대화 통역, 메시지 앱이나 웹페이지 번역 등 언어 장벽 없는 소통을 지원한다.
온디바이스 AI는 기기에 탑재되는 모델의 크기는 줄이면서도 성능을 충족시키는 것이 관건이다. 이를 위해 삼성전자는 특정 과제를 위한 AI 학습 데이터를 이용하고, 기기에서 얼마나 효율적으로 구현할 수 있는지에 집중했다.
TV의 경우 글로벌 시장 1위 업체로서의 노하우를 기반으로 AI 모델을 학습시키고, 2020년부터 NPU(신경망처리장치)를 내장한 TV 전용 프로세서를 더욱 발전시켜 왔다. 2024년형 Neo QLED 8K의 NQ8 AI 3세대 프로세서는 512개 뉴럴 네트워크로 각 영역을 학습, 분석해 화질과 음질을 정밀하게 개선한다. 화면에서 픽셀과 프레임을 보정, 생성함으로써 업스케일링과 부드러운 모션을 구현하고, 사운드에서 각 음원을 분리하고 조절해 어떤 상황에서든 대사가 정확히 들리도록 전달력을 높이는 것.
▲삼성전자 VD사업부 김선민 마스터, 함철희 마스터가 설명하는 온디바이스 AI 기술
‘더 작게, 더 빠르게’ 삼성의 AI 최적화 연구
AI 기술이 발전하고 데이터 규모가 커질수록 모델 최적화가 중요하다. 고성능 AI 모델을 기기의 프로세서, 메모리, 배터리 등의 제한된 자원으로 효율적으로 구현해야 하기 때문이다. 이를 위한 기술로는 대표적으로 경량화, 하드웨어 최적화, 데이터 처리 가속화를 꼽을 수 있다.
삼성전자는 AI 모델의 크기를 줄이는 경량화 분야에서 기술력을 확보하고 있다. 알고리즘 단순화와 연산 과정 효율화를 통해 응답 속도를 높이는 양자화(Quantization) 기법, 대형 모델에서 가지치기하듯이 필수 요소만 남겨 소형 모델을 만드는 프루닝(Pruning) 기법, 대형 모델(Teacher)의 추론 방식을 작은 모델(Student)이 모방하게 하는 지식 증류(Knowledge Distillation) 기법 등을 통해 가볍고 빠른 AI 모델을 개발했다.
AI를 빠르고 효율적으로 실행하기 위한 하드웨어 최적화와 데이터 처리 가속화 분야에서도 혁신을 이어가고 있다. 예를 들어, 대형 모델을 분할해 AI를 구동하는 플래시 메모리 최적화(Flash Utilization) 기술을 적용해 메모리 사용량을 대폭 줄일 수 있다. 또한 폭넓은 제품에 AI를 적용하기 위해 NPU가 없는 저사양 기기에서도 빠른 추론이 가능한 특허 기술을 개발했다. 이 외에도 AI 모델의 결과를 예측하는 추측 디코딩(Speculative Decoding) 기법으로 추론 속도를 높이는 연구, 다양한 하드웨어를 동시 구동해 연산 능력을 향상시키는 연구도 진행 중이다.
▲ AI 모델 경량화를 위한 프루닝 기법과 지식 증류 기법
자체 개발부터 제조, 협업까지… 축적된 노하우로 온디바이스 AI 혁신
온디바이스 AI는 선행 연구부터 제품 구현까지 폭넓은 기술력이 필요한 분야다. 삼성전자는 소프트웨어와 하드웨어, 부품과 완제품을 모두 아우르는 제조사로서 종합적으로 축적된 노하우를 온디바이스 AI 개발에 발휘하고 있다. 자사 기기에 AI를 구현하기 때문에 자체 개발과 개방적 협력을 병행하며 하드웨어에 최적화된 모델을 만들 수 있다. 부품인 반도체 분야에서도 NPU 성능을 지속 향상시켜 왔고, 업계 파트너들과 함께 온디바이스 AI 활용 시나리오를 지속 개발할 계획이다.
삼성전자는 하드웨어와 응용 소프트웨어의 다리 역할을 하는 시스템 소프트웨어에도 주력하고 있다. 삼성전자는 타이젠 OS(운영체제) 기반으로 삼성 TV의 자체 NPU로 구동되는 온디바이스 AI를 제공해 TV를 더욱 스마트하게 만들고, 타이젠 개발자들에게 비전 AI와 언어 AI SDK(개발도구), AI 모델의 추론, 훈련 및 서비스를 위한 머신러닝 API(애플리케이션 프로그래밍 인터페이스) 등을 제공한다.
또한 삼성전자는 국내 연구 조직과 함께 글로벌 연구 네트워크를 통해 온디바이스 AI 기술 혁신을 가속화하고 있다. 선행연구를 담당하는 삼성리서치는 영국, 미국 연구소에서 AI 모델 구조 개발과 경량화 연구를, 인도와 폴란드 연구소에서는 AI 구동 가속화 솔루션 개발을 진행하는 등 연구소별 전문성을 살려 경쟁력을 더욱 높이는 데 집중하고 있다.
▲ 10월 미국에서 열린 ‘삼성 개발자 콘퍼런스 2024’에서 삼성전자가 타이젠 OS와 AI 기능에 대해 소개하는 모습
앞으로도 삼성전자의 온디바이스 AI는 더 많은 제품과 서비스로 확대되며, 다양한 AI 기술과 결합해 새로운 일상의 변화를 이끌어갈 전망이다. 이어지는 2편에서는 ‘개인화 AI’를 위한 삼성전자의 기술과 연구 활동을 살펴본다.
[1]갤럭시 AI 지원 기기: 갤럭시 Z 폴드6·플립6·폴드5·플립5·폴드4·플립4, S24 시리즈, S23 시리즈, S22 시리즈, S24 FE·S23 FE, 탭 S10 시리즈, 탭 S9 시리즈, 탭 S8 시리즈 등
[2]갤럭시 AI 지원 언어: 한국어, 중국어(간체), 영어, 프랑스어, 독일어, 힌디어, 이탈리아어, 일본어, 폴란드어, 포르투갈어, 스페인어, 태국어, 베트남어, 아랍어, 인도네시아어, 러시아어, 네덜란드어, 루마니아어, 스웨덴어, 튀르키예어
삼성전자 뉴스룸의 직접 제작한 기사와 이미지는 누구나 자유롭게 사용하실 수 있습니다.
그러나 삼성전자 뉴스룸이 제공받은 일부 기사와 이미지는 사용에 제한이 있습니다.
<삼성전자 뉴스룸 콘텐츠 이용에 대한 안내 바로가기>
