서버 환경과 달리 온디바이스에서는 메모리와 연산 자원의 제약이 크다. 따라서 AI 모델의 크기를 줄이고, 기기 환경에 맞게 실행 효율을 높이는 온디바이스 AI 최적화 기술이 필수적이다. 삼성리서치 AI 센터는 이를 위해 모델 압축, 실행 소프트웨어 최적화, 새로운 아키텍처 개발 등 핵심 기술 전반에서 연구를 선도하고 있다.

온디바이스 AI의 현재와 미래, 그리고 이를 가능케 하는 최적화 기술에 대해 더 자세히 듣기 위해 삼성전자 뉴스룸이 삼성리서치 AI센터 함명주 마스터를 만나봤다.

‘크기는 DOWN, 효율은 UP’ 온디바이스 AI의 시작, 모델 압축

사용자 언어를 이해하고 자연스러운 답변을 만들어내는 생성형 AI의 중심에는 거대언어모델(Large Language Model, LLM)이 있다. 온디바이스 AI의 첫 단계는 이 거대한 모델이 모바일 기기 안에서도 잘 작동할 수 있도록 작게, 효율적으로 만드는 일이다.

함명주 마스터는 “수십억 개의 연산을 수행하는 초고도 지능 모델을 모바일 기기나 노트북에서 그대로 구동한다면 배터리가 빠르게 소모되고, 기기 발열이 심해지거나 응답 속도가 느려져 사용자 경험이 크게 저하될 것”이라며 이를 해결하기 위해 등장한 것이 ‘모델 압축’ 기술이라고 소개했다.

거대언어모델은 본래 매우 복잡한 숫자로 연산을 수행한다. 모델 압축 기술은 이 숫자를 보다 효율적으로 표현하기 위해 단순한 정수 형태로 바꾸는데, 이 과정을 ‘양자화(Quantization)’라고 한다. 함 마스터는 “고해상도 사진을 압축해 용량은 줄였지만 육안으로는 화질 차이가 거의 없는 상태를 유지하는 것과 비슷하다”며 “예를 들어, 32비트 부동소수점 실수로 계산하던 것을 8비트나 4비트 정수로 단순화하면 메모리 용량과 연산량이 크게 줄어 응답 속도가 빨라진다”고 설명했다.

양자화 과정에서 숫자의 정밀도가 낮아지면, 모델의 정확도가 떨어질 수 있다. 삼성리서치는 속도와 정확성의 균형을 잡기 위해 압축 이후의 성능을 세밀하게 측정하고 보정하는 알고리즘과 개발 도구를 함께 설계하고 있다.

함명주 마스터는 “모델 압축의 핵심은 단순히 작게 만드는 것이 아니라, 작지만 정확하고 빠른 모델을 만드는 것”이라고 강조했다. 그는 “최적화 알고리즘을 통해 압축 과정에서 모델의 손실 함수를 세밀하게 분석하고, 원래 결과값과 거의 근접한 값이 나올 때까지 학습시키거나 오차가 큰 구간을 부드럽게 다듬는다”며 “모델의 가중치마다 중요도가 다르므로, 중요한 가중치는 정밀하게 유지하고 덜 중요한 부분은 과감하게 압축하는 방식으로 효율을 극대화하면서도 정확도를 유지할 수 있다”고 말했다.

삼성리서치는 모델 압축 기술을 연구 수준에서 구현하는 데 그치지 않고, AI 폰과 가전 등 실제 제품 환경에 맞춰 직접 개발하고 상용화한다. 함 마스터는 “기종마다 메모리 구조나 연산 성능이 모두 다르기 때문에, 일반적인 접근으로는 클라우드 기반 AI 수준의 성능을 내기 어렵다”며 “삼성리서치는 제품 중심(Product-driven) 연구를 통해 자체 설계한 압축 알고리즘으로 사용자의 손 안에서 직접 체감되는 AI 경험 개선을 목표로 하고 있다”고 설명했다.

“AI 성능을 끌어올리는 숨은 엔진” AI 실행 소프트웨어

AI 모델을 아무리 잘 압축하더라도, 기기 안에서 어떻게 구동되는지에 따라 체감 성능은 크게 달라진다. 삼성리서치는 모델이 실제로 작동하는 단계에서 기기의 메모리와 연산 자원을 가장 효율적으로 활용할 수 있는 ‘AI 실행기’를 개발하고 있다.

함명주 마스터는 “AI 실행기는 모델의 ‘엔진 제어장치’와 같다”며 “모델이 CPU, GPU, NPU 등 서로 다른 연산 장치에서 동시에 작동할 때, 어떤 연산을 어느 칩에서 처리할지 자동으로 배분하고 메모리 접근을 최소화해 AI의 성능을 높인다”고 설명했다.

AI 실행기는 동일한 기종의 기기 내에서 더 크고 정교한 모델도 같은 속도로 실행할 수 있게 해 준다. AI 서비스의 응답 지연 시간이 줄어들 뿐만 아니라, 더 높은 정확도와 자연스러운 대화, 정교한 이미지 처리 등 AI 품질 자체가 향상되는 것.

함 마스터는 “온디바이스 AI에서 가장 큰 병목은 메모리 대역폭과 저장장치 접근 속도”라며 “메모리와 연산 간의 균형을 지능적으로 조정하는 최적화 기술을 개발하고 있다”고 말했다. 예를 들어, 모든 데이터를 메모리에 올려두지 않고 필요한 시점에만 불러올 수 있도록 설계해 효율을 높이는 방식이다. 함 마스터는 “삼성리서치는 모델 크기가 16GB 이상인 300억 파라미터 규모의 생성형 모델도 3GB 이하의 메모리로 구동할 수 있는 수준의 기술력을 갖췄다”고 덧붙였다.

“더 가볍고 똑똑한 AI 모델 설계” 새로운 아키텍처 연구

AI의 설계도 역할을 하는 아키텍처(Architecture) 연구도 활발하게 진행되고 있다.

함명주 마스터는 ““온디바이스 환경에서는 연산 자원과 메모리가 제한적이기 때문에, 모델이 기기에서 원활하게 동작할 수 있도록 구조 자체를 재설계해야 한다”며 “삼성리서치의 아키텍처 연구는 하드웨어 효율을 극대화하는 모델 설계에 집중하고 있다”고 설명했다. 다시 말해, 설계 단계부터 모델과 기기의 하드웨어 자원이 서로 조화롭게 작동할 수 있도록 디바이스 친화적인 모델 구조를 만드는 것.

거대언어모델의 학습에는 막대한 시간과 비용이 투입되는데, 초기에 모델 구조를 잘못 설계하면 이 비용이 크게 늘어날 수 있다. 삼성리서치는 학습 과정에서의 자원 낭비를 최소화하기 위해 학습 이전 단계에서 하드웨어 효율을 미리 예측하고, 구조적으로 최적화된 아키텍처를 설계하고 있다. 함명주 마스터는 “온디바이스 AI 시대에서 핵심 경쟁력은 같은 자원으로 얼마나 높은 효율을 끌어낼 수 있느냐에 있다”며 “작은 칩 안에서 최대의 지능을 구현하는 것이 우리가 지향해야 할 기술적 방향성”이라고 생각을 전했다.

현재 대부분의 거대언어모델은 ‘트랜스포머(Transformer)’ 아키텍처를 기반으로 한다. 트랜스포머 아키텍처는 문장 전체를 한 번에 확인하며 단어 간 관계를 계산하는 방식으로, 문맥 이해에는 뛰어나지만 문장이 길어질수록 계산량이 기하급수적으로 증가한다는 한계가 있다. 함명주 마스터는 “트랜스포머 아키텍처의 한계를 극복하기 위해 다양한 기술적 접근 방식을 검토하는 동시에, 실제 기기 환경에서 얼마나 효율적으로 작동할 수 있는지를 중심으로 평가하고 있다”며 “단순히 기존 방법을 개선하는 수준을 넘어 새로운 방법론을 도입한 ‘다음 단계의 아키텍처’를 만드는 데 집중하고 있다”고 힘주어 말했다.

“언제 어디서나 빠르고 안전하게” 온디바이스 AI의 진화

온디바이스 AI의 현재와 미래에서 가장 중요한 과제가 무엇일까? 함명주 마스터는 “핵심은 클라우드 수준의 성능을 기기 안에서 구현하는 것”이라고 답했다. 클라우드에 연결하지 않아도 빠르고 정확하게 AI가 작동하려면, 모델 최적화와 하드웨어 효율화가 긴밀하게 맞물려야 한다는 것이다. 그는 “속도, 정확도, 전력 효율을 동시에 개선하는 것이 더욱 중요해질 것”이라고 덧붙였다.

온디바이스 AI 기술의 발전으로 사용자는 언제 어디서나 빠르고 안전하며 개인화된 AI 기능을 누릴 수 있게 됐다. 함명주 마스터는 “AI가 기기 안에서 실시간으로 학습하고 사용자 환경에 적응하는 능력이 강화될 것”이라며 “데이터 프라이버시를 지키면서도 자연스럽고 개인화된 서비스를 제공하는 것이 앞으로의 방향”이라고 말했다.

삼성전자는 온디바이스 AI의 최적화를 통한 한층 진화된 기술 경험을 제공하기 위해 끊임없는 혁신을 이어가고 있다. 이를 통해 더욱 놀라운 사용자 경험을 선사해 나갈 것이다.

삼성전자는 최근 업계 최초의 AI 통합 운영체제인 One UI 7 베타 프로그램을 출시해 맞춤형 경험을 통한 새로운 AI 시대의 시작을 알렸다.

더욱 개인화된 AI 경험을 제공하기 위해 삼성전자는 업계 최초 AI 폰을 선보인 이후부터 온디바이스 AI 개발을 거듭하기까지 모든 혁신의 과정에서 보안을 최우선 가치로 삼고 있다. 2025년 1분기에 출시 예정인 갤럭시 S 시리즈 또한, 견고한 보안을 바탕으로 개인 상황에 따라 맞춤형 정보를 제공해 더욱 고도화된 모습을 선보일 예정이다.

이를 위해 삼성전자는 퍼스널 데이터 엔진(Personal Data Engine)을 개발했다. 즉 온디바이스 기기 내 사용자의 취향, 사용 패턴 등을 분석하는 기능을 적용하여, 사용자에게 더욱 개인화된 경험과 인사이트를 제공할 수 있는 것이다.

이를 통해 개인 정보를 단말 내 암호화하고, 앱과 앱 사이 데이터가 오고 가는 과정을 보호한다. 특히 생체 인식과 같은 개인의 중요 데이터를 녹스 볼트(Knox Vault) 플랫폼을 통해 암호화를 거쳐, 저장 공간에 안전하게 보관할 수 있도록 지원한다.

이 밖에도 ‘포스트 양자 암호(PQC, Post-Quantum Cryptography)’ 기반의 종단간 암호화 (E2EE) 기능이 삼성 클라우드에 적용되어, 양자 컴퓨터 시대에도 안전한 개인 정보 보호를 보장한다.

갤럭시 AI가 이러한 견고한 보안을 바탕으로 더욱 새로워졌다. 이중 One UI 7 베타 프로그램과 함께 소개된 ‘나우 바(Now Bar)’ 기능은 사용자의 일상이 더욱 편리하도록 돕는다. 사용자가 여러 앱을  이동하지 않고도 잠금 화면에서 바로 필요한 기능을 실행할 수 있다. 음악과 영상을 재생하고, 통역 기능을 사용하거나 스톱워치 실행, 지도 알림 등을 바로 확인할 수 있는 것.

나우 바(Now Bar)는 2025년 1분기에 출시될 갤럭시 S 시리즈에 탑재될 예정으로 더욱 고도화된 AI 개인화 경험의 시발점이 될 것으로 보인다.

예를 들어, 사용자가 해외여행을 간다고 가정해 보자. 사전 준비부터 비행기 탑승까지 수많은 정보를 찾고 점검해야 한다. 비행기 탑승 시간에 늦지 않기 위해 언제 집을 나서야 할지, 교통 상황에는 문제가 없는지 등 사소해 보이는 상황도 여행에 큰 영향을 미친다. 또한, 공항까지 운전하며 평소 즐겨 듣는 음악을 재생할 수도 있고, 여행지 날씨를 검색해 볼 수도 있으며 현지에서 유용한 여행 앱을 찾아보기도 할 것이다.

이 모든 일련의 과정을 나우 바(Now Bar)를 통해 쉽게 확인할 수 있고 추천도 받을 수 있다. 스마트폰이 단순히 알림만 보내는 것이 아닌, 사용자의 일상을 세밀히 챙기고 더욱 생산적으로 만들어 주는 역할을 하는 것이다.

사용자의 더욱 편안하고 편리한 일상을 돕는 삼성전자의 모바일 혁신, 이 과정을 이끄는 갤럭시 AI의 여정을 더욱 눈여겨보자.

다양한 AI 기기의 혁신을 이끄는 핵심에는 ‘온디바이스 AI(On-Device AI)’가 있다. 이는 서버나 클라우드 없이 기기 내에서 자체적으로 AI를 구동하는 기술이다. 네트워크 연결이 필요 없어 사용자가 언제나 빠른 반응 속도로 AI 기능을 사용할 수 있으며, 개인정보 유출 걱정이 없다는 것이 강점이다.

온디바이스 AI는 이제 단순 기능을 넘어 기기 안의 자원만으로 생성형 AI 같은 방대한 데이터를 처리하는 수준으로 진화했다. 삼성전자가 선도하는 온디바이스 AI 혁신을 살펴보자.

클라우드 없이도 척척, 내 손 안의 생성형 AI

복잡한 생성형 AI를 온디바이스 환경에서 구동하는 기술이 업계의 주요 과제로 떠오른 가운데, 삼성전자는 실생활에서 온디바이스 AI 경험을 제공하고 있다.

대표적으로, 삼성전자는 최신 스마트폰과 태블릿 등에서 온디바이스 기능을 포함한 갤럭시 AI를 제공한다.^[1] 갤럭시 AI는 현재까지 총 20개 언어로 확대돼^[2]  대화 통역, 메시지 앱이나 웹페이지 번역 등 언어 장벽 없는 소통을 지원한다.

온디바이스 AI는 기기에 탑재되는 모델의 크기는 줄이면서도 성능을 충족시키는 것이 관건이다. 이를 위해 삼성전자는 특정 과제를 위한 AI 학습 데이터를 이용하고, 기기에서 얼마나 효율적으로 구현할 수 있는지에 집중했다.

TV의 경우 글로벌 시장 1위 업체로서의 노하우를 기반으로 AI 모델을 학습시키고, 2020년부터 NPU(신경망처리장치)를 내장한 TV 전용 프로세서를 더욱 발전시켜 왔다. 2024년형 Neo QLED 8K의 NQ8 AI 3세대 프로세서는 512개 뉴럴 네트워크로 각 영역을 학습, 분석해 화질과 음질을 정밀하게 개선한다. 화면에서 픽셀과 프레임을 보정, 생성함으로써 업스케일링과 부드러운 모션을 구현하고, 사운드에서 각 음원을 분리하고 조절해 어떤 상황에서든 대사가 정확히 들리도록 전달력을 높이는 것.

▲삼성전자 VD사업부 김선민 마스터, 함철희 마스터가 설명하는 온디바이스 AI 기술

▲ AI 모델 경량화를 위한 프루닝 기법과 지식 증류 기법

자체 개발부터 제조, 협업까지… 축적된 노하우로 온디바이스 AI 혁신

온디바이스 AI는 선행 연구부터 제품 구현까지 폭넓은 기술력이 필요한 분야다. 삼성전자는 소프트웨어와 하드웨어, 부품과 완제품을 모두 아우르는 제조사로서 종합적으로 축적된 노하우를 온디바이스 AI 개발에 발휘하고 있다. 자사 기기에 AI를 구현하기 때문에 자체 개발과 개방적 협력을 병행하며 하드웨어에 최적화된 모델을 만들 수 있다. 부품인 반도체 분야에서도 NPU 성능을 지속 향상시켜 왔고, 업계 파트너들과 함께 온디바이스 AI 활용 시나리오를 지속 개발할 계획이다.

삼성전자는 하드웨어와 응용 소프트웨어의 다리 역할을 하는 시스템 소프트웨어에도 주력하고 있다. 삼성전자는 타이젠 OS(운영체제) 기반으로 삼성 TV의 자체 NPU로 구동되는 온디바이스 AI를 제공해 TV를 더욱 스마트하게 만들고, 타이젠 개발자들에게 비전 AI와 언어 AI SDK(개발도구), AI 모델의 추론, 훈련 및 서비스를 위한 머신러닝 API(애플리케이션 프로그래밍 인터페이스) 등을 제공한다.

또한 삼성전자는 국내 연구 조직과 함께 글로벌 연구 네트워크를 통해 온디바이스 AI 기술 혁신을 가속화하고 있다. 선행연구를 담당하는 삼성리서치는 영국, 미국 연구소에서 AI 모델 구조 개발과 경량화 연구를, 인도와 폴란드 연구소에서는 AI 구동 가속화 솔루션 개발을 진행하는 등 연구소별 전문성을 살려 경쟁력을 더욱 높이는 데 집중하고 있다.

▲ 10월 미국에서 열린 ‘삼성 개발자 콘퍼런스 2024’에서 삼성전자가 타이젠 OS와 AI 기능에 대해 소개하는 모습

앞으로도 삼성전자의 온디바이스 AI는 더 많은 제품과 서비스로 확대되며, 다양한 AI 기술과 결합해 새로운 일상의 변화를 이끌어갈 전망이다. 이어지는 2편에서는 ‘개인화 AI’를 위한 삼성전자의 기술과 연구 활동을 살펴본다.

옥스퍼드 시멘틱 테크놀로지스는 2017년 옥스퍼드 대학교 교수 3인이 공동 창업한 스타트업으로 데이터를 사람의 지식 기억 및 회상 방식과 유사하게 저장, 처리하는 세계 최고 수준의 ‘지식 그래프’ 원천 기술을 보유하고 있다.

^{* 창립멤버 겸 공동창업자(Co-founder) 3명: Ian Horrocks, Boris Motik, Bernardo Cuenca Grau}

▲ 삼성전자가 인수한 영국 지식그래프 기술 스타트업 ‘옥스퍼드 시멘틱 테크놀로지스’ 이미지

‘지식 그래프’는 관련 있는 정보들을 서로 연결된 그래프 형태로 표현해 주는 기술이다. 데이터를 통합하고 연결하여 사용자에 대한 이해를 높이고, 빠른 정보 검색과 추론을 지원하여 보다 정교하고 개인화된 AI를 구현하는 핵심 기술 중 하나로 꼽힌다.

또한, 실생활에 사용되는 기기에서 끊임없이 변화하는 방대한 데이터를 지식 그래프로 변환하고 활용하는 과정에서 복잡한 연산이 수반되기 때문에 난이도가 높은 기술이기도 하다.

하지만, 옥스퍼드 시멘틱 테크놀로지스는 데이터 처리 최적화 및 고도의 추론이 가능한 지식 그래프 기술을 개발해 이를 성공적으로 상용화했다.
현재 유럽 및 북미 지역의 금융, 제조, 전자상거래 등 다양한 분야 회사들과 협력 중이다.

옥스퍼드 시멘틱 테크놀로지스 CEO 피터 크로커(Peter Crocker)는 “삼성전자와 함께하게 되어 기쁘다”며 “삼성전자의 사용자 경험과 데이터, 당사의 지식 그래프 기술과 역량을 결합하여 앞으로 더욱 진보된 개인화 경험을 제공할 수 있을 것”이라고 말했다.

삼성전자는 2018년부터 옥스퍼드 시멘틱 테크놀로지스와 여러 프로젝트를 협업하며 다각도로 기술력을 검증했다. 이번 인수를 통해 더욱 진화된 ‘개인화 지식 그래프(Personal Knowledge Graph)’ 핵심 기술을 확보해 나갈 계획이다.

‘개인화 지식 그래프’ 기술은 서비스와 앱별로 분산되어 있던 정보와 맥락을 연결하여 마치 나만을 위한 기기를 사용하는 듯한 경험을 제공할 것으로 기대된다. 사용하면 할수록 나를 더욱 잘 이해하는 기기로 변화하는 것을 목표로 하고 있다.

이 기술은 삼성전자가 갤럭시 S24부터 강조한 온디바이스(On-Device) AI와 결합해 민감한 개인 정보가 기기 외부로 유출되지 않도록 보호하면서도 초개인화된 경험을 제공할 수 있다. 향후 모바일뿐만 아니라 TV, 가전 등 다양한 제품에 적용될 것으로 기대된다.

삼성전자 DX부문 최고기술책임자(CTO)겸 삼성리서치장 전경훈 사장은 “이번 인수는 삼성전자가 데이터 지식화 분야에서 세계적인 기술력을 한층 더 높이는 모멘텀이 될 것”이라며, “삼성전자는 전 제품에 걸쳐 사용자에게 차별화된 개인화 AI 경험을 제공하고 다양한 AI 기술 혁신을 지속 선보일 예정”이라고 밝혔다.

우리는 역사상 가장 의미 있고 중요한 기술 변혁기의 시작점에 서 있습니다. 삼성전자는 올해 초 소개한 AI폰 갤럭시 S24 시리즈를 시작으로, 전 세계 수많은 사용자들에게 처음으로 갤럭시 AI를 선보이며 모바일 AI 시대의 개막을 알렸습니다.

하이브리드 AI로 모바일 경험 혁신 주도

사용자들이 실생활에서 유용하게 활용할 수 있는 갤럭시 AI 기능을 구현하기 위해, 갤럭시 S24 시리즈에 하이브리드 AI 방식을 도입했습니다. 전 세계 사용자가 일상의 많은 부분을 스마트폰과 함께하고 있기에 스마트폰이 AI의 주요 접점이 되어 AI의 수많은 가능성을 제공할 수 있을 것이라고 생각했습니다.

스마트폰은 일상의 모든 순간을 기록하고, 여러 정보를 담고 있는 매체로써 매우 개인적인 기기입니다. 따라서, 스마트폰 기능은 사용자가 매 순간을 더욱 간편하고, 직관적이며, 인상적으로 즐기실 수 있도록 만들어져야 합니다. 또한, 사용자에게 개인 정보에 대한 완전한 통제권과 강력한 개인 정보 보호 기능을 보장해야 합니다.  

삼성이 채택한 하이브리드 AI는 온디바이스 AI의 속도와 안전성, 클라우드 기반 AI의 더 넓은 사용성을 균형적으로 제공하는, 가장 현실적이면서도 신뢰할 수 있는 솔루션입니다. 온디바이스 AI는 실제 빠른 반응과 강력한 개인정보 보호를 보장합니다. 여러 업계 최고 리더들과의 파트너십으로 구현한 클라우드 AI는 일상생활에 필요한 다양한 기능들을 제공함으로써 갤럭시 AI의 사용성을 더욱 높였습니다.

온디바이스 AI의 더 큰 가능성

특히, 음성 통화는 스마트폰의 가장 기본적인 기능인 동시에 매우 사적인 소통 수단이기 때문에, 삼성은 실시간 통역 기능을 처음부터 온디바이스 AI 기반으로 개발했습니다. 언어의 장벽 없이 의사 소통을 할 수 있는 실시간 통역을 도입해 어느 때보다 쉽고 직관적으로 의사 소통이 가능하도록 했으며, 온디바이스 AI로 구현되었기 때문에 프라이버시 침해의 우려 없이 안심하고 사용할 수 있습니다.

이 기능 개발을 위해, 사업부 전체의 연구개발(R&D) 조직이 힘을 합쳤습니다. AI 언어 모델의 최적 크기를 결정하는 것부터, 훈련, 그리고 실제 상황 테스트까지, 과거에 생각지도 못했던 가능성을 만들기 위해 끊임 없이 도전한 끝에, 마침내 온디바이스 AI로 구현할 수 있었습니다.

전세계 각 지역의 최고 인재들을 모아 최첨단 기술을 개발하고 있는 삼성전자 연구소도 언어 확산에 크게 기여했습니다. 폴란드, 중국, 인도, 베트남 등을 비롯한 전 세계의 삼성전자 연구소에서는 보다 많은 사람들이 언어의 장벽을 허물고 편리하게 소통할 수 있도록 갤럭시 AI 지원 언어를 개발하고 확장하는 데 헌신했습니다. 언어는 그 시대의 문화와 그 지역의 생활상을 반영하기 때문에, 다양한 언어권의 사용자들이 언어의 장벽 없는 커뮤니케이션을 통해 새로운 가능성을 열어가는 데에 각 지역 연구소의 역할이 매우 컸습니다.

하지만 이는 시작일 뿐입니다. 이러한 노력들이 축적되어, 삼성은 다시 한번 여러분의 일상에 변화를 줄 한층 진화된 AI 경험을 소개하고자 합니다. 곧 갤럭시 AI 실시간 통역 기능을 삼성 전화 앱 뿐만 아니라 음성 통화 기능을 지원하는 다양한 써드파티 메시지 앱으로 확대 적용할 계획입니다. 이를 통해 친구나 동료와 언어의 장벽 없이, 선호하는 메시지 앱에서도 여러 언어로 편리하게 소통할 수 있습니다. 온디바이스로 구현되어 개인정보 유출에 대한 걱정 없이 장벽 없는 커뮤니케이션을 제공할 수 있도록 할 것입니다.

앞으로 칩셋, 특히 NPU(Neural Processing Unit)의 인공지능 컴퓨팅 성능이 빠르게 발전하고 연관 기술 또한 빠르게 향상되고 있어, 더 많은 모바일 AI 기능이 온디바이스로 구현될 수 있을 것이라 생각합니다. 더 많은 사람들이 자신의 일상 생활 속에서 AI를 더욱 편리하게, 안심하고 사용할 수 있게 될 것입니다.

미래를 향한 갤럭시 AI의 여정

이제 우리는 갤럭시 AI로 한 걸음 더 나아가 다음 단계의 모바일 AI 시대에 진입하려고 합니다.

갤럭시 S24 시리즈에 도입한 갤럭시 AI는 시작에 불과합니다. 완전히 새로운 AI 경험을 제공하기 위해, 곧 공개될 새로운 폴더블 제품에는 폴더블에 최적화된 갤럭시 AI를 선보일 예정입니다. 우리의 폴더블 형태는 삼성 갤럭시 제품 중 가장 다재다능하고 유연한 폼팩터이며, 갤럭시 AI와 함께 결합되어 더욱 새롭고 혁신적인 가능성을 열 수 있을 것입니다.

여기에서 한 발 더 나아가, 우리는 삼성이 가장 잘 할 수 있는 방식으로 보다 강력한 AI 기능을 광범위한 갤럭시 생태계에 적용하여 모바일 AI 시장 확대를 주도해 나가겠습니다. 모바일 AI 시대가 빠른 속도로 발전하는 가운데 삼성전자는 현재뿐만 아니라 미래를 위한 혁신을 향해 가속페달을 밟겠습니다.

글로벌 반도체 학회 ‘MemCon 2024’는 AI 시대에 걸맞은 미래 메모리 솔루션에 대해 깊이 있게 다루는 장으로 다양한 글로벌 IT 기업들이 참여했다.

삼성전자는 이번 ‘MemCon 2024’에서 미래 컴퓨팅 패러다임의 초석, HBM과 CXL 솔루션에 대해 발표하고 업계 리더로서의 비전을 공유했다. HBM은 AI에 필요한 필수적인 속도와 극한의 대역폭을 제공하며, CXL은 여러 개의 인터페이스를 하나로 통합해 용량과 대역폭을 확장시킨다.

메모리 기술 혁신 없이는 인공지능 발전이 계속될 수 없다

삼성전자는 1992년부터 30년 이상 메모리 제품 기술 분야에서의 리더십을 바탕으로 선제적인 투자를 했으며, 이를 바탕으로 적시에 최고 품질의 제품을 공급해왔다.

최근 몇 년 메모리 시장 침체에도 불구하고 삼성전자는 기술 개발과 시설 투자에 자원을 아끼지 않았으며, 작년 D램 41%, 낸드플래시 32%의 시장 점유율을 기록하는 등 메모리 시장에서 굳건한 리더십을 이어가고 있다.

AI 기술 성장에는 메모리 반도체의 발전이 필수적이다. 시스템 고성능화를 위한 고대역폭, 저전력 메모리는 물론 새로운 인터페이스와 적층 기술도 요구되고 있다.

삼성전자는 D램 기술 초격차 유지를 위해 10nm 이하 D램에 수직 채널 트랜지스터(VCT, Vertical Channel Transistor)를 활용하는 새로운 구조에 대한 선제적인 연구 개발을 진행하고 있으며, 2030년 3D D램 상용화에 나설 계획이다.

삼성전자, AI 시대의 메모리 솔루션 준비 현황

2024년 하반기는 HBM 공급 개선으로 AI 서버 확산이 가속화될 뿐만 아니라, Conventional 서버와 스토리지 수요도 증가하는 선순환이 뚜렷하게 나타날 것으로 예상된다.

삼성전자는 2016년 업계 최초로 고성능 컴퓨팅(HPC)용 HBM 사업화를 시작하며, AI용 메모리 시장을 본격적으로 개척했고, 2016년부터 2024년까지 예상되는 총 HBM 매출은 100억 불이 넘을 것으로 전망된다.

삼성전자는 HBM3E 8단 제품에 대해 지난달부터 양산에 들어갔으며, 업계 내 고용량 제품에 대한 고객 니즈 증가세에 발맞추어 업계 최초로 개발한 12단 제품도 2분기 내 양산할 예정으로 Ramp-up 또한 가속화할 계획이다.

앞으로 삼성전자는 성장하는 생성형 AI용 수요 대응을 위해 HBM 캐파 확대와 함께 공급을 지속 늘려나갈 것이다.

한편 온디바이스 AI(On-Device AI) 관련 제품 또한 확대 중이다. PC·노트북 D램 시장의 판도를 바꿀 LPCAMM2를 2023년 9월 업계 최초로 개발했고, 기존 LPDDR 대비 고대역폭을 가지고 있어 기기에서 생성되는 데이터를 실시간으로 처리할 수 있는 LLW(Low Latency Wide I/O)를 개발 중에 있다.

또한 기존 D램과 공존하며 시스템 내 대역폭과 용량을 확장할 수 있는 CMM-D는 거대 데이터 처리가 요구되는 차세대 컴퓨팅 시장에서 주목받을 것으로 예상되며, 삼성전자는 CXL 메모리 생태계 구축을 위해 제품 개발 및 사업 협력을 선도하고 있다.

이 밖에도 미래 AI 시대를 대비하기 위해 컴퓨테이셔널 메모리(Computational Memory), 첨단 패키지(Advanced Package) 기술 등을 통해 새로운 솔루션 발굴을 추진하고 있다.

고객 맞춤형으로 진화하는 차세대 HBM

최근 HBM에는 맞춤형(Custom) HBM이라는 표현이 붙기 시작했다. 이는 AI 반도체 시장에서 메모리 반도체가 더 이상 범용 제품이 아니라는 것을 의미한다고 볼 수 있다.

삼성전자는 고객별로 최적화된 ‘맞춤형 HBM’ 제품으로 주요 고객사들의 수요를 충족시킬 계획이다. HBM 제품은 D램 셀을 사용하여 만든 코어 다이와 SoC와의 인터페이스를 위한 버퍼 다이로 구성되는데, 고객들은 버퍼 다이 영역에 대해 맞춤형 IP 설계를 요청할 수 있다.

이는 HBM 개발 및 공급을 위한 비즈니스 계획에서부터 D램 셀 개발, 로직 설계, 패키징 및 품질 검증에 이르기까지 모든 분야에서 차별화 및 최적화가 주요 경쟁 요인이 될 것임을 의미한다.

차세대 HBM 초격차를 위해 종합 반도체 역량 활용

변화무쌍한 AI 시대에서 고객들이 원하는 시스템 디자인을 완벽히 이해하고, 미래 기술 환경까지 고려해 시스템의 발전을 예측하고 주도하기 위해서는 종합 반도체 역량을 십분 활용해야 한다.

삼성전자는 차세대 HBM 초격차 달성을 위해 메모리뿐만 아니라 파운드리, 시스템LSI, AVP의 차별화된 사업부 역량과 리소스를 총 집결해 경계를 뛰어넘는 차세대 혁신을 주도해 나갈 계획이다.

이를 위해 삼성전자는 올 초부터 각 사업부의 우수 엔지니어들을 한데 모아 차세대 HBM 전담팀을 구성해 맞춤형 HBM 최적화를 위한 연구 및 개발에 박차를 가하고 있다.

삼성전자는 업계에서 단시간에 따라올 수 없는 종합 반도체 역량을 바탕으로 AI 시대에 걸맞은 최적의 솔루션을 지속적으로 선보일 예정이다.

통화 중 실시간 통번역뿐 아니라 다양한 애플리케이션에서 사용할 수 있는 갤럭시 AI 번역 기능은 삼성리서치^[1]가 오랜 기간 번역 데이터를 축적하고 AI 기술 노하우를 집약, MX사업부 개발실과 함께 고도화하여 탄생시킨 혁신 기술이다.

▲ 온디바이스 AI 번역 기능을 개발한 삼성리서치 글로벌 AI센터 (왼쪽부터) 최윤정, 유용현 프로

온디바이스 AI 기능으로 “개인정보 노출 걱정 없이 마음껏 소통해요”

갤럭시 AI의 실시간 통번역은 ‘온디바이스 AI’ 기능이라는 점이 가장 큰 특징이다. 온디바이스 AI는 외부 서버나 클라우드의 자원을 이용하는 방식이 아니라, 기기 자체의 자원만 이용해 서비스를 제공한다. 번역을 위해서 사용자가 입력한 데이터가 외부 서버로 전송되지 않기 때문에 개인정보 노출을 걱정할 필요가 없다.

삼성리서치 글로벌 AI센터는 자체 개발한 AI 번역 모델에 독자적인 기술을 더해서 온디바이스 AI 모델을 상용화하는 데 기여했다.

삼성리서치 연구팀과 MX사업부 개발팀은 많은 애플리케이션 사용 시나리오를 구상한 후, 이를 기반으로 필요한 데이터를 확보했다고 한다. 프로젝트 리더인 최윤정 프로는 “통화 중 실시간 통역 기능을 위해 구어체 데이터 수집에 힘썼고, 여행 중 유용하게 활용될 통역 앱 개발을 위해 여행 관련 데이터도 모았다”고 설명했다. 이어 “정확한 번역 기능을 제공하기 위해 채팅에 자주 쓰이는 신조어, 웹 브라우저에서 사용되는 html 태그 등 다양한 사례를 연구했다”고 덧붙였다.

▲ 온디바이스 AI 번역 기능 활용 사례. ① 통화 중 실시간 통역, ② 문자·채팅 대화 번역, ③ 노트 앱 번역, ④ 웹 브라우저 번역

삼성리서치의 노력으로 발전한 AI 번역 모델… “아이 키우듯 성장시켰죠”

삼성리서치 연구팀의 AI 번역 모델은 데이터로부터 스스로 학습하는 딥러닝(deep learning) 기술을 기반으로 한다. AI 연구 및 개발 담당 유용현 프로는 딥러닝 과정을 ‘아이 키우기’와 비슷하다고 설명했다. 유 프로는 “아이를 바르게 키우기 위해 좋은 교육 자료와 양육자가 필요하듯, 고성능의 AI 번역 모델을 만들기 위해서도 양질의 언어 데이터와 AI를 올바르게 학습시키는 연구원의 역량이 중요하다”고 강조했다.

삼성리서치는 양질의 데이터와 AI 학습을 위한 전문가를 모두 보유하고 있다. 2013년부터 사내 번역 서비스를 제공하면서 AI 번역에 대한 연구 개발을 지속적으로 진행해 왔고, 양질의 데이터도 꾸준히 축적해 왔다.

AI 학습은 딥러닝 분야 전문가로 구성된 삼성리서치 연구원들이 중요한 역할을 했다. 유 프로는 “연구 개발 과정에서 AI 번역 결과의 품질이 좋지 않으면, 문제를 파악하고 개선해야 한다. 연구원의 역량과 경험이 부족하면 문제의 원인을 찾는 데 오랜 시간이 걸리고, 해결 방안을 찾지 못할 수도 있다. 우리 연구원들은 전문성과 노하우를 활용하여 문제의 원인을 분석하고, 개선하는 과정을 빠르게 수행할 수 있다”라고 자부심을 내비쳤다.

▲ 삼성리서치 글로벌 AI센터 유용현 프로

AI 번역 모델의 번역 성능은 어떻게 검증할까. 삼성리서치 연구팀은 AI 번역 모델의 성능 검증을 위해서 테스트 세트 기반의 정량 평가와 번역사를 통한 정성 평가를, MX사업부 개발실에서는 다양한 테스트 세트를 구성하여 정성 평가를 진행하고 있다.

또한 세계적 권위의 기계번역 대회에 출전하며 외부 검증도 받고 있다. 유 프로는 “대회 출전에는 많은 시간과 준비가 필요하지만, 대회에서 우수한 성적을 거두는 것도 연구 개발의 원동력이 될 수 있다 ”며 “팀원 모두가 자유로운 분위기로 토론하고 다양한 아이디어를 시도하면서 좋은 성적을 거둘 수 있었다”고 말했다.

존댓말, 성조, 문장 기호 등… “언어마다 다른 특징도 세심하게 이해했죠”

언어마다 존댓말, 성조, 문장 기호 등 그 문화에만 통용되는 다양한 특징들이 있다. AI 실시간 통번역 기능은 언어적 특징을 최대한 고려해 번역의 완성도를 높였다. 예를 들어, 한국어와 일본어처럼 존댓말이 있는 언어는 통역 시 존댓말로 번역하도록 학습시킨 것이다.

해당 언어와 문화를 잘 이해하고 있는 해외 현지 연구소와의 협업도 동시에 진행했다. 최윤정 프로는 “해외 연구소의 연구원, 언어전문가와 긴밀하게 협력하면서, 번역의 완성도를 높일 수 있었다”고 말했다.

각국의 다양한 언어를 다루기 때문에 종종 시행착오도 따랐다. 최 프로는 “베트남어는 성조가 있는데, 사용자들이 채팅에서 일상 대화를 할 땐 성조를 생략하는 경우가 많다는 것을 알게 되어 성조가 없는 문장도 번역되게끔 데이터를 추가 구축했다”고 일화를 소개했다. 또한 문장 부호가 없는 태국어를 위한 별도의 문장 분리기를 개발하는 등 삼성리서치 연구팀은 AI 번역 모델의 성능을 향상하고자 세심한 노력을 기울였다.

온디바이스 AI 적용 비결? “가볍게 만드는 ‘경량화’ 기술 덕분이죠”

삼성리서치는 2019년부터 ‘온디바이스 AI 모델’ 개발을 시작했다. 유용현 프로는 “온디바이스 AI 모델은 서버 기반 AI 모델과 다르게 사용자의 기기만 이용하여 구동되기 때문에 적은 양의 연산 및 메모리 자원으로도 실행할 수 있도록 모델의 사이즈를 줄이는 경량화 기술이 가장 중요하다”고 강조했다. AI 모델 경량화를 위해서 ‘지식 증류(Knowledge Distillation) 방식’과 ‘양자화(Quantization)’ 기술을 활용했다.

지식 증류는 성능이 좋지만 모델 사이즈가 큰 Teacher 모델로부터 핵심 지식을 뽑아내어 작은 Student 모델로 전달하는 방식이다. 선생님이 일목요연하게 정리한 내용으로 학생이 공부하면 쉽게 이해할 수 있을 뿐만 아니라 효율적으로 공부할 수 있는 것과 비슷하다.

양자화 기술은 AI 알고리즘을 단순화하여 모델 크기를 줄이고 연산 과정을 효율화하여 응답 속도를 높이는 기술이다. 유 프로는 양자화 기술을 ‘딸기 그리기’에 비유했다. “딸기를 실제와 동일하게 그리기 위해서는 사실상 무수히 많은 색상 정보가 필요하지만 빨간색, 녹색처럼 간단한 색상으로도 표현할 수 있다”며 “양자화는 딸기를 그릴 때 필요한 색의 수를 최소화하면서 실제와 가깝게 그리도록 노력하는 과정”이라고 쉽게 설명했다.

▲ 삼성리서치 글로벌 AI센터 최윤정 프로

지식 증류 방식과 양자화 개념은 AI 모델 경량화에서 잘 알려진 방식이지만, 연구원마다 세부적인 실험 방식이나 요소들이 모두 다르기 때문에 상용화 수준으로 구현하는 것은 결코 쉽지 않다. 삼성리서치 연구팀은 효율적인 양자화 방식을 찾고 속도 개선 알고리즘을 개발하며 이를 독자적인 기술로 발전시켰다. 최 프로는 “우리도 다양한 실험과 연구를 통해서 가장 적절한 경량화 방법을 찾아냈다”고 말했다.

고품질 AI 번역 모델을 압축한 경량화 모델에 응답 속도를 빠르게 만드는 알고리즘까지 적용해 가볍고 빠른 온디바이스 AI 번역 기능이 마침내 탄생한 것이다.

“언어를 넘어 문화를 이해하는 완벽한 번역기를 만드는 것이 목표”

온디바이스 AI 분야를 선도하고 있는 삼성리서치 글로벌 AI센터 연구원들의 목표는 무엇일까. 최윤정 프로는 “외국인과 소통할 때 어떠한 거슬림도 없이 매끄럽고 편리하게 대화하도록 돕는 것이 최종 목표”라고 말했다. 유 프로는 완벽한 번역기를 향한 꿈과 열정을 밝혔다. 그는 “언어를 넘어 문화를 이해하고 지식을 갖춘 완벽한 번역기가 언젠가 개발될 것”이라며 “세상에 아직 등장하지 않은 고도화된 번역기를 만드는 데 도전하고 싶다”는 당찬 포부를 드러냈다.

▲ 온디바이스 AI 번역 기능을 개발한 삼성리서치 글로벌 AI센터

모바일 기기 하나만 있으면 인터넷이 없는 곳에서도 누구든지 정보 유출 걱정 없이 자유롭게 소통할 수 있는 온디바이스 AI 번역 기능. 급변하는 AI 기술 분야에서 언제나 새로운 혁신으로 사용자들에게 편의를 안겨주고 있는 삼성리서치 연구팀의 값진 도전에 응원을 보내며 앞으로의 여정도 기대해 본다.

^{* Gbps(Gigabit per second): 1초당 전송되는 기가비트 단위의 데이터* LPDDR5X: Low Power Double Data Rate 5X}

AI 시장이 본격적으로 활성화 되면서 기기 자체에서 AI를 구동하는 ‘온디바이스 AI(On-device AI)’ 시장이 빠르게 확대되고 있어 저전력∙고성능 LPDDR의 역할이 그 어느 때보다 커지고 있다.

이번 제품은 12나노급 LPDDR D램 중 가장 작은 칩으로 구현한 저전력∙고성능 메모리 솔루션으로 온디바이스 AI 시대에 최적화됐다. 향후 모바일 분야를 넘어 ▲AI PC ▲AI 가속기 ▲서버 ▲전장 등 다양한 응용처에 확대 적용될 것으로 기대된다.

▲ 업계 최고 속도 LPDDR5X 제품 이미지

전 세대 제품 대비해서는 ▲성능 25% ▲용량 30% 이상 각각 향상됐고, 모바일 D램 단일 패키지로 최대 32기가바이트(GB)를 지원한다.

삼성전자는 이번 제품에 저전력 특성을 강화하기 위해 성능과 속도에 따라 전력을 조절하는 ‘전력 가변 최적화 기술’과 ‘저전력 동작 구간 확대 기술’등을 적용해 전 세대 제품보다 소비전력을 약 25% 개선했다.

^{* 전력 가변 최적화 기술: 전력 절감 기술 중 하나, 프로세서에 공급되는 전압과 주파수를 동적으로 변경하여 성능과 전력소모를 함께 조절하는 기술* 저전력 동작 구간 확대 기술: 저전력으로 동작하는 저주파수 구간을 확대하여 전력소모를 개선하는 기술}

이를 통해 모바일 기기에서는 더 긴 배터리 사용 시간을 제공하고 서버에서는 데이터를 처리하는 데 소요되는 에너지를 감소시킬 수 있어 총 소유 비용(TCO, Total Cost of Ownership) 절감이 가능하다.

삼성전자 메모리사업부 상품기획실장 배용철 부사장은 “저전력, 고성능 반도체의 수요가 증가함에 따라 LPDDR D램의 응용처가 기존 모바일에서 서버 등으로 늘어날 것”이라며 “삼성전자는 앞으로도 고객과의 긴밀한 협력을 통해 다가오는 온디바이스 AI시대에 최적화된 솔루션을 제공하며 끊임없이 혁신해 나가겠다”고 밝혔다.

삼성전자는 신제품 LPDDR5X D램을 애플리케이션 프로세서∙모바일 업체와의 협업을 통해 제품 검증 후 하반기 양산할 예정이다.

▲ 업계 최고 속도 LPDDR5X 제품 이미지

인공지능(AI)이 우리의 손안에서 또 다른 세상의 문을 연다.

AI는 최근 전 세계적으로 가장 주목받는 기술로, 모두가 한 번쯤은 AI가 변화시킬 세상을 상상해 봤을 것이다.

이제 삼성 갤럭시는 손안의 인터넷과 주머니 속 카메라를 넘어 최고의 모바일 AI 경험을 선보이려 한다. 탁월하고 편리한 기능으로 스마트폰의 대중화를 이끌어 온 갤럭시가 새로운 AI의 미래를 예고하는 것이다.

삼성 갤럭시는 우리 일상에 AI의 혜택을 현실감 있게 보다 가까이 가져올 것이다. 언제 어디서나, 폰을 사용하는 누구에게나, 전에 없던 새로운 AI 혁신 경험을 제공하는 것으로, 언어의 장벽을 뛰어넘어, 더욱 쉽고 빠르게 효율적인 업무와 소통을 가능하게 할 것이다.

갤럭시 AI는 삼성이 자체 개발한 온디바이스 AI 기술과 업계 리더들과 열린 협력을 통해 구현한 기술을 포함한, 종합적인 모바일 AI 경험을 뜻한다. 무엇보다 폰 안에서 동작하는 ‘온디바이스 AI’는 갤럭시가 제공하는 보안과 프라이버시 보호의 바탕 위에 안전하고 신뢰감 있게 우리의 일상생활을 변화시킬 것이다.

앞으로 갤럭시 AI가 가져올 수많은 새로운 경험 중 한 가지를 소개한다.

내년 초 공개될 갤럭시 AI는 인류의 역사만큼이나 오래된 언어의 장벽을 획기적인 방식으로 허물고 우리를 더욱 가깝게 연결시켜 줄 것이다. 두 사람이 서로 익숙하지 않은 다른 언어로 소통해야 할 때 기본적인 대화에서도 큰 불편함과 피로감을 느낀다. 특히 전화 통화를 할 때는 외국어 소통의 어려움이 한층 더 커진다.

그러나 새롭게 선보일 갤럭시 ‘온디바이스 AI’는 개인 통역사를 둔 것과 같이 실시간으로 매끄러운 소통을 가능하게 한다. ‘AI Live Translate Call(실시간 통역 통화)’ 기능이 탑재되는 것이다.

갤럭시 AI가 탑재된 폰을 사용하는 사용자가 평소와 다름없이 자신의 언어로 편안하게 이야기하면 (상대방이 갤럭시 AI폰을 사용하지 않아도), 별도의 외부 앱을 설치하지 않아도 갤럭시 AI가 이를 실시간으로 상대방의 언어로 통역해 전달해 준다. 통역된 대화는 오디오(음성)로 들을 수도 있고, 텍스트 형식으로 스마트폰에 표시돼 눈으로 확인할 수도 있다. 특히 ‘온디바이스’로 제공되는 갤럭시 AI이기에 어떤 상황에서도 통화 내용이 휴대폰 밖으로 새어 나가지 않아 보안 측면에서도 안심하고 사용할 수 있다.

삼성전자 MX사업부 개발실장 최원준 부사장은 “모바일 기술은 그동안 우리 사회의 소통과 생산성, 그리고 창조적 경험의 중심에 자리 잡고 있었다”며, “이제 모바일 AI 기술이 갤럭시와 의미 있게 접목돼 전에 없던 새로운 경험을 창출하고, 휴대폰의 역할을 재정의할 것”이라고 말했다.

진정한 소통과 새로운 가능성을 열어주는 획기적인 모바일 경험, 이것이 바로 갤럭시 AI가 펼쳐가고자 하는 미래이자 약속이다. 누구나 언어의 장벽에 구애받지 않고 쉽고 즐겁게 소통하는 것, 이는 갤럭시가 그리는 미래의 일부이자 앞으로 선보일 변화의 ‘맛보기’일 뿐이다.

모바일 AI는 머지않아 우리의 일상을 바꿔놓을 것이다. 특히 삼성전자의 갤럭시 AI는 더 많은 가능성을 열어나가는 데 선두에 설 것이다. 이전에 경험하지 못했던 새로운 AI를 기대해 보자.

삼성전자가 성능을 대폭 향상시킨 프리미엄 모바일AP ‘엑시노스 2100’을 출시했다.

5나노 EUV 공정으로 생산되는 ‘엑시노스 2100’은 최신 모바일AP 설계 기술이 적용되어 CPU, GPU 성능이 각각 30%, 40% 이상 향상됐으며, 온디바이스 AI (On-Device AI) 성능도 크게 강화됐다.

이번 신제품은 삼성전자 프리미엄 모바일AP 최초 5G 모뎀 통합칩으로 구현되어, 고사양 게이밍은 물론 복잡한 멀티태스킹 환경에서 최고의 솔루션으로 제공된다.

삼성전자 시스템LSI사업부장 강인엽 사장은 “‘엑시노스 2100’에 최첨단 EUV 공정, 최신 설계 기술을 적용해 이전 모델 보다 강력한 성능과 함께 한단계 향상된 AI 기능까지 구현했다”며, “삼성전자는 앞으로도 한계를 돌파하는 모바일AP 혁신으로 프리미엄 모바일기기의 새로운 기준을 제시해 나가겠다”고 밝혔다.

□ 최신 CPU 설계 적용·최적화로 성능 대폭 향상…AI 성능도 강화

삼성전자는 반도체 설계업체 ‘Arm’과의 협력을 기반으로 ‘엑시노스 2100’의 설계를 최적화해 성능을 대폭 향상시켰다.

‘엑시노스 2100’은 최대 2.9GHz로 구동되는 고성능 ‘코어텍스(Cortex)-X1’ 1개, ‘코어텍스-A78’ 3개, 저전력 ‘코어텍스-A55’ 4개를 탑재하는 ‘트라이 클러스터(Tri-Cluster) 구조’로 설계됐다. ‘엑시노스 2100’의 멀티코어 성능은 이전 모델에 비해 30% 이상 향상됐다.

또한, 최신 Arm ‘Mali-G78’이 그래픽처리장치(GPU)로 탑재되어, 이전 모델 대비 그래픽 성능이 40% 이상 향상됐다. 빠르면서도 현실감 높은 그래픽 처리가 가능해져, 게이밍은 물론 증강현실(AR), 가상현실(VR) 등 혼합현실(MR) 기기에서의 사용자의 몰입도를 극대화할 수 있게 됐다.

특히, 삼성전자는 ‘엑시노스 2100’의 온디바이스 AI 기능을 강화했다.

이 제품은 3개의 차세대 NPU 코어와 불필요한 연산을 배제하는 가속기능 설계 등을 통해 초당 26조번(26TOPS, Tera Operations Per Second) 이상의 인공지능 연산 성능을 확보했다.

중앙 클라우드 서버와의 데이터를 교환하지 않고도 단말기 자체에서 고도의 AI 연산이 가능하기 때문에 대규모 데이터를 빠르게 처리할 수 있을 뿐 아니라 인터넷 연결을 위한 네트워크가 지원되지 않는 상황에서도 사용자의 개인정보를 보호하고, 안정적인 AI 서비스를 이용할 수 있는 장점이 있다.

Arm 클라이언트사업부 폴 윌리엄슨(Paul Williamson) 부사장 겸 총괄은 “더 빠른 이동통신, 향상된 그래픽 성능과 인공지능 기술은 새로운 모바일 사용자 경험을 제공하는데 필요한 중요한 기술로 주목받고 있다”며, “삼성전자가 Arm과 긴밀하게 협력해 출시하는 ‘엑시노스 2100’은 차세대 스마트기기에 필요한 최상의 모바일 솔루션이 될 것”이라고 말했다.

□ 최대 6개 이미지센서 연결, 초고주파 대역 5G 통신…멀티미디어 강화

‘엑시노스 2100’은 최대 2억 화소 이미지까지 처리할 수 있는 고성능 ISP(이미지처리장치, Image Signal Processor)를 갖췄다.

최대 6개의 이미지센서를 연결하고, 4개의 이미지센서를 동시에 구동할 수 있다. 광각·망원 등 다양한 화각의 이미지센서를 통해 입력되는 이미지, 영상을 활용한 다이나믹한 촬영 기능을 지원한다.

‘엑시노스 2100’에는 5G 모뎀이 내장돼, 하나의 칩으로 5G 네트워크까지 모두 지원하기 때문에 부품이 차지하는 면적을 줄여 모바일 기기의 설계 편의성을 높였다.

이 제품에 내장된 5G 모뎀은 저주파대역(서브-6, Sub-6)은 물론 초고주파대역(밀리미터파, mmWave)까지 주요 주파수를 모두 지원해 다양한 통신 환경에서 폭넓게 사용할 수 있다.

□ 전력소모 절감 노력으로 탄소배출량 감축 효과도 거둬…

삼성전자는 소비전력 효율화를 위한 솔루션과 설계를 적용해 전력 사용량을 최소화했다.

소비전력이 7나노 대비 최대 20% 개선된 최신 5나노 EUV 공정으로 생산되는 ‘엑시노스 2100’은 AI 연산에 소모되는 전력도 절반 수준으로 줄었다.

또한, 전력 효율을 최적화하는 자체 솔루션 ‘AMIGO(Advanced Multi-IP Governor)’ 탑재로 고화질·고사양 게임과 프로그램을 구동할 때 배터리 소모에 대한 부담을 줄였다.

전력효율 향상을 위해 제품 설계부터 제조, 그리고 사용 환경까지 고려한 삼성전자의 노력은 스마트기기의 배터리 충전 횟수를 줄일 수 있어 탄소 배출량 감축에도 기여할 수 있을 것으로 기대된다.

삼성전자 무선사업부 개발실장 김경준 부사장은 “삼성전자는 고객들에게 최고의 모바일 경험을 제공하기 위해 끊임없이 노력하고 있다”며 “‘엑시노스 2100’의 강력한 코어성능과 한단계 향상된 AI 기능은 차세대 플래그십 스마트폰 개발에 크게 기여했다”고 말했다.

한편, 삼성전자는 12일(한국시간) 유튜브 채널(www.youtube.com/samsung)을 통해 온라인으로 ‘엑시노스 2100’ 출시 행사를 진행했다.

행사는 시스템LSI사업부장 강인엽 사장 인사말에 이어 제품 소개, 모바일AP 기술 혁신과 시장 선도 비전 발표로 진행됐다.

삼성전자는 현재 ‘엑시노스 2100’를 양산하고 있다.

▲ 삼성전자 5G 통합 프리미엄 모바일AP ‘엑시노스 2100’

▲ 삼성전자 강인엽 사장(시스템LSI 사업부장)이 ‘엑시노스 2100’을 소개하고 있다.

삼성리서치(삼성전자 세트부문 선행 연구개발 조직) 영국 케임브리지 AI 센터의 니콜라스 레인(Nicholas Lane) 박사가 2020 미국 컴퓨터 학회(Association for Computing Machinery, 이하 ACM) 모바일연구분과회(SIGMOBILE) 록스타 상을 받았다.

ACM은 컴퓨팅 분야에서 최고 권위를 가진 학술 단체로, IT계의 노벨상이라 불리는 튜링 어워드(Turing Award)를 주관하기도 한다. 그 중 모바일연구분과회는 모바일 컴퓨팅 분야 전반에 몸담은 과학자·엔지니어·기업가·교육자·학생들로 구성된 국제 전문가 협회다. 이 협회는 지난 2013년부터 ‘록스타 상’을 만들어, 뛰어난 연구 성과를 거두고 초기 커리어를 탄탄하게 다진 40세 이하 연구자에게 수여하고 있다. 후보군은 동료들의 추천으로 결정된다. 특히 레인 박사는 미국 외 지역 소재 대학의 교수로서 수상한 첫 사례라 더 의미가 깊다.

시상 위원회는 “제한된 리소스를 가진 모바일 기기 내 ‘학습 알고리즘’과 ‘시스템 설계’ 분야에 새로운 패러다임을 가져왔고, 이를 통해 복잡한 사용자 행동과 환경 이해·추론·동작 방식 연구 분야에 기여한 공로를 높게 샀다”며 레인 박사를 수상자로 선정한 배경을 밝혔다.

영국 케임브리지 AI 센터에서 온디바이스(On-device) AI 디렉터를 맡고있는 레인 박사는 임베디드를 포함한 폭넓은 하드웨어 환경에서 주어진 하드웨어의 성능에 맞춰 딥러닝 모듈을 효율적으로 실행할 수 있게 해주는 알고리즘과 시스템 연구에 집중해왔다.

레인 박사는 “록스타 상을 받게 돼 매우 기쁘고, 이는 수년간 뛰어난 동료들과 협업해 이룬 결과”라면서 “이번 수상은 온디바이스 머신러닝 분야의 중요성이 커진다는 방증이라고 생각하고, 앞으로도 삼성전자와 함께 해당 분야를 이끌어나가는 데 기여하겠다”라는 소감을 전했다.

▲ 앤드류 블레이크 (Andrew Blake) 케임브리지 AI센터장

최근 글로벌 인공지능(AI) 연구개발에 있어 화두 중 하나는 ‘온디바이스(On-device) AI’다. 온디바이스 AI는 네트워크나 서버를 거치지 않고, 스마트 기기 자체에서 AI 기능을 수행하는 기술. 기기의 컴퓨팅 자원을 최대한 활용해 빠른 AI를 구현하는 동시에, 개인정보보호 등 보안을 강화할 수 있다는 점이 온디바이스 AI의 강점이다.

삼성리서치(삼성전자 세트부문 선행 연구개발 조직)의 영국 케임브리지 AI센터는 이러한 온디바이스 AI의 강점을 십분 활용할 수 있는 기술 개발에 매진하고 있다. 삼성전자 뉴스룸은 〈AI 전문가에게 듣는다〉 시리즈의 네 번째 주인공으로 케임브리지 AI센터를 이끌고 있는 앤드류 블레이크(Andrew Blake) 센터장과 만나 온디바이스 AI가 가져올 우리 삶의 변화와 삼성의 연구 방향에 대해 이야기를 나눴다.

단순 연결만 된 IoT? No!

블레이크 센터장은 “온디바이스 AI는 사물인터넷(IoT)에 생명을 불어넣는다”고 강조한다. 기기들이 단순 네트워크로 연결돼 기능을 실행하는 데서 그치지 않고, 자체 AI를 바탕으로 사용자에게 최적화된 결과물을 내놓는다는 설명이다. 예를 들어 스마트폰으로 TV를 켜고 가전을 제어하는 단순 IoT와 달리, 온디바이스 AI가 결합될 경우 사용자의 생활방식이나 사용패턴을 분석해 기기 스스로 상황에 따른 최상의 기능을 실행할 수 있는 것.

케임브리지 AI센터는 이러한 시나리오가 현실이 될 수 있도록 온디바이스 AI에 기반한 IoT 연구에 매진하고 있다. 블레이크 센터장은 “AI 기반 IoT가 잠재력을 발현하려면 ‘제품 간 끊김 없는 연결’, ‘편의성을 최우선 가치로 하는 AI 기술’이라는 양대 축이 융합될 수 있어야 한다”고 밝혔다.

블레이크 센터장은 AI와 IoT가 만나 우리 생활을 변화시킬 핵심 분야 중 하나로 의료와 건강 부문을 들었다. 사용자의 생활패턴, 운동, 식사, 건강 등 정보를 기기 간 연결하고 분석해 삶의 질을 획기적으로 높일 수 있다는 것이다.

삼성의 풍부한 하드웨어 자원, “이제 만개할 시기”

블레이크 센터장은 매년 5억 대 가량 판매되는 삼성전자의 다양한 제품군이 온디바이스 AI의 미래를 펼칠 ‘핵심 자원’이라고 꼽았다. “삼성전자의 폭넓은 제품군과 이들이 글로벌 시장에서 차지하는 입지를 감안했을 때, 지금이야말로 삼성의 AI 역량이 꽃을 피울 최적의 시기”라는 설명이다.

그의 말을 옮기면 온디바이스 AI는 하드웨어로부터 출발하기 때문에, 폭넓은 기기를 확보한 삼성전자 앞에 ‘황금 같은 기회’가 놓여 있다고 할 수 있다. 하드웨어는 사용자가 실생활에서 직접 만지고 경험하는 매개체다. AI 기능 역시 하드웨어를 바탕으로 구현되며, 이렇게 하드웨어와 결합된 AI 알고리즘은 연구실의 그것과 차원이 다른 영향력을 발휘한다. 블레이크 센터장은 “케임브리지 AI센터의 도전 가운데 하나는 세계의 소프트웨어 개발자들이 AI 모델을 간단하고 효과적으로 삼성 제품에 적용할 수 있도록 돕는 도구(Tool)를 구현하는 것”이라고 전했다.

한편으로 현시점에 여전히 제기할 수 있는 문제는, 수많은 기기들이 인간 삶을 실질적으로 얼마나 풍요롭게 할 것인가 하는 점이란 지적이다. 단지 새로운 기술을 개발하고 제품들을 연결하는 데만 치중할 게 아니라, 사람들이 진정으로 원하는 게 무엇인지에 대한 해답을 찾아야 한다는 것이다. 블레이크 센터장은 “고성능 컴퓨터 시스템을 이용한 시제품(프로토타입) 제작에만 치중하는 학문적 접근법을 벗어나, 사람들이 실생활에서 편리하게 사용하고 체감할 수 있는 AI의 가치를 실현해야 한다”고 거듭 강조했다.

AI를 비롯한 기술의 발전과 생활의 편의성 측면에 있어, 개인정보보호와 보안은 동전의 양면처럼 함께 대두하곤 한다. 기술이 생활 속에 깊숙이 들어올수록 보안 위협도 커질 수 있는 것. 블레이크 센터장은 “AI를 스마트 기기에 폭넓게 적용하기 위해선, 사용자 데이터를 안전하게 보호하는 일이 선행돼야 한다”며 “온디바이스 AI는 사용자 데이터를 서버로 보내지 않기 때문에 보안에 강점이 있으며, 연구개발 과정에서 안전한 데이터 관리를 늘 염두에 두고 있다”고 밝혔다.

다양한 학문의 결합으로 인간중심 AI 추구

AI 하면 복잡한 전자공학과 수학, 과학 등이 주를 이룰 것 같지만, 꼭 그렇지만도 않다. 케임브리지 AI센터는 다양한 학문을 바탕으로 인간행동이해 연구에 매진하고 있다.

블레이크 센터장은 “사용자 중심의 AI는 사람들의 일상에 파고드는 것”이라며 “기술에 중점을 두기보다 다양한 학문으로 접근해 인간을 이해할 수 있어야 한다”고 기술 개발의 방향성을 제시했다. 학문의 경계를 허물고 융합을 이뤘을 때, 삼성이 추구하는 ‘사용자 중심의 AI’를 실현할 수 있다는 것.

그는 하드웨어, 사용자 인터페이스(UI) 등 시스템 디자인 분야와 심리학 같은 인문학 분야를 연결지어, 사람들의 생활방식과 행동을 이해하는 연구가 중요하다고 강조했다. 특히 인간의 감정을 인식해 행동을 이해하는 연구에 방점을 두고, AI 연구의 지평을 넓히는 데 주력하고 있다.

지식과 연구의 요람, 케임브리지

삼성리서치 케임브리지 AI센터는 학문의 도시로 유명한 영국 잉글랜드 케임브리지에 자리해 있다. 이곳은 대학도시 특유의 연구 정신과 로봇공학, 의학, AI, 자율주행 등 미래기술을 아우르는 스타트업들이 모여 있다는 점에서 AI 연구의 중심지로 꼽힌다. 블레이크 센터장은 “강렬한 자극을 불러일으키는 IT 생태계와 풍부한 인력 네트워크, 그리고 런던-옥스포드-케임브리지로 이어지는 ‘골든 트라이앵글’ 입지는 우리 센터만의 강점”이라고 전했다.

유수의 AI 전문가들도 포진해있다. 블레이크 센터장은 케임브리지 AI센터에 합류하기 전 앨런튜링 연구소장과 마이크로소프트(MS) 케임브리지 연구소장을 거쳤다. 40년 이상 AI 연구에 매진하며 머신러닝^[1]과 AI 알고리즘 분야에서 입지를 쌓았다. 또 감성과 행동인지 컴퓨팅 분야의 전문가인 마야 팬틱(Maja Pantic) 박사, 임베디드 AI 분야 전문가인 닉 레인(Nic Lane) 박사 등이 프로그램 디렉터를 맡고 있다. 이와 함께 머신러닝, 머신비전, AI 네트워크, 컴퓨터 인지 등 분야에서 뛰어난 AI 연구자들이 모여 팀워크를 발휘하고 있다.

블레이크 센터장은 “케임브리지 AI센터는 각계 유능한 인재들이 새로운 아이디어를 물 흐르듯 주고받으며 연구에 매진하고 있다”며 “삼성의 다른 글로벌 AI센터와 연구개발 네트워크를 형성하고 있다는 점도 고무적이다. 센터 간 상호 협업하며 보완·발전할 수 있다는 것은 삼성전자 연구자들만이 누릴 수 있는 차별점”이라고 말했다.

끝으로 블레이크 센터장은 1956년 미국 다트머스대학에서 열린 ‘다트머스 회의’를 소개하며 말을 맺었다. 이 회의는 세계에서 AI라는 개념을 처음으로 창안한 것으로 유명하다. 그는 “다트머스 회의가 열리던 해에 태어난 본인은 지금까지 40년 넘게 AI를 연구하며 학문과 경험을 쌓을 수 있었다”며 “이제 그 결과가 우리 일상에서 본격적으로 빛을 볼 수 있을 거란 기대에 뿌듯함을 느낀다”고 소회를 전했다.