삼성전자 C랩도 SDC23에 참여해 총 6개의 스타트업이 창의적이고 혁신적인 기술과 제품을 전 세계에 선보이는 자리를 가졌다. 출품한 스타트업들 중 AI 개발∙운영 자동화 플랫폼 ‘베슬에이아이 코리아’, 수의사 원격 상담 서비스 ‘닥터테일’, AI 경량화 솔루션 ‘클리카’ 3곳을 뉴스룸이 만났다.

▲ 미국 샌프란시스코 모스코니 센터에서 열린 SDC23의 삼성전자 C랩 전시관 전경

베슬에이아이 코리아 – “AI 도입의 문턱을 낮추다” 머신러닝 개발과 운영 플랫폼

많은 기업들이 AI 기술을 도입, 활용하고 싶어 하지만 AI 모델을 개발하고 운영하는 비용 부담이 크다. 이런 상황에서 효율적인 비용으로 AI를 개발·운영할 수 있게 도와주는 플랫폼의 중요성이 높아지고 있다.

베슬에이아이 코리아는 AI 개발자들을 위한 머신러닝 운영 플랫폼(MLOps Platform)을 제공하는 스타트업이다. 이번 SDC23에서 머신러닝 모델 학습부터 배포까지 전 과정을 손쉽게 실행하고 자동화할 수 있는 ‘베슬(VESSL)’을 전시해 눈길을 끌었다.

“AI 개발과 운영이 쉬워진다!” 개발자를 위한 머신러닝 운영 플랫폼

베슬에이아이 코리아 안재만 대표는 “베슬을 활용하면 AI 개발 과정을 자동화하고 GPU(그래픽처리장치) 사용을 최적화할 수 있어 클라우드 비용과 개발 비용을 획기적으로 절감할 수 있다”고 설명했다.

▲ AI 개발·운영과 관련된 로그부터 모델까지 전반을 확인할 수 있는 대시보드 ‘아티팩트(Artifact)’

베슬은 전 세계에서 유일하게 하나의 플랫폼 안에서 아마존웹서비스(AWS), 구글 클라우드 플랫폼(GCP), 마이크로소프트의 애저(Azure) 등 다양한 플랫폼을 연동할 수 있는 제품이다. 자체 클라우드를 운영하거나 상용화된 클라우드를 활용하는 경우에도 손쉽게 플랫폼과 연동해 인프라의 확장성과 비용 최적화를 달성할 수 있다.

▲ SDC23에서 관람객에게 베슬(VESSL)을 소개하고 있는 베슬에이아이 코리아

“베슬을 통해서 전 세계 머신러닝 모델이 만들어질 수 있도록” 베슬에이아이의 미래 비전

국내 대기업과 생성형 AI 스타트업, 유수 대학과 대학원 등에서는 베슬에이아이 코리아의 플랫폼을 활용해 머신러닝 모델을 개발, 운영하고 있다. 나아가, 해외에서는 스탠퍼드, MIT, 컬럼비아 대학을 중심으로 빠르게 이용자가 증가하는 추세다. 안 대표는 “전 세계의 모든 머신러닝 모델이 베슬을 통해 만들어질 수 있게 하겠다는 비전을 바탕으로 제품을 만들어 나갈 예정이다”라고 포부를 밝혔다.

▲ SDC23에 참가한 베슬에이아이 코리아

닥터테일 – ‘0차 진료’를 꿈꾸는 수의사 상담 플랫폼

닥터테일은 미국에서 온라인 수의사 상담 플랫폼을 운영하는 국내 스타트업이다. 수의사와의 온라인 상담을 통해 동물병원 방문 전에 진료가 필요한 상황인지 판단하고, 불필요한 병원 방문을 줄일 수 있다. 뿐만 아니라, 닥터테일만의 독자적인 의료기록 클라우드 기능, 보호자 커뮤니티 기능 등을 제공해 보호자들은 앱 하나만으로 반려동물의 건강을 안전하게 관리할 수 있다.

미국 반려동물 의료 시장의 사각지대를 공략하다!

닥터테일의 이대화 대표는 “반려동물을 키우는 보호자라면 병원 진료가 필요한지, 어떤 병원에 가야 하는지 막막한 상황을 겪은 적이 있을 것”이라며, “이럴 때 보호자에게 명확한 판단 기준을 제공하기 위해 창업을 결심하게 됐다”고 설명했다.

이 대표는 “미국은 반려동물 대비 수의사가 부족해 진료 예약이 쉽지 않다”라며, “반려동물이 이상 증세를 보일 때 응급실을 방문하는데, 이 중 대다수가 불필요한 진료로 인해 800달러가 넘는 비용을 낭비하고 있는 상황”이라고 말했다.

▲ 관람객에게 온라인 수의사 상담 플랫폼을 소개하고 있는 닥터테일 이대화 대표

미국은 반려동물 ‘원격 진료’의 경우 재진만 허용된다. 닥터테일은 이러한 틈새시장을 공략해 진료가 필요한지 판단해 주는 ‘원격 상담’을 중심으로 운영하고 있다. 과거에 진료한 적이 없는 수의사와 보호자 간에도 자유롭게 이용할 수 있는 것이 강점이다.

“새로운 수의사를 만나도 걱정 NO!” 모든 의료 기록이 한 곳에!

닥터테일은 모든 의료기록을 한곳에 모아 관리하는 클라우드 기술을 갖추고 있다. 과거 어떤 동물병원을 방문했더라도, 모든 의료기록을 플랫폼에 자동 동기화할 수 있다. 철저한 보안 시스템으로 정보를 안전하게 보관하는 이 기술은 한국과 미국에 특허 등록까지 마쳤다.

이 대표는 “동기화된 의료 기록들은 온라인 수의사의 신속하고 정확한 상담을 위해 활용된다. 예를 들어, 반려동물의 혈뇨 사진을 보내면 이전 병력을 참고해 요로 결석 등 과거 병력이 재발했는지 여부를 판단할 수 있다”며, “이 외에도, 새로운 병원을 방문할 때나 보험 청구 시에도 유용하다”고 말했다.

▲ 닥터테일은 온라인 수의사 상담 기능은 물론 이전 의료 기록을 확인할 수 있는 클라우드 기능, 그리고 보호자 커뮤니티 기능을 제공하고 있다.

닥터테일에서는 하루 평균 500건 이상의 상담이 진행되고 있으며, 보호자들의 만족도 또한 5점 만점 중 4.91점으로 높은 수준을 유지하고 있다. 이 대표는 “닥터테일에는 임신이나 출산 등으로 정기적인 근무가 어려운 유휴 수의사들도 참여하고 있는데, 일자리 창출과 유연한 근로 시간 활용이 가능하다는 점에서도 긍정적인 반응을 끌어내고 있다”고 설명했다.

닥터테일은 최근 30억 원 규모의 투자를 유치하며 성장 가능성을 입증했다. 기존의 텍스트 기반인 서비스를 비디오 기반으로 강화하고, 헬스 데이터 기반 맞춤형 케어로 서비스를 확장해 나갈 계획이다. 이 대표는 “궁극적으로 닥터테일의 0차 진료로 시작하는 새로운 수의 진료 체계를 구축하는 것을 목표로 하고 있다”고 밝혔다.

클리카 – “AI 모델과 비용을 모두 가볍게!” 자동 초소형 인공지능 플랫폼

AI 기술이 고도화되면서 AI 서비스 운영에 필요한 비용과 하드웨어 성능 또한 증가하고 있다. 이에, 많은 기업이 고성능의 AI 모델을 제한적인 하드웨어 기기 환경에 탑재할 수 있는 ‘AI 경량화 기술’에 주목하고 있다.

클리카는 개발자들이 쉽고 편하게 AI 알고리즘을 디바이스에 설치하고 적용할 수 있도록 초소형 AI 플랫폼을 개발하고 있다. 복잡하고 어려운 AI 알고리즘도 클리카의 경량화 엔진에 넣으면, 저전력·저사양의 디바이스에 구현할 수 있다.

“다양한 산업 분야와 협력” 클리카만의 원천 기술

클리카의 솔루션은 QAT(Quantization Aware Training)라는 양자화 기술 기반으로 제작됐다. QAT 경량화 기법을 통해 정확도 손실을 최소화하면서 AI 모델 사이즈를 75%까지 축소할 수 있으며, 경량화된 모델의 추론 속도 또한 4배에서 10배 개선되는 효과를 얻을 수 있다. 여기에, 가지치기(Pruning) 기술을 함께 적용하면 AI 모델 사이즈 최대 95%까지 줄일 수 있다.

▲ 경량화 솔루션을 통해 AI 모델 사이즈를 최대 95% 줄이고, 추론 속도는 4배에서 10배 개선할 수 있으며, 인프라 구축 비용과 클라우드 사용료를 최대 80% 절감할 수 있다.

현재 국내 기업들과 기술 검증을 위한 베타 서비스를 진행하고 있으며, 올해 하반기에는 서울시 공공시설에 클리카에서 경량화한 AI 모델이 적용될 예정이다.

클리카 솔루션, 삼성전자 모바일 기기를 통해 만나다!

이번 SDC23에서 클리카는 삼성전자 모바일 기기에서 구현 가능한 AI 솔루션을 선보였다. 김 대표는 “전 세계 개발자들에게 AI 모델을 자동으로 경량화하고 모바일 환경에서 AI 서비스를 배포할 수 있는 클리카 솔루션을 소개할 수 있게 되어 뜻깊다”라며 소감을 전했다.

▲ 클리카는 미국 샌프란시스코 모스코니 센터에서 개최된 SDC23에서 삼성전자 모바일 기기에 적용한 AI 경량화 솔루션을 소개했다.

▲ SDC23에 참가한 클리카 팀

김 대표는 “AI 솔루션을 가장 빠르게 상용화할 수 있도록 돕는 플랫폼이 되는 것이 목표”라며, “앞으로 선보일 초경량 거대언어모델(Large Language Model, LLM)을 삼성 스마트폰을 통해 서비스할 수 있는 날이 오기를 기대한다”고 포부를 밝혔다.

▲ 미국 샌프란시스코 모스코니 센터에 참여한 삼성전자 C랩 전시관

삼성전자와 함께 글로벌로 뻗어 나가고 있는 삼성전자 C랩의 스타트업들. 창의적인 아이디어와 혁신적인 솔루션으로 더 나은 세상을 만들어 나갈 그들의 여정을 기대해 본다.