В заключительной части серии материалов Samsung «Лидерство в области ИИ» редакция Samsung Newsroom рассказывает, как технологический опыт и исследовательские инициативы Samsung помогают совершенствовать взаимодействие пользователей с ИИ.

Приоритет — работа с пользовательским опытом

Samsung использует решения на базе ИИ для устройств и облачных технологий. Эта стратегия подкрепляется развитием гибридного ИИ, который объединяет сильные стороны обеих технологий для создания контекстно-ориентированных решений, отвечающих различным потребностям пользователей. Решение о том, какой тип или сочетание технологий использовать, опирается на конечную цель — «Как мы можем наилучшим образом помочь пользователю?».
 

ИИ на устройствах обеспечивает безопасную и эффективную работу нейросетей на смартфонах и телевизорах, используя только данные и ресурсы самого устройства. Поскольку ИИ на устройстве не взаимодействует с облаком, ответы на запросы поступают практически мгновенно. А так как данные не покидают устройство, технология более надежна для конфиденциальных данных, связанных, например, с личной информацией.

Аналогичным образом технология edge AI работает независимо от облачных сервисов и полагается исключительно на конкретные внутренние ресурсы для выполнения функций ИИ. Во взаимосвязанной домашней среде, где бытовая техника и IoT-устройства работают в связке, обработка данных в технологии edge AI может осуществляться либо устройствами с более высокими техническими характеристиками, либо устройствами, находящимися поблизости, не зависящими от облака. Таким образом, технология edge AI обеспечивает преимущества в скорости и безопасности по сравнению с ИИ на устройствах.
 

В то время как ИИ на устройствах и технология edge AI основаны на технологиях, использующих небольшие модели и меньшее количество вычислений в ограниченных условиях аппаратного обеспечения, облачный ИИ поддерживает работу с обширной онлайн-информацией и высокопроизводительными вычислениями. Технология использует большие массивы данных и крупномасштабные модели ИИ, размещенные на серверах, для предоставления ряда расширенных возможностей. Для достижения высокой производительности и сохранения эффективности и безопасности Samsung проводит масштабные исследования в таких областях, как минимизация задержки данных, оптимизация эффективности моделей и внедрение анонимности и шифрования данных.
 

Благодаря опыту в различных видах ИИ — на устройствах, на периферийном оборудовании и в облаке — Samsung делает еще один шаг вперед и комбинирует различные форматы для наилучшего удовлетворения потребностей каждого пользовательского сценария. В гибридном ИИ конфиденциальные данные и данные, требующие быстрого реагирования, могут обрабатываться с помощью моделей ИИ на устройстве, в то время как облачные технологии могут управлять обработкой, требующей внешних ресурсов, таких как актуальная информация или высокопроизводительные модели. Например, Galaxy AI использует как ИИ на устройствах, так и облачный ИИ — независимо или одновременно, по мере необходимости, — чтобы предоставлять пользователям оптимальные решения.
 

▲ Дэхён Ким, исполнительный вице-президент международного центра изучения ИИ (Global AI Center) Samsung Research, объясняет стратегию Samsung в области ИИ.

Генеративный ИИ, интегрированный в повседневную жизнь

Samsung продолжает внедрять инновации в области генеративного ИИ, расширяя возможности своих продуктов и сервисов. Например, Galaxy AI предлагает набор функций^[1], включая функцию «Чат-ассистент» (Chat Assist), которая поддерживает письменный и устный перевод в некоторых приложениях для обмена сообщениями; функцию «Ассистент для заметок» (Note Assist), которая помогает обобщать заметки и генерировать обложки для них; и функцию «Фото-ассистент» (Photo Assist), которая редактирует изображения с помощью генеративного ИИ.

Генеративный ИИ также поддерживается в некоторых телевизорах и бытовой технике Samsung благодаря функции Generative Wallpaper.^[2]Пользователи могут наслаждаться 4K-изображениями, соответствующими их вкусам, на телевизоре Samsung Neo QLED 2024 или преобразить свою кухню с помощью генерируемых ИИ обоев на холодильнике Family Hub.

▲ Генерируемые обои на телевизоре Samsung с поддержкой ИИ

Чтобы предложить пользователям наилучшие возможности генеративного ИИ в своих устройствах, Samsung не только сотрудничает с партнерами, но и разрабатывает собственные модели ИИ. Начиная с фундаментальных технологий, включая разработку базовой модели, сбор данных и обучение, а также разработку моделей ИИ в упрощенном варианте, Samsung использует свой обширный опыт в области ИИ, чтобы оптимизировать решения и удовлетворить специфические требования каждого продукта.
 

Например, компания Samsung разработала собственные базовые модели для создания, редактирования и преобразования изображений, чтобы обеспечить широкий спектр возможностей визуального творчества. Это было непросто, поскольку в отличие от текстовых данных, которые состоят из дискретных значений, данные изображений состоят из непрерывных значений, что предоставляет практически безграничные возможности для их генерации. Чтобы решить эту непростую задачу, компания применила специальные методы обучения моделей изображений, уменьшив при этом их размер для эффективной работы на устройстве. Разработчики усовершенствовали алгоритмы глубинного обучения и методы дополнения данных, чтобы обеспечить быстрые вычисления и беспрепятственное создание изображений с минимальными требованиями к обработке.

Данные базовые модели затем были доработаны для конкретных приложений. Например, функция «Атмосферные фотографии» (Photo Ambient) в последних смартфонах Samsung объединяет модель изображения с данными в режиме реального времени для создания динамических обоев, которые визуально отражают текущие условия, например снегопад или звездную ночь, в зависимости от времени и погоды.

Samsung Gauss2: Генеративный ИИ от Samsung

Применение генеративного ИИ стремительно выходит за рамки личного повседневного использования и становится все более распространенным в корпоративной среде. Samsung разработала собственную модель генеративного ИИ, чтобы укрепить свою конкурентоспособность в области технологий ИИ, безопасно работать с конфиденциальной внутренней информацией и оптимизировать производительность и масштабируемость для конкретных целей. Собственный генеративный ИИ позволяет компании создавать модели, подходящие для широкого спектра продуктов и услуг, повышая при этом внутреннюю производительность в более безопасной среде.
 

Компания Samsung недавно представила обновленную модель генеративного ИИ Samsung Gauss2, которая отличается более высокой производительностью и эффективностью по сравнению со своей предыдущей моделью Samsung Gauss1, представленной в прошлом году. Samsung Gauss2 – это мультимодальная^[3] модель, способная одновременно обрабатывать и воспринимать различные типы данных.

Samsung Gauss2 выпускается в трех моделях, предназначенных для разных целей — Compact, Balanced и Supreme. Модель Compact — это облегченный вариант, оптимизированный для ИИ на устройстве. Модель Balanced, облачный вариант среднего размера, предназначена для решения таких задач, как генерация текста и кода. Модель Supreme, облачный вариант большого размера, создана для поддержки высокопроизводительных задач с особым вниманием к повышению производительности труда. 

▲ Samsung представила обновленную собственную модель генеративного ИИ

Для эффективной реализации больших моделей, подобных Supreme, Samsung применила технику Mixture of Experts (MoE), позволяющую выборочно активировать только «экспертные модели», наиболее подходящие для решения конкретных задач в рамках масштабной нейронной сети.

MoE значительно сокращает количество вычислений во время обучения и вывода, активируя только необходимые компоненты, а не запуская все экспертные модели одновременно в ответ на каждый запрос. Такая избирательная активация не только повышает эффективность, но и облегчает развитие модели для решения более сложных задач путем добавления новых экспертных моделей. Samsung тщательно обучила все эти модели работать точно и без помех.
 

▲ MoE оптимизирует вычисления для более эффективной работы с объемными моделями ИИ.

 
Samsung Gauss2 уже применяется во многих сферах деятельности Samsung. Например, подразделение Device eXperience (DX) использует ассистент кодирования Samsung Gauss2 для поддержки исследований и разработок. Данная технология использует специализированную модель, обученную на запатентованных данных, коде и процессах Samsung, для создания кода, необходимого для разработки продуктов и услуг. Полностью интегрированный во внутреннюю среду разработки ПО компании, ассистент кодирования поддерживает взаимодействие на языке естественного общения и различные языки программирования, что позволяет оптимизировать рабочие процессы разработчиков.
 

Портал Samsung Gauss Portal, сервис разговорного ИИ, широко используется для решения таких рабочих задач, как обобщение и перевод документов, составление электронных писем и т. д. В будущих обновлениях планируется расширить возможности использования естественного языка в вопросах и ответах, а также мультимодальные функции портала, включая интерпретацию таблиц и графиков и создание изображений.

Развитие возможностей ИИ за счет вовлечения пользователей

Используя широкие линейки своих продуктов, Samsung разрабатывает технологии, поддерживающие ИИ на устройствах, в облаке и генеративный ИИ, чтобы обеспечить конкурентное преимущество в возможностях ИИ.

Взаимодействуя с пользователями через свои продукты, компания узнает об их поведении и потребностях, что позволяет разрабатывать практические решения в области ИИ. Таким образом, создается непрерывный цикл, в котором данные пользователей служат основой для развития ИИ, который, в свою очередь, приносит пользу потребителям.
 

Samsung объединяет это глубокое понимание продуктов с собственными разработками и стратегическими партнерствами для внедрения наиболее оптимальных технологий ИИ. Например, нейронные процессоры (NPU) — специализированные ускорители для вычислений ИИ — должны соответствовать специфическим требованиям конкретных продуктов, а не применяться одинаково в разных устройствах. Samsung не только разрабатывает NPU для собственных продуктов, но и применяет программные оптимизации в партнерских чипсетах, обеспечивая поддержку функций ИИ и максимальную производительность в устройствах Samsung.

Кроме того, для решения вопросов безопасности компания использует опыт и мнения специалистов по конкретным продуктам, что способствует оперативному внедрению решений в продукцию и непрерывному технологическому совершенствованию. Решение Knox Matrix для обеспечения безопасности нескольких устройств на основе блокчейна — яркий пример того, как такой комплексный подход позволяет создать среду, в которой подключенные устройства проверяют друг друга на наличие угроз для повышения уровня защиты.

▲ Благодаря знаниям потребителей о различных продуктах Samsung лидирует в области ИИ.

Внедряя специальные технологии ИИ, Samsung продолжает открывать новые возможности для пользователей. В будущем компания планирует предоставить еще больше разнообразных решений с ИИ, которые будут расширять возможности пользователей благодаря полноценному и глубокому взаимодействию.

^[1]Доступность функций Galaxy AI может зависеть от региона, страны, версии ОС или One UI, модели и оператора.

^[2]Функция «Генеративные обои» может отличаться в зависимости от региона и модели.

^[3]Способность одновременно распознавать и обрабатывать различные типы данных (модальности), включая текст, изображения, аудио и видео.

В конце ноября Samsung Electronics провела конференцию Samsung Developer Conference Korea 2024 (SDC24 Korea) — онлайн-мероприятие, на котором были представлены последние инновации компании в области программного обеспечения и ее видение будущего.

С 2014 года Samsung Electronics проводит ежегодное мероприятие для привлечения и сотрудничества с разработчиками программного обеспечения, конференция SDC24 Korea стала 11-й по счету. В этом году в рамках SDC24 были представлены исследования, связанные со встроенным в продукты программным обеспечением, такими как генеративный ИИ, программные платформы, IoT, здравоохранение, коммуникации и данные. Конференция также была посвящена культуре разработки с открытым исходным кодом. 
 
Во время основного доклада компания представила Samsung Gauss2, второе поколение своей собственной модели ИИ. Была отмечена улучшенная производительность, эффективность и различные возможности применения.
 
 
«Samsung Electronics занимается разработкой новейшего программного обеспечения, включая ИИ и аналитику данных, для улучшения пользовательского опыта», — говорит Пол Кюнгвун Чун, президент, технический директор департамента Device eXperience (DX) и глава Samsung Research. «Samsung Gauss2, представленный тремя различными моделями, уже повышает нашу внутреннюю производительность, и мы планируем интегрировать его и в другие продукты, чтобы обеспечить более высокий уровень комфорта и персонализации».
 

Samsung Gauss2: Мультимодальная языковая модель, отвечающая различным потребностям

Samsung Gauss2 — это усовершенствованная модель генеративного ИИ, представленная компанией в прошлом году. Она отличается повышенной производительностью и эффективностью при одновременной обработке различных типов данных, поскольку представляет собой мультимодальную модель, объединяющую язык, код и изображения. Она доступна в трех различных моделях, предназначенных для разных целей: Compact, Balanced и Supreme.
 
Модель Compact — это компактная модель, специально разработанная для эффективной работы даже в ограниченных условиях вычислительной среды. Она обеспечивает оптимизированную производительность при работе с устройством, максимально используя его вычислительные ресурсы. Модель Balanced нацелена на достижение баланса между производительностью, скоростью и эффективностью, обеспечивая стабильную работу при выполнении различных задач. Наконец, модель Supreme нацелена на достижение высокой производительности за счет использования технологии Mixture of Experts^[1] в модели Balanced, что позволяет значительно сократить вычислительные затраты в процессе обучения и формирования выводов и сохранить при этом высокий уровень производительности и эффективности.
 
 

Samsung Gauss2 поддерживает от 9 до 14 языков, а также различные языки программирования, в зависимости от модели. Samsung разработала и внедрила собственные методы обработки больших языковых моделей (LLM) и создала собственный токенизатор^[2], чтобы обеспечить максимальную эффективность для поддерживаемых языков.
 
Модели Balanced и Supreme обладают равной или превосходящей производительностью по таким ключевым параметрам, как генерация ответов на различных языках, включая английский и корейский, и возможности кодирования в сравнении с ведущими моделями генеративного ИИ с открытым исходным кодом, доступными в настоящее время. Кроме того, скорость обработки данных в час в 1,5-3 раза выше. Это позволяет быстрее генерировать ответы ИИ, сократить время ожидания пользователей и повысить эффективность обработки задач.
 

Гибкая настройка для решения различных задач, связанных с производительностью и разработкой продуктов

Наличие внутренней генеративной модели ИИ позволяет легче настраивать систему, чтобы достичь оптимальной производительности для конкретных целей. Samsung Gauss уже применяется для решения различных задач сотрудниками Samsung, которые используют его гибкие возможности разработки.
 
С Samsung Gauss разработчикам ПО помогает собственный ассистент кодирования «code.i». В настоящее время он обновлен до Samsung Gauss2 и используется подразделениями подразделения Device eXperience (DX) и зарубежными исследовательскими институтами.
 
С момента запуска в декабре прошлого года ежемесячное использование code.i возросло в четыре раза, и теперь им пользуются около 60% всех разработчиков программного обеспечения в подразделении Device eXperience (DX). Кроме того, Samsung Gauss Portal — это сервис искусственного интеллекта на базе Samsung Gauss, который помогает сотрудникам подразделения Device eXperience (DX) решать различные офисные задачи, такие как обобщение документов, перевод и составление электронных писем. В апреле эта услуга была расширена на зарубежные филиалы. Кроме того, начиная с августа, Samsung применяет Samsung Gauss для сотрудников колл-центров, чтобы автоматически классифицировать и обобщать звонки клиентов.
 
 

В дальнейшем компания Samsung стремится непрерывно повышать производительность труда в компании, применяя Samsung Gauss2 для повышения производительности сервиса code.i, улучшения функции вопрос-ответов на естественном языке в Samsung Gauss Portal и поддержки мультимодальных функций, таких как обработка таблиц и графиков и создание изображений. 
 
Кроме того, в соответствии с концепцией «ИИ для всех» компания Samsung продолжит расширять сферу применения своих сервисов на основе ИИ во всех продуктовых линейках, чтобы пользователи могли наслаждаться более удобной и приятной повседневной жизнью. Благодаря интеграции технологии графа знаний с ИИ компания Samsung планирует предоставлять ещё более расширенные персонализированные услуги.
 

Презентации про программные платформы, IoT, здравоохранение, коммуникации и данные

После анонса Samsung Gauss2 состоялись презентации, посвященные опыту работы клиентов с платформами Samsung, в том числе использованию SmartThings и усовершенствованию различных программных платформ.
Затем было проведено 29 разнообразных технических сессий, включая следующие:
 

• Будущее здравоохранения и стратегия Samsung в области экосистемы здравоохранения
• Улучшение опыта SmartThings Customer VOC с помощью генеративного ИИ
• code.i: Понимание помощника Samsung Electronics по кодированию ИИ
• Контентный центр на базе телевизора для обогащения вашего повседневного опыта
• ИИ-решение для бытовой техники Samsung с помощью технологии искусственного зрения и использования данных
  

Ознакомиться с подробной информацией можно на сайте о SDC24 Korea.

 
^[1]Подход, при котором для решения конкретных задач подбираются и активизируются наиболее подходящие экспертные модели, что позволяет повысить эффективность работы за счет экономии вычислительных ресурсов.
^[2]Инструмент, преобразующий вводные данные, такие как письма, в форматы данных, которые могут обрабатываться компьютерами.