Обучение языка для модели ИИ – сложный процесс, особенно при наличии у него множества диалектов. Именно с такой задачей столкнулась команда Samsung R&D Institute Jordan (SRJO). «Арабский» был добавлен в языковой пакет для функций Galaxy AI, таких как Live Translate, и команде пришлось учитывать различные арабские диалекты, распространенные на Ближнем Востоке и в Северной Африке, каждый из которых отличается по произношению, словарному запасу и грамматике.

Состоящий в шестерке самых распространенных языков мира, арабский язык ежедневно используют более 400 миллионов человек.¹ Язык подразделяется на две формы: Фусха (современный стандартный арабский язык) и Аммия (диалекты арабского языка). На публичных и официальных мероприятиях и в новостных передачах используется Фусха, а Аммия чаще применяется в повседневных разговорах. Арабский язык распространен в более чем 20 странах, и в настоящее время в регионе насчитывается около 30 диалектов.

Неписаные правила

Взяв в расчет разнообразие арабских диалектов, команда SRJO использовала ряд приемов для выявления и обработки уникальных лингвистических особенностей, присущих каждому из них. Такой подход был крайне важен для того, чтобы Galaxy AI мог понимать и реагировать на региональные нюансы.

Мохаммад Хавелех, руководитель группы по преобразованию текста в речь (TTS) на арабском языке, подмечает, что в отличие от других языков, произношение объекта в арабском зависит от субъекта и глагола в предложении. Целью команды выступила разработка модели, которая понимает все диалекты и отвечает на стандартном арабском.

Text-to-Speech (TTS) – это компонент функции Live Translate от Galaxy AI, позволяющий пользователям взаимодействовать с носителями разных языков, переводя устную речь и преобразовывая ее в письменный текст, а затем воспроизводя ее вокально. Команда TTS столкнулась с уникальной проблемой, вызванной особенностями арабского языка.

Диакритические знаки, используемые в арабском языке, служат руководством для произношения слов в некоторых контекстах, например, в религиозных текстах, поэзии и книгах для изучения языка. Они широко распространены среди носителей языка, но отсутствуют в повседневном письме. Это затрудняет преобразование исходного текста в фонемы – основные звуковые единицы, из которых строится речь.

По словам Хавелеха, для правильного использования диакритических знаков не хватает качественных и надежных наборов данных. Команда должна была разработать нейронную модель, которая могла бы предсказывать и восстанавливать недостающие диакритические знаки с высокой точностью.

Нейронные модели работают аналогично человеческому мозгу. Чтобы предсказать диакритические знаки, модель должна изучить множество арабских текстов, выучить правила языка и понять, как слова используются в различных контекстах. Например, произношение слова может сильно отличаться в зависимости от описываемого действия или рода. Интенсивное обучение команды способствовало повышению точности модели арабского TTS.

Улучшенное понимание

Команде SRJO также пришлось заниматься сбором аудиозаписей диалектов из различных источников, которые необходимо было расшифровать, отмечая уникальные звуки, слова и фразы. «Была собрана команда носителей диалектов, которые хорошо разбирались в их нюансах и особенностях», – говорит Айя Хасан (Ayah Hasan), чья команда отвечала за создание базы данных. «Прослушивая записи, они вручную преобразовывали произнесенные слова в текст».

Так, была проведена крайне важная работа по усовершенствованию процесса автоматического распознавания речи (Automatic Speech Recognition), чтобы Galaxy AI мог справляться с разнообразием арабских диалектов. ASR играет ключевую роль в обеспечении возможностей Galaxy AI для понимания и реагирования в режиме реального времени.

«Создание системы ASR, поддерживающей несколько диалектов в одной модели, – сложная задача», – говорит Мохаммад Хамдан (Mohammad Hamdan), руководитель проекта ASR. «Оно требует глубокого понимания тонкостей языка, тщательного отбора данных и передовых методов моделирования».

Кульминация инноваций

После нескольких месяцев планирования, разработки и тестирования команда была готова выпустить арабский язык в качестве языковой опции для Galaxy AI, что позволило гораздо большему количеству людей общаться без границ. Благодаря ним, сервисы Galaxy AI стали доступными для носителей арабского языка, что снизило языковые и культурные барьеры между людьми по всему миру. Кроме того, новые передовые методы, разработанные ими, можно распространить по всему миру. Команда на этом не останавливается – она продолжает совершенствовать свои модели и повышать качество языковых возможностей Galaxy AI.

В следующем эпизоде мы отправимся во Вьетнам, чтобы узнать, как совершенствуются языковые данные. А также, что необходимо для обучения эффективной модели ИИ?

Арабский – лишь один из многих языков и диалектов, поддерживаемых Galaxy AI и доступных для загрузки в приложении «Настройки». Языковые функции Galaxy AI, такие как Live Translate и Interpreter, доступны на устройствах Galaxy с обновлением One UI 6.1 от Samsung.²

¹ ЮНЕСКО, Всемирный день арабского языка 2023, https://www.unesco.org/en/world-arabic-language-day
² One UI 6.1 был впервые выпущен на устройствах серии Galaxy S24, а затем распространился и на другие устройства Galaxy, включая серии S23, S23 FE, S22, S21, Z Fold5, Z Fold4, Z Fold3, Z Flip5, Z Flip4, Z Flip3, Tab S9 и Tab S8.

В то время как Samsung продолжает создавать первоклассные мобильные устройства с искусственным интеллектом, мы посещаем исследовательские центры Samsung по всему миру, чтобы узнать, как Galaxy AI позволяет большему количеству пользователей максимально раскрыть свой потенциал. Galaxy AI теперь поддерживает 16 языков, так что еще больше людей смогут расширить свои языковые возможности даже в автономном режиме благодаря переводу на устройстве в таких функциях, как Live Translate, Interpreter, Note Assist и Browsing Assist. Но что включает в себя разработка языка ИИ? В этой серии мы рассмотрим проблемы работы с мобильным ИИ и способы их преодоления. Сперва мы отправимся в Индонезию, чтобы узнать, с чего начинается обучение ИИ новому языку.

Первый шаг – это определение целей, по мнению команды Samsung R&D Institute Indonesia (SRIN). «Отменный ИИ начинается с качественных и релевантных данных. Каждый язык требует своего способа обработки, поэтому мы глубоко погружаемся в языковую среду, чтобы понять языковые потребности и уникальные условия нашей страны», – Джунайдилла Фадлил (Junaidillah Fadlil), руководитель отдела ИИ в SRIN, его команда недавно добавила поддержку индонезийского языка (Bahasa Indonesia) в Galaxy AI. «Развитие местных языков должно происходить под руководством интуиции и науки, поэтому каждый процесс добавления языков в Galaxy AI начинается с планирования, какая информация нам нужна и какую мы можем получить законным и этичным путем».

Функции Galaxy AI, такие как Live Translate, выполняют три основных процесса: автоматическое распознавание речи (ASR), нейромашинный перевод (NMT) и преобразование текста в речь (TTS). Каждый процесс требует отдельного набора информации.

ASR, например, требует обширных записей речи в различных условиях, каждая из которых сопровождается точной транскрипцией текста. Варьирование уровня фонового шума позволяет учитывать различные условия окружающей среды. «Недостаточно просто добавлять шумы к записям», – объясняет Мучлисин Ади Сапутра (Muchlisin Adi Saputra), руководитель группы ASR. «В дополнение к языковым данным, которые мы получаем от авторизованных сторонних партнеров, нам приходится выходить в кофейни или на рабочие места, чтобы записать свои голоса. Это позволяет нам достоверно передавать уникальные звуки из реальной жизни, например, голоса людей или стук клавиатуры».

Необходимо также учитывать постоянно меняющуюся природу языков. Сапутра добавляет: «Мы должны быть в курсе новейшего сленга и того, как он используется, и чаще всего мы находим его в социальных сетях»!

Далее NMT требуются данные для обучения переводу. «Перевод индонезийского языка – сложная задача», – говорит Мухамад Файсал (Muhamad Faisal), руководитель группы NMT. «Он широко использует контекстуальные и неявные значения, опираясь на социальные и ситуационные подсказки, поэтому нам нужны многочисленные переведенные тексты, в которых ИИ мог бы искать новые, иностранные слова, собственные существительные и идиомы – любую информацию, которая помогает ИИ понять контекст и правила общения».

Для TTS требуются записи, которые охватывают диапазон голосов и тонов, с дополнительным контекстом о том, как части слов звучат в различных обстоятельствах. «Хорошая запись голоса может сделать половину работы и покрыть все необходимые фонемы (единицы звука в речи) для модели ИИ», – добавляет Харитс Абдуррохман (Harits Abdurrohman), руководитель группы TTS. «Если актер озвучивания отлично справился со своей работой на предыдущем этапе, внимание переключается на совершенствование модели ИИ для четкого произношения конкретных слов».

Сильнее вместе

Для планирования большого объема данных требуются огромные ресурсы, поэтому SRIN тесно сотрудничала с экспертами в области лингвистики. «Эта задача требует творческого подхода, изобретательности и знаний как в области индонезийского языка, так и в области машинного обучения», – размышляет Фадлил. «Философия открытого сотрудничества Samsung сыграла большую роль в достижении поставленной цели, как и масштабы нашей деятельности и история развития ИИ».

Работая с другими исследовательскими центрами Samsung по всему миру, команда SRIN смогла быстро перенять передовой опыт и преодолеть сложности, связанные с созданием целевых данных. Кроме того, сотрудничество способствовало развитию не только технологий, но и культуры. Когда команда SRIN присоединилась к своим коллегам в Бангалоре, Индия, они наблюдали за местными постными обычаями, создавая более глубокие связи и расширяя свое понимание различных культур.

Для команды проект по расширению языка Galaxy AI приобрел новое значение. «Мы особо гордимся нашими достижениями, поскольку это был наш первый проект в области ИИ, и он не станет последним, поскольку мы продолжаем совершенствовать наши модели и улучшать качество результатов», – заключает Фадлил. «Это расширение не только отражает наши ценности открытости, но и уважает и учитывает нашу культурную самобытность через язык».

В следующем выпуске программы The Learning Curve мы отправимся в научно-исследовательский институт Samsung в Иордании, чтобы побеседовать с командой, возглавлявшей проект Galaxy AI по изучению арабского языка. Узнайте о сложностях создания и обучения модели ИИ для языка с различными диалектами.