El proceso de creación de funciones lingüísticas para Galaxy AI requirió mucho tiempo y esfuerzo, ya que cada idioma presenta una estructura y cultura únicas. Investigadores de Samsung de todo el mundo -Brasil, China, India, Indonesia, Japón, Jordania, Polonia y Vietnam- compartieron los retos y los triunfos del desarrollo de Galaxy AI. Samsung Newsroom ha recopilado un resumen de sus historias a continuación.

Desarrollo de un modelo de traducción

Las funciones de Galaxy AI, como Live Translate, realizan tres procesos básicos: reconocimiento automático de voz (ASR), traducción automática neuronal (NMT) y conversión de texto a voz (TTS).

▲ El reconocimiento automático del habla (ASR), la traducción automática neuronal (NMT) y la conversión de texto a voz (TTS) requieren distintos conjuntos de información para su entrenamiento.

El Instituto de Investigación y Desarrollo de Samsung de Vietnam (SRV) se enfrentó a obstáculos con los modelos de reconocimiento automático del habla (ASR) porque el vietnamita es un idioma con seis tonos distintos. Los idiomas con tonos pueden ser difíciles de reconocer para la IA debido a la complejidad que los tonos añaden a los matices lingüísticos. SRV respondió al reto con un modelo que diferencia entre fotogramas de audio más cortos, de unos 20 milisegundos.

El Instituto de Investigación y Desarrollo de Samsung de Polonia (SRPOL) se enfrentó al gigantesco reto de entrenar modelos de traducción automática neural (NMT) para un continente tan variado como Europa. Aprovechando su amplia experiencia en proyectos que abarcan más de 30 idiomas en cuatro zonas horarias, SRPOL fue capaz de sortear la dificultad de traducir ciertas frases y manejar expresiones idiomáticas que pueden no tener equivalentes directos en otros idiomas.

El Instituto de Investigación y Desarrollo de Samsung de Jordania (SRJO) adaptó el árabe -una lengua hablada en más de 20 países en unos 30 dialectos- para Galaxy AI. Crear un modelo de texto a voz (TTS) no fue tarea fácil, ya que los diacríticos y las guías de pronunciación son ampliamente comprendidos por los hablantes nativos de árabe, pero están ausentes en la escritura. Basándose en un sofisticado modelo de predicción de los diacríticos ausentes, SRJO pudo publicar un modelo lingüístico que entiende los dialectos y puede responder en árabe estándar.

La importancia de los datos

A lo largo del proceso de capacitación de Galaxy AI en cada idioma, un tema general fue la importancia de una colaboración abierta con las instituciones locales. La calidad de los datos utilizados afecta directamente a la precisión del ASR, NMT y TTS. Por eso, Samsung trabajó con varios socios para obtener y revisar datos que reflejaran la jerga, los dialectos y otras variantes de cada región.

▲ Cada lengua tiene sus propias cualidades, que dificultan la creación de un modelo lingüístico de inteligencia artificial. En el caso de las lenguas tonales, como el vietnamita, los tonos aumentan la complejidad.

El Instituto de Investigación y Desarrollo de Samsung en India-Bangalore (SRI-B) colaboró con el Instituto de Tecnología de Vellore para obtener casi un millón de líneas de datos de audio segmentados y procesados sobre conversaciones, palabras y comandos. Los estudiantes obtuvieron experiencia práctica en un proyecto de la vida real, así como la tutoría de expertos de Samsung; el rico almacén de datos ayudó a SRI-B a entrenar Galaxy AI en hindi, cubriendo más de 20 dialectos regionales y sus respectivas inflexiones de tono, puntuación y expresiones coloquiales.

Para el modelo del español latinoamericano era imprescindible contar con conocimientos lingüísticos locales, ya que la variedad del idioma se refleja en la diversidad de su base de usuarios. Por ejemplo, la palabra piscina puede ser alberca (México), piscina (Colombia, Bolivia, Venezuela) o pileta (Argentina, Paraguay, Uruguay) según la región de la que seas originario. El Instituto Samsung de Investigación y Desarrollo de Brasil (SRBR) trabajó con los institutos de ciencia y tecnología SiDi y Sidia para recopilar y gestionar cantidades masivas de datos, así como para perfeccionar y mejorar las fuentes de audio y texto para el modelo de español latinoamericano de Galaxy AI.

El Instituto Samsung de Investigación y Desarrollo de China-Pekín (SRC-B) y el Instituto de Investigación y Desarrollo Samsung China-Guangzhou (SRC-G) se asociaron con las empresas chinas Baidu y Meitu para aprovechar su experiencia en el desarrollo de grandes modelos lingüísticos (LLM) como ERNIE Bot y MiracleVision, respectivamente Como resultado, Galaxy AI admite los dos modos principales de chino mandarín y cantonés.

Además de la cooperación externa, también fueron fundamentales la diligencia debida y los recursos internos.

El bahasa indonesio es un idioma famoso por su amplio uso de significados contextuales e implícitos que se basan en claves sociales y situacionales. Los investigadores del Instituto Samsung de Investigación y Desarrollo de Indonesia (SRIN) salieron al campo a grabar conversaciones en cafeterías y entornos de trabajo para captar ruidos ambientales auténticos que pudieran distorsionar la entrada de datos. Esto ayudó al modelo a aprender a reconocer la información necesaria a partir de la entrada verbal, mejorando en última instancia la precisión del reconocimiento del habla.

En el japonés hay muchos homónimos, ya que el número de sonidos es limitado. Por lo tanto, muchas palabras se deben determinar en función del contexto. El Instituto Samsung de Investigación y Desarrollo de Japón (SRJ) utilizó Samsung Gauss, el LLM interno de la empresa, estructura oraciones contextuales con palabras o frases relevantes para cada escenario para ayudar al modelo de IA a diferenciar entre homónimos.

Red mundial de investigación de Samsung

Los profesionales de varios institutos de Investigación y Desarrollo de Samsung aprovecharon al máximo la red mundial de investigación de Samsung.

Antes de abordar el hindi, SRI-B colaboró con equipos de todo el mundo para desarrollar modelos lingüísticos de IA para el inglés británico, indio y australiano, así como para el tailandés, el vietnamita y el indonesio. Ingenieros de otros centros de investigación de Samsung visitaron Bangalore (India) para llevar el vietnamita, el tailandés y el indonesio a Galaxy AI.

▲ Staff and collaborators pose in front of Samsung R&D Institute India-Bangalore (SRI-B)

SRPOL tenía una amplia experiencia en el desarrollo de modelos ASR, NMT y TTS para una gran variedad de idiomas. SRPOL, protagonista clave en la expansión lingüística de Galaxy AI, colaboró en todos los continentes para apoyar SRJO con dialectos árabes y SRBR con portugués brasileño y español latinoamericano.

Los desarrolladores de Samsung en cada uno de estos lugares aprendieron a colaborar a través de fronteras y husos horarios. Los desarrolladores de SRIN incluso observaron las costumbres locales de ayuno en la India cuando se reunieron con sus colegas de SRI-B. Muchos reflexionaron sobre su trabajo con orgullo y gratitud, dándose cuenta de las implicancias duraderas que este proyecto tiene en el idioma, la cultura, el patrimonio y la identidad.

Esfuerzos continuos a medida que avanza el proceso

Recientemente Samsung presentó Galaxy AI en sus últimos dispositivos plegables y portátiles. Desde su lanzamiento a principios de este año, Galaxy AI ya se ha utilizado en más de 100 millones de dispositivos. “Esperamos alcanzar los 200 millones de dispositivos a finales de 2024”, declaró Won-joon Choi, Vicepresidente Ejecutivo y Director de la Oficina de Investigación y Desarrollo de Móviles, Mobile eXperience Business de Samsung Electronics, en un reciente debate.

En medio de esta misión de democratizar la IA, es importante mirar atrás y celebrar los logros y avances que han llevado a proporcionar esta tecnología segura e inclusiva que beneficiará a la humanidad y mejorará vidas. Al construir el ecosistema Galaxy AI con aún más funciones, idiomas y variantes regionales, Samsung está facilitando los intercambios interculturales de manera sin precedentes para hacer realidad su visión de IA para Todos.

El Instituto de Investigación y Desarrollo de Japón (SRJ) se creó para ser un centro de I+D centrado en hardware, como electrodomésticos y pantallas. Con la demanda de innovación en IA aumentando en todo el mundo, SRJ en Yokohama también ha estado operando un laboratorio de desarrollo de software para crear la función de Live Translate de Galaxy AI que, desde finales del año pasado, traduce automáticamente las llamadas de voz en tiempo real.

“La función de Live Translate es especialmente útil en los viajes, como en el caso de quienes acudan a los Juegos Olímpicos de este año en París”, afirma Takayuki Akasako, director de Inteligencia Artificial de SRJ. “Actualmente estamos desarrollando un programa de reconocimiento de voz para personas que hacen turismo y van a ver los Juegos Olímpicos de París y entrenando el programa de reconocimiento de voz para aprender sobre los Juegos y las ubicaciones de los estadios para París 2024”.

Comprensión del contexto en el reconocimiento de voz

Para aquellos que ya utilizan las funciones de traducción de Galaxy AI, estas funcionalidades pueden parecer muy útiles. Pero los desarrolladores que las han creado saben que poder comunicarse en el extranjero no es algo que se pueda dar por sentado.

Una cosa que el equipo notó fue que hay más homónimos en japonés que en otros idiomas. Por ejemplo, ‘palillos’ (Hashi,箸) y ‘puente’ (Hashi,橋) son relativamente fáciles de distinguir debido a la diferencia de entonación, pero palabras como ‘turismo’ (Kankō,観光), ‘costumbres’ (Kankō,慣行), ‘público’ (Kōkyō,公共) y ‘prosperidad’ (Kōkyō,好況) deben interpretarse según el contexto.

“La interpretación se vuelve más difícil cuando el contexto es ambiguo, como en los casos de nombres de lugares y personas, nombres propios, dialectos y números”, dice Akasako. “Por lo tanto, para mejorar la precisión del reconocimiento de voz, se necesitan muchos datos”.

“Siempre buscamos formas de ajustar el modelo de IA para eventos y momentos clave, a tiempo”, añade Akasako. “Con muchas combinaciones nuevas de nombres de lugares y actividades, es importante que el contexto quede claro cuando las personas usan Galaxy AI”.

Desafíos en la recopilación de datos eficientes

Si bien también es importante reconocer los tipos de datos necesarios, recopilar los datos en sí mismo es un desafío aparte.

Anteriormente, el equipo de SRJ utilizaba datos grabados por personas para entrenar el motor de reconocimiento de voz para la función de Live Translate, lo que no nos llevaba a una recopilación de datos suficiente.

Samsung Gauss, el modelo de lenguaje grande (LLM, por sus siglas en inglés) de la compañía, utiliza guiones para estructurar oraciones con palabras o expresiones que son relevantes para cada escenario. Los datos recopilados con Samsung Gauss no solo los graban las personas, sino que también los generan datos de síntesis de voz text-to-speech (TTS), por medio de los cuales las personas realizan la verificación de calidad final. Con este método, el equipo ha observado una mejora significativa en la eficiencia de la recopilación de datos.

“Cada vez que se identifica y resuelve un problema, la precisión del reconocimiento de voz mejora significativamente”, explica Akasako. “Independientemente de dónde se encuentren las personas, nuestro objetivo es conectarlas entre sí, y las herramientas impulsadas por Galaxy AI garantizarán una comunicación más divertida y eficiente”.

Escondido dentro del Instituto de Tecnología Vellore en Chennai, India, hay un laboratorio lleno de equipos de audio futuristas. Se pueden encontrar maniquíes —conocidos en la industria como simuladores de cabeza y torso— así como micrófonos binaurales y audífonos. Se almacenan en cámaras especiales tratadas con un avanzado sistema de absorción acústica, lo que convierte a este laboratorio en el primero de su tipo en la India. Imaginate que una instalación así se utiliza para desarrollar los últimos equipos de alta fidelidad (Hi-Fi) de próxima generación.

Acá es donde el Instituto de Tecnología Vellore colabora con Samsung para producir y desarrollar datos e ideas que impulsan los últimos modelos de IA para las capacidades lingüísticas de Galaxy AI. El centro se desarrolló como parte del Samsung SEED (Students Ecosystem for Engineered Data) Labs, una iniciativa que permite al personal universitario, estudiantes y becarios en la India trabajar en proyectos solicitados por Samsung desde 2021. Este es solo uno de varios programas universitarios financiados por Samsung, en el que los alumnos tienen la oportunidad de trabajar en proyectos con expertos técnicos de la empresa.

“Como estudiante, me encanta poder trabajar en varios proyectos con una empresa conocida y respetada como Samsung”, asegura Yashika Ilanchezhiyan, estudiante del Samsung SEED. “Me dieron confianza para aprender nuevas habilidades de manera práctica y siento que estoy marcando una diferencia real en los productos actuales y futuros”.

“En este tipo de colaboración todos salen ganando”, afirma Giridhar Jakki, director de IA para idiomas en el Instituto de Investigación y Desarrollo de India – Bangalore (SRI-B). “Gracias a nuestros proyectos con universidades, podemos acceder a conocimientos adicionales y conjuntos de datos personalizados. A cambio, las universidades asociadas reciben inversión, incentivos financieros y asesoramiento especializado de Samsung”.

Reducir las barreras del idioma

SRI-B ha colaborado con equipos de todo el mundo para desarrollar modelos de IA para el inglés británico, indio y australiano, así como para los idiomas tailandés, vietnamita y indonesio. Recientemente, los principales ingenieros de otros centros de investigación de Samsung visitaron Bangalore (India), donde el equipo de SRI-B ayudó a desarrollar la tecnología para incorporar el vietnamita, el tailandés y el indonesio a Galaxy AI. De este modo, SRI-B se situó en una posición ideal para desarrollar el idioma hindi para Galaxy AI.

Según Jakki, “Cada idioma tiene sus desafíos. Pero cuando pensamos en el objetivo final de brindarle a las personas la capacidad de comunicarse en otros idiomas, todo el esfuerzo vale la pena. No veíamos la hora de incorporar el hindi a Galaxy AI”.

Desarrollar el modelo hindi de IA no fue fácil. El equipo tuvo que garantizar que se incluyeran más de 20 dialectos regionales, inflexiones vocales, puntuación y coloquialismos. Además, los hablantes de hindi suelen mezclar palabras en inglés en sus conversaciones. Esto requirió que el equipo tuviera que realizar varias sesiones de entrenamiento de modelos de IA con una combinación de datos traducidos y transliterados.

“El hindi tiene una estructura fonética compleja que incluye sonidos retroflejos —sonidos que se producen al curvar la lengua hacia atrás— que no existen en muchos otros idiomas”, asevera Jakki. “Para desarrollar el elemento de síntesis de voz de la solución de IA, analizamos cuidadosamente los datos con lingüistas nativos para comprender todos los sonidos únicos y creamos un conjunto especial de fonemas para admitir dialectos específicos del idioma”.

Los esfuerzos de colaboración entre Samsung y los socios académicos fueron fundamentales para desarrollar el modelo de lenguaje de IA que reflejará los matices culturales de las regiones de la India. El Instituto de Tecnología Vellore ayudó a obtener casi un millón de líneas de datos de audio segmentados y organizados sobre voz, palabras y comandos conversacionales. Los datos fueron un componente clave para una tarea tan crítica como la de incorporar el cuarto idioma más hablado del mundo a Galaxy AI. Trabajar con universidades garantizó que Samsung utilizará datos de la más alta calidad.

Conexiones globales que generan grandes impactos

Este proyecto resume a la perfección la filosofía de colaboración abierta de Samsung y la convicción de la compañía de que compartir conocimientos y perspectivas garantiza una innovación significativa En el caso de SRI-B, esto no solo incluye trabajar con el mundo académico sino también compartir ideas y prácticas recomendadas con otros centros de investigación de Samsung en todo el mundo.

“Estoy muy orgulloso de lo que hemos logrado con la ayuda de nuestros socios”, afirma Jakki. “La innovación en IA mediante la colaboración es una gran parte de lo que hacemos. Continuaremos comprendiendo, recopilando y analizando mejor los datos lingüísticos para que más personas puedan acceder a las herramientas de IA en el futuro”.

Brasil, un país diverso con más de 203 millones de habitantes que encarna una amplia gama de culturas y tradiciones, utiliza el portugués brasileño como idioma oficial. Mientras tanto, 22 países vecinos utilizan el español latinoamericano.

Aunque el portugués brasileño y el español latinoamericano se hablan ampliamente, las intrincadas variaciones de ambos idiomas presentaron varios desafíos al enseñar a la Galaxy AI a discernir y distinguir las diferencias regionales. Es por eso que el Instituto de Investigación y Desarrollo de Samsung Brasil (SRBR) colaboró con expertos de Samsung de México, así como con aliados externos como los institutos de ciencia y tecnología SiDi y Sidia, para formar un equipo multidisciplinario y altamente capacitado que pudiera enfrentar esta tarea.

Menos barreras, más comprensión

El equipo utilizó miles de fuentes y una combinación de aprendizaje automático y lenguaje para mejorar el reconocimiento del habla, los textos escritos y las variaciones regionales del modelo de IA. Pero la jerga local y los nombres de figuras famosas (incluidos equipos deportivos, celebridades y bandas) varían mucho entre regiones. Además, el mismo significado puede expresarse con palabras diferentes. Si bien los modelos lingüísticos necesitan datos localizados para obtener una comprensión integral de los diferentes idiomas para traducir, tales variaciones inevitablemente presentan obstáculos.

Por ejemplo, piscina es “alberca” en México, pero es “pileta” en Argentina, Paraguay y Uruguay. Mientras tanto, en Colombia, Bolivia y Venezuela la piscina es “piscina”, así como también en Brasil, pero con una ligera diferencia tonal. Y mientras que los colombianos dicen “chévere” para referirse a algo interesante, los mexicanos dicen “padre”.

Estas diferencias representan enormes desafíos para la comprensión y el aprendizaje del lenguaje de la IA, pero el equipo los superó construyendo modelos de lenguaje más amplios, perfeccionando las herramientas de procesamiento y colaborando a través de fronteras y zonas horarias.

“Tuvimos que considerar la jerga local y diferentes formas de hablar antes de adaptar y probar el modelo respectivo, lo que requirió una estrecha colaboración entre el equipo de control de calidad (QA) de SRBR y los equipos de desarrollo”, dice Mateus Pedroso, gerente senior y jefe del Laboratorio de Calidad de Software. en SRBR. “Dado que SRBR está tres horas adelantado del equipo de control de calidad en México y 12 horas atrasado del equipo de gestión en Corea, tuvimos que crear nuevos canales y procesos de comunicación para alinear resultados y compartir progresos. Esta colaboración multicultural generó una fiesta de ideas y soluciones para la Galaxy AI”.

Comunicando el éxito

La filosofía de colaboración abierta de Samsung cobró vida durante este proyecto regional, ya que fue un proceso iterativo que aprovechó la evolución de la tecnología a escala global. Para superar las barreras lingüísticas y culturales, el equipo de SRBR necesitaba recopilar, gestionar y desarrollar cantidades masivas de datos, refinando y mejorando continuamente las fuentes de audio y texto.

Los equipos crearon áreas clave de responsabilidad para garantizar que todos pudieran beneficiarse de las habilidades colectivas en las oficinas latinoamericanas de la empresa. El equipo de desarrollo de SRBR actuó como parte intermediaria del proyecto, recibió instrucciones de la sede de Samsung y desarrolló nuevas actualizaciones para mejorar el modelo de IA mientras realizaba pruebas para varios tipos de uso.

“La fase de prueba requirió una amplia comunicación y colaboración con los equipos de control de calidad para optimizar la experiencia del usuario, y cada ajuste requirió pruebas y revisiones adicionales”, dice Leandro Flores de Moura, Gerente de Desarrollo de Software de SiDi. “El éxito de las capacidades lingüísticas de la Galaxy AI se basa tanto en la comunicación y la colaboración como en la experiencia técnica”, añade Nathan Castro, desarrollador de pruebas de control de calidad en SiDi.

Una hoja de ruta para la cultura

Lo que hace que Galaxy AI sea particularmente interesante para todos los involucrados es el hecho de que no se trataba simplemente de un proyecto de lenguaje. Para ellos, el idioma es una guía cultural que proporciona información valiosa sobre la herencia y la identidad de las personas.

“Para el equipo de control de calidad de SiDi, este fue un esfuerzo que cambiará el mundo al permitir que las culturas se unan y superen la dificultad de comunicarse en diferentes idiomas”, agrega Estefanía Castro Suárez, desarrolladora de pruebas de SiDi. “Saber que fuimos parte de esto nos llena de orgullo y motivación”.

“La forma en que colaboró el equipo de SRBR ejemplifica lo que Galaxy AI se propone lograr: hacer del mundo un lugar más cercano mediante la comunicación, el intercambio y la interacción con personas, incluso con aquellas que hablan diferentes idiomas”, concluye Pedroso. “Esta capacidad solo crecerá a medida que se incorporen más idiomas a Galaxy AI”.