A diferencia de los sistemas basados en servidor, los entornos en el dispositivo operan bajo estrictas restricciones de memoria y computación. Como resultado, reducir el tamaño del modelo de IA y maximizar la eficiencia del tiempo de ejecución son esenciales. Para abordar este desafío, el Centro de IA de Samsung Research está liderando el trabajo en tecnologías centrales, desde la compresión de modelos y la optimización de software en tiempo de ejecución hasta el desarrollo de nuevas arquitecturas.

Samsung Newsroom se sentó con el Dr. MyungJoo Ham, Master en el AI Center, Samsung Research, para discutir el futuro de la IA en el dispositivo y las tecnologías de optimización que la hacen posible.

El Primer Paso Hacia la IA en el Dispositivo

En el corazón de la IA generativa —que interpreta el lenguaje del usuario y produce respuestas naturales— se encuentran los grandes modelos de lenguaje (Large Language Models – LLMs). El primer paso para habilitar la IA en el dispositivo es comprimir y optimizar estos modelos masivos para que se ejecuten sin problemas en dispositivos como smartphones.

“Ejecutar un modelo altamente avanzado que realiza miles de millones de cálculos directamente en un smartphone o laptop agotaría rápidamente la batería, aumentaría el calor y ralentizaría los tiempos de respuesta, degradando notablemente la experiencia del usuario”, dijo el Dr. Ham. “La tecnología de compresión de modelos surgió para abordar estos problemas”.

Los LLMs realizan cálculos utilizando representaciones numéricas extremadamente complejas. La compresión de modelos simplifica estos valores en formatos enteros más eficientes a través de un proceso llamado cuantificación. “Es como comprimir una foto de alta resolución para que el tamaño del archivo se reduzca, pero la calidad visual permanezca casi igual”, explicó. “Por ejemplo, convertir cálculos de punto flotante de 32 bits a enteros de 8 bits o incluso 4 bits reduce significativamente el uso de memoria y la carga computacional, acelerando los tiempos de respuesta”.

Una caída en la precisión numérica durante la cuantificación puede reducir la precisión general de un modelo. Para equilibrar la velocidad y la calidad del modelo, Samsung Research está desarrollando algoritmos y herramientas que miden y calibran de cerca el rendimiento después de la compresión.

“El objetivo de la compresión de modelos no es solo hacer que el modelo sea más pequeño, sino mantenerlo rápido y preciso”, dijo el Dr. Ham. “Utilizando algoritmos de optimización, analizamos la función de pérdida del modelo durante la compresión y lo reentrenamos hasta que sus salidas se mantengan cerca de las originales, suavizando las áreas con grandes errores. Debido a que cada peso del modelo tiene un nivel diferente de importancia, preservamos los pesos críticos con mayor precisión mientras comprimimos los menos importantes de manera más agresiva. Este enfoque maximiza la eficiencia sin comprometer la precisión”.

Además de desarrollar tecnología de compresión de modelos en la etapa de prototipo, Samsung Research la adapta y comercializa para productos del mundo real como smartphones y electrodomésticos. “Debido a que cada modelo de dispositivo tiene su propia arquitectura de memoria y perfil de computación, un enfoque general no puede ofrecer un rendimiento de IA a nivel de nube”, dijo. “A través de la investigación impulsada por productos, estamos diseñando nuestros propios algoritmos de compresión para mejorar las experiencias de IA que los usuarios pueden sentir directamente en sus manos”.

El Motor Oculto que Impulsa el Rendimiento de la IA

Incluso con un modelo bien comprimido, la experiencia del usuario depende en última instancia de cómo se ejecuta en el dispositivo. Samsung Research está desarrollando un motor de tiempo de ejecución de IA (AI runtime engine) que optimiza cómo se utilizan la memoria y los recursos de computación de un dispositivo durante la ejecución.

“El tiempo de ejecución de IA es esencialmente la unidad de control del motor del modelo”, dijo el Dr. Ham. “Cuando un modelo se ejecuta en múltiples procesadores, como la unidad central de procesamiento (CPU), la unidad de procesamiento de gráficos (GPU) y la unidad de procesamiento neuronal (NPU), el tiempo de ejecución asigna automáticamente cada operación al chip óptimo y minimiza el acceso a la memoria para aumentar el rendimiento general de la IA”.

El tiempo de ejecución de IA también permite que modelos más grandes y sofisticados se ejecuten a la misma velocidad en el mismo dispositivo. Esto no solo reduce la latencia de respuesta, sino que también mejora la calidad general de la IA, ofreciendo resultados más precisos, conversaciones más fluidas y un procesamiento de imágenes más refinado.

“Los mayores cuellos de botella en la IA en el dispositivo son el ancho de banda de la memoria y la velocidad de acceso al almacenamiento”, dijo. “Estamos desarrollando técnicas de optimización que equilibran inteligentemente la memoria y la computación”. Por ejemplo, cargar solo los datos necesarios en un momento dado, en lugar de mantener todo en la memoria, mejora la eficiencia. “Samsung Research ahora tiene la capacidad de ejecutar un modelo generativo de 30 mil millones de parámetros —típicamente de más de 16 GB de tamaño— en menos de 3 GB de memoria”, agregó.

La Próxima Generación de Arquitecturas de Modelos de IA

La investigación sobre arquitecturas de modelos de IA, los planos fundamentales de los sistemas de IA, también está muy avanzada.

“Debido a que los entornos en el dispositivo tienen memoria y recursos de computación limitados, necesitamos rediseñar las estructuras de los modelos para que se ejecuten de manera eficiente en el hardware”, dijo el Dr. Ham. “Nuestra investigación de arquitectura se centra en la creación de modelos que maximicen la eficiencia del hardware”. En resumen, el objetivo es construir arquitecturas amigables con el dispositivo desde cero para garantizar que el modelo y el hardware del dispositivo trabajen en armonía desde el principio.

Entrenar LLMs requiere mucho tiempo y costo, y una estructura de modelo mal diseñada puede elevar esos costos aún más. Para minimizar las ineficiencias, Samsung Research evalúa el rendimiento del hardware con anticipación y diseña arquitecturas optimizadas antes de que comience el entrenamiento. “En la era de la IA en el dispositivo, la clave de la ventaja competitiva es cuánta eficiencia se puede extraer de los mismos recursos de hardware”, dijo. “Nuestro objetivo es alcanzar el nivel más alto de inteligencia dentro del chip más pequeño posible: esa es la dirección técnica que estamos siguiendo”.

Hoy en día, la mayoría de los LLMs se basan en la arquitectura transformer. Los transformers analizan una oración completa a la vez para determinar las relaciones entre las palabras, un método que sobresale en la comprensión del contexto, pero tiene una limitación clave: las demandas computacionales aumentan drásticamente a medida que las oraciones se vuelven más largas. “Estamos explorando una amplia gama de enfoques para superar estas restricciones, evaluando cada uno en función de cuán eficientemente puede operar en entornos de dispositivos reales”, explicó el Dr. Ham. “Estamos enfocados no solo en mejorar los métodos existentes, sino en desarrollar la próxima generación de arquitecturas construidas sobre metodologías completamente nuevas”.

El Camino a Seguir para la IA en el Dispositivo

¿Cuál es el desafío más crítico para el futuro de la IA en el dispositivo? “Lograr un rendimiento a nivel de nube directamente en el dispositivo”, dijo el Dr. Ham. Para hacer esto posible, la optimización del modelo y la eficiencia del hardware trabajan en estrecha colaboración para ofrecer IA rápida y precisa, incluso sin una conexión de red. “Mejorar la velocidad, la precisión y la eficiencia energética al mismo tiempo será aún más importante”, agregó.

Los avances en la IA en el dispositivo están permitiendo a los usuarios disfrutar de experiencias de IA rápidas, seguras y altamente personalizadas, en cualquier momento y lugar. “La IA mejorará en el aprendizaje en tiempo real en el dispositivo y en la adaptación al entorno de cada usuario”, dijo el Dr. Ham. “El futuro radica en ofrecer servicios naturales e individualizados al mismo tiempo que se salvaguarda la privacidad de los datos”.

Samsung está ampliando los límites para ofrecer experiencias más avanzadas impulsadas por la IA en el dispositivo optimizada. A través de estos esfuerzos, la compañía tiene como objetivo proporcionar experiencias de usuario aún más notables y fluidas.

Un elemento central de las innovaciones de la inteligencia artificial de Samsung es la inteligencia artificial en el dispositivo. Esta tecnología permite que la IA funcione de forma independiente dentro del dispositivo y no requiere de un servidor externo ni de la nube. Los usuarios se benefician con tiempos de respuesta rápidos de la IA sin necesidad de una conexión de red, lo que reduce las preocupaciones con la fuga de datos personales.

La IA en el dispositivo ahora ha evolucionado más allá de las funciones simples para manejar demandas que requieren grandes cantidades de datos (como la IA generativa) utilizando solo los recursos internos del dispositivo.

Samsung Newsroom muestra cómo Samsung lidera el mundo en innovaciones de inteligencia artificial en los dispositivos.

No requiere nube: Transformando la experiencia de IA en el dispositivo

Respondiendo a la necesidad de velocidad y seguridad, gran parte de la industria tecnológica se ha centrado en ejecutar una IA generativa directamente en el dispositivo. Con inversiones a largo plazo que se remontan a más de una década, Samsung ha personalizado las funciones de IA para muchos de sus dispositivos y se ha colocado a la vanguardia al brindar experiencias de IA en el dispositivo para la vida diaria.

Galaxy AI de Samsung, por ejemplo, ofrece funciones de IA integradas en los últimos dispositivos móviles y tablets de la compañía.[1] Ahora compatible con un total de 20 idiomas[2], Galaxy AI permite una comunicación sin barreras lingüísticas, incluida la interpretación de conversaciones en tiempo real y la traducción de mensajes y páginas web.

Para los televisores, Samsung aprovecha su experiencia como líder mundial en el mercado para entrenar modelos de IA. Desde 2020, la empresa ha mejorado continuamente su procesador específico para televisores con una NPU (unidad de procesamiento neuronal) incorporada. El procesador NQ8 AI Gen3 del modelo Neo QLED 8K 2024 cuenta con 512 redes neuronales para una calidad de imagen y sonido mejorada. Al analizar y modificar píxeles, fotogramas y fuentes de sonido, el procesador ofrece un escalado avanzado, movimientos suaves y un diálogo claro para una experiencia de visualización perfecta en todas las situaciones.

La clave de la IA en el dispositivo es minimizar el tamaño del modelo manteniendo el rendimiento. Para lograrlo, Samsung se ha centrado en una implementación eficiente utilizando datos de entrenamiento de IA especializados y adaptados a tareas específicas.

▲ Los maestros Sunmin Kim y Cheulhee Hahm, de Visual Display Business, Samsung Electronics, explican la inteligencia artificial en el dispositivo.

Más pequeño y más rápido: Investigación para optimización de IA de Samsung

A medida que la tecnología de IA avanza y aumentan los requisitos de procesamiento de datos, la optimización del modelo se ha vuelto crucial. En otras palabras, los modelos de IA de alto rendimiento deben poder operar eficientemente dentro de los límites de los recursos de los dispositivos (incluidos sus procesadores, memorias y baterías), manteniendo al mismo tiempo los niveles de rendimiento y confiabilidad para el uso diario. Las tecnologías clave para esto incluyen la compresión de modelos, la optimización del hardware y la aceleración del procesamiento de datos.

Samsung ha asegurado varias tecnologías en el campo de la compresión de modelos para reducir el tamaño de los modelos de IA. La empresa ha logrado desarrollar modelos de IA ligeros y rápidos a través de técnicas como la cuantificación, que mejora la velocidad de respuesta al simplificar los algoritmos y optimizar los procesos de cálculo; la poda, que elimina elementos no esenciales de modelos más grandes; y la destilación de conocimiento, que transfiere conocimiento de modelos grandes a modelos más pequeños.

Samsung también continúa innovando en la optimización del hardware y la aceleración del procesamiento de datos para ejecutar IA de manera rápida y eficiente. Por ejemplo, la tecnología de utilización de flash divide modelos de IA de gran tamaño y reduce significativamente el uso de memoria. Además, la empresa ha desarrollado una tecnología patentada que se espera ayude a realizar inferencias rápidas en dispositivos de gama baja sin NPU para ampliar las aplicaciones de IA en varios productos. Se están realizando más investigaciones para aumentar la velocidad de inferencia con decodificación especulativa, una tecnología que predice los resultados del modelo de IA, y mejora la potencia de procesamiento ejecutando varios hardware simultáneamente.

▲ Poda y destilación de conocimientos

Experiencia de extremo a extremo: Del desarrollo interno a la implementación

Con experiencia que abarca hardware, software, componentes y productos finales, Samsung lidera la innovación en inteligencia artificial en dispositivos, desde la investigación y el desarrollo hasta la implementación del producto.

Desde la perspectiva de los dispositivos, el liderazgo de Samsung en el mercado de dispositivos móviles, televisores, electrodomésticos y más representa su excelencia tanto en hardware como en software. Samsung integra IA en sus propios dispositivos, lo que le permite a la empresa aprovechar tanto el desarrollo interno como la colaboración abierta con aliados de la industria para crear modelos de IA optimizados por hardware.

La experiencia de Samsung también incluye software de sistema para unir hardware y software de aplicación. Por ejemplo, el sistema operativo Tizen y las NPU de los televisores Samsung potencian la inteligencia artificial en el dispositivo para ofrecer una experiencia de visualización más inteligente y mejorada. La empresa también proporciona a los desarrolladores SDK de Vision AI y Language AI, así como API de aprendizaje automático para facilitar el entrenamiento y la inferencia de modelos de IA.

Samsung Research, el centro de investigación y desarrollo avanzado de la empresa se centra en mejorar la competitividad mediante el uso de la experiencia especializada de su red global de laboratorios, desde el desarrollo de estructuras de modelos de IA y la compresión de modelos en el Reino Unido y los EE. UU. hasta la creación de soluciones de aceleración de IA en India y Polonia.

Desde la perspectiva de los componentes, Samsung ha impulsado constantemente el progreso en el rendimiento de NPU como fabricante líder de semiconductores y planea seguir trabajando con sus aliados para desarrollar nuevas formas de utilizar la IA en los dispositivos.

▲ Samsung presentó una nueva experiencia de TV con inteligencia artificial en la Samsung Developer Conference 2024 en octubre.

Se espera que sus capacidades de inteligencia artificial en dispositivos se expandan a más productos y servicios, Samsung es pionero en cambios innovadores que harán que las tecnologías de inteligencia artificial transformen la vida diaria. En la segunda parte de esta serie, Samsung Newsroom explorará las innovaciones de la compañía con IA personalizada.

[1] Los dispositivos compatibles con Galaxy AI incluyen Galaxy Z Fold6, Flip6, Fold5, Flip5, Fold4, Flip4, serie S24, serie S23, serie S22, S24 FE, S23 FE, serie Tab S10, serie Tab S9, serie Tab S8, etc.

[2] Los idiomas admitidos por Galaxy AI incluyen coreano, inglés, árabe, chino simplificado, holandés, francés, alemán, hindi, indonesio, italiano, japonés, polaco, portugués, rumano, ruso, español, sueco, tailandés, turco y vietnamita.

Estamos entrando al momento más emocionante y, probablemente, uno de los más históricos de la tecnología. La era de la IA móvil ya está acá, que para Samsung tuvo inicio con la introducción de las funciones Galaxy AI en la serie Galaxy S24, nuestro primer teléfono con IA. 

Revolucionando las experiencias móviles con un enfoque de IA híbrida

Para llevar los beneficios de la vida real de la tecnología de IA generativa a la serie Galaxy S24, adoptamos un enfoque híbrido para nuestra integración de IA. La IA ofrece muchas posibilidades y creemos que los dispositivos móviles son el principal punto de acceso para desbloquear su potencial, ya que los usuarios de todo el mundo siguen dependiendo de sus teléfonos para la mayoría de sus necesidades diarias. 

El papel esencial que desempeñan los dispositivos móviles en la vida cotidiana nos muestra que son elementos personales que los usuarios utilizan durante muchos momentos decisivos y memorables. Entendemos estos comportamientos y creemos que los smartphones deberían ser una herramienta de trabajo ideal para que los usuarios realmente puedan aprovechar al máximo los momentos importantes de una manera más simple, más intuitiva y memorable. También reconocemos la importancia de la privacidad, por eso damos a los usuarios control total sobre lo que desean compartir y sobre lo que desean mantener en privado.

Creemos que nuestro enfoque híbrido es la solución más práctica y confiable para satisfacer todas estas necesidades permitiendo también colocar a Samsung a la vanguardia. Ofrecemos a los usuarios un equilibrio entre la capacidad de respuesta instantánea y la garantía de privacidad adicional de la IA en el dispositivo, junto con la versatilidad de la IA basada en la nube a través de colaboraciones abiertas con socios líderes de la industria para ofrecer una variedad de funciones necesarias para la vida diaria.

Ampliando las posibilidades con la IA en el dispositivo

Creamos la función ‘Traducción simultánea’ en el dispositivo basada en IA, porque la llamada de voz es la característica esencial de un smartphone, así como también es un medio de comunicación íntimo y privado. Samsung se ha comprometido a capacitar a los usuarios para que se comuniquen sin las barreras del idioma, garantizando también que cada comunicación sea segura y privada.

Para hacer realidad esta característica, nuestro equipo de I+D trabajó día y noche como parte de un proceso colaborativo que realmente potencialice nuestros equipos. Desde determinar el tamaño correcto de los modelos de lenguaje de IA hasta la capacitación y las pruebas en escenarios de la vida real, nuestras organizaciones de I+D dentro del negocio MX se desafiaron a sí mismas y superaron los límites de lo que pensábamos que era posible para que esta función se ejecutará completamente en el dispositivo.

Las redes globales de I+D de Samsung en todo el mundo, que están a cargo de hacer crecer los mejores talentos y desarrollar tecnologías centrales en cada región, también han desempeñado un papel fundamental. Los centros de investigación de Samsung en todo el mundo, incluidos Polonia, China, India y Vietnam, se han dedicado a desarrollar y expandir los lenguajes admitidos por Galaxy AI. Los idiomas son siempre culturales, contemporáneos y localizados, por lo que para ayudar a las personas a romper las barreras lingüísticas y comunicarse de forma más natural, el papel de nuestras oficinas locales de I+D es crucial, principalmente a la hora de abrir nuevas posibilidades para los usuarios en más regiones.

Todos estos esfuerzos han permitido a Samsung ofrecer algo completamente nuevo que me complace compartir. En breve, Samsung ampliará el poder de la Galaxy AI más allá de la aplicación de llamadas nativa de Samsung al expandir Traducción Simultánea a otras aplicaciones de mensajes de terceros para admitir llamadas de voz. Para que pueda mantenerse en contacto con amigos o colegas, comunicándose a través de sus aplicaciones favoritas en varios idiomas.

Y dado que esta función se ha integrado en nuestro modelo de traducción de idiomas con IA en el dispositivo, los usuarios podrán experimentar una comunicación libre de barreras sin preocuparse por problemas de privacidad, como cuando se comparten datos personales fuera de su teléfono al utilizar Traducción Simultánea. 

Espero que se incorporen cada vez más funciones de IA móvil en los dispositivos móviles a medida que la potencia informática inteligente de los últimos chips (en particular las NPU) avance a una velocidad vertiginosa, junto con otras tecnologías. Esto permitirá que más personas adopten la IA haciendo que cada día sea más conveniente y ofreciendo al mismo tiempo, mayor tranquilidad.

Hoy crece Galaxy AI para las necesidades del mañana

Esta emocionante noticia es parte de la extensión de nuestro compromiso con Galaxy AI y el ingreso a la siguiente fase de la era de la IA móvil. La introducción de Galaxy AI en la serie Galaxy S24 fue solo el comienzo. Para ofrecer una experiencia de IA completamente nueva y única, optimizaremos aún más la experiencia Galaxy AI para los próximos dispositivos plegables. Nuestros dispositivos plegables son el factor de forma más versátil y flexible de Samsung Galaxy y, cuando se combinan con Galaxy AI, estas dos tecnologías complementarias desbloquearán todas las nuevas posibilidades. 

Samsung también se compromete a expandir las experiencias de Galaxy AI en todo el ecosistema Galaxy más amplio de una manera que solo Samsung puede hacerlo. A medida que la era de la IA móvil avanza a gran velocidad, Samsung está acelerando las innovaciones en IA móvil para satisfacer las necesidades no sólo de hoy, sino también del mañana.

Samsung Research combinó datos y tecnología de vanguardia. Junto con la Oficina de I+D empresarial de Mobile eXperience (MX), perfeccionaron aún más esta tecnología para desarrollar funciones de traducción impulsadas por la IA en el dispositivo, que se pueden utilizar para traducción en tiempo real durante llamadas y en varias aplicaciones. Samsung Newsroom se reunió con Yoonjung Choi y Yonghyun Ryu del Centro Global de IA de Samsung Research para aprender más sobre estas ambiciosas funciones.

▲ (De izquierda a derecha) Yoonjung Choi y Yonghyun Ryu del Centro Global de IA de Samsung Research

Comunicación fluida y seguridad sólida con IA en el dispositivo

La IA en el dispositivo es el diferenciador clave de las funciones Intérprete y Traducción Simultánea de Galaxy AI, presentadas a los usuarios mediante el lanzamiento de la serie Galaxy S24 a principios de este año. Aprovechando los recursos informáticos avanzados integrados en los propios dispositivos, los smartphones con IA en el dispositivo pueden proporcionar servicios sin depender de servidores o de la nube. Los usuarios pueden estar seguros de que sus datos permanecerán privados y seguros ya que la información no se comparte con fuentes externas.

El Centro Global de IA de Samsung Research contribuyó a integrar tecnología patentada en su modelo de traducción de IA para comercializar estas funciones para un uso generalizado.

Al visualizar una amplia gama de aplicaciones, el equipo de Samsung Research y la oficina de Investigación y Desarrollo de MX obtuvieron una gran cantidad de datos. “Recopilamos datos coloquiales para la traducción en tiempo real durante las llamadas en Traducción Simultánea y datos relacionados con viajes para Interpreter”, explicó Yoonjung Choi, quien dirigió el proyecto. “Para proporcionar la traducción más precisa, estudiamos e incorporamos lenguaje informal utilizado en salas de chat y etiquetas HTML utilizadas en navegadores web”.

▲ Los casos de uso para la traducción con IA en el dispositivo incluyen ① Traducción Simultánea, ② traducción de mensajes de texto y conversaciones, ③ traducción en Samsung Notes y ④ traducción de navegador web.

Cómo Samsung Research entrenó su modelo de IA

El modelo de traducción de IA del equipo de Samsung Research se basa en una tecnología de aprendizaje profundo que aprende de sus propios datos. Yonghyun Ryu, responsable de investigación y el desarrollo de la IA, comparó este proceso con la crianza de un niño. “De manera similar a cómo un niño necesita excelentes recursos educativos y cuidadores para crecer y prosperar, se requieren buenos datos lingüísticos e investigadores talentosos al desarrollar un modelo de traducción de IA de alto rendimiento”, describió.

Samsung Research tiene ambas cosas: desde 2013, la empresa ha estado brindando servicios de traducción internos, realizando investigación y desarrollo relacionados con la traducción de IA y acumulando datos de alta calidad.

El equipo de expertos en aprendizaje profundo de Samsung Research jugó un rol importante en el entrenamiento del modelo de IA. “Si se producen traducciones incorrectas durante el proceso de investigación y desarrollo, es necesario identificar el problema y realizar mejoras. Sin embargo, esto puede suponer un desafío y llevar mucho tiempo para los investigadores que no cuentan con las capacidades ni la experiencia suficientes”, explicó. “Nuestros investigadores utilizaron su experiencia y conocimientos para analizar rápidamente la causa del problema y encontrar una solución para mejorar el modelo de traducción de IA”.

▲ Yonghyun Ryu del Centro Global de IA de Samsung Research

Para evaluar el rendimiento de las traducciones de Galaxy AI, el equipo de Samsung Research utilizó métricas cuantitativas basadas en conjuntos de pruebas, así como evaluaciones cualitativas realizadas por traductores humanos y la Oficina de Investigación y Desarrollo de MX.

Además, el equipo ganó credibilidad al competir en concursos mundiales de traducción automática. “Aunque la participación requiere tiempo y esfuerzo, un buen desempeño en las competiciones proporciona un impulso para la investigación y el desarrollo”, enfatizó Ryu. “Pudimos lograr resultados sólidos porque los miembros de nuestro equipo pudieron discutir libremente nuevas ideas y ponerlas a prueba”.

Cortesía y puntuación: Comprender las particularidades de cada idioma

Cada idioma tiene características que son únicas de su cultura; estas pueden incluir honoríficos, inflexiones de tono y símbolos de puntuación distintos. Para que las traducciones sean lo más precisas posible, el modelo de traducción de IA considera todas estas idiosincrasias lingüísticas. Por ejemplo, en coreano y japonés, los honoríficos se traducen para mantener un tono respetuoso.

Samsung colaboró con centros regionales de I+D para comprender plenamente los idiomas en su contexto cultural. “Al trabajar estrechamente con investigadores y lingüistas de otros países, pudimos ofrecer una traducción más precisa y completa”, dijo Choi.

Al mismo tiempo, manejar diferentes idiomas implica a menudo prueba y error. “El vietnamita, por ejemplo, es una lengua tonal. Sin embargo, durante el proceso de investigación nos dimos cuenta de que los usuarios vietnamitas a menudo omiten tonos en conversaciones informales cuando chatean”, explicó. “Necesitábamos datos adicionales para ayudar a las funciones a traducir frases sin tonos”. Para el tailandés, Samsung Research desarrolló un separador especial de frases porque el idioma no utiliza puntuación.

Por qué la tecnología ligera es la clave para lograr modelos de IA eficaces en los dispositivos

Samsung Research comenzó a desarrollar su modelo de traducción de IA en el dispositivo en 2019. “A diferencia de los modelos de IA basados en servidores, los modelos de IA en dispositivos deben ejecutarse únicamente utilizando los dispositivos de los usuarios”, afirmó Ryu. “Desarrollar tecnología ligera que utilice recursos mínimos es fundamental”. Para aligerar el modelo, el equipo utilizó tecnología de “destilación de conocimientos” y “cuantificación”.

La destilación de conocimientos es un método que extrae conocimientos de un modelo de docente grande y de alto rendimiento y lo entrega a un modelo de estudiantes más pequeño. Esto es similar a cuando un profesor resume un tema para que un estudiante pueda digerir la información de manera más fácil y eficiente.

La cuantificación simplifica los algoritmos de IA para reducir el tamaño del modelo y agiliza el proceso para aumentar la velocidad de respuesta.

Ryu comparó la cuantificación con dibujar fresas. “Se necesita una amplia gama de colores para pintar fresas realistas, pero las fresas también se pueden hacer solo con rojo y verde”, explicó. “La cuantificación es el proceso de minimizar la cantidad de colores necesarios para dibujar fresas mientras se intenta acercarla lo más posible a la realidad”.

▲ Yoonjung Choi del Centro Global de IA de Samsung Research

En el campo de la IA, la destilación y la cuantificación del conocimiento son enfoques bien conocidos para aligerar los modelos. Sin embargo, implementarlos a escala comercial no es fácil debido a las diferencias en los métodos y factores experimentales detallados de cada investigador. Samsung Research desarrolló tecnología patentada al descubrir una técnica de cuantificación eficiente y crear un algoritmo acelerado basado en ella. “A través de una experimentación constante, encontramos una manera óptima de hacer que el modelo sea más liviano”, comentó Choi.

Al combinar el modelo de traducción de IA de alta calidad con algoritmos que hacen que los modelos sean más livianos y aceleran el tiempo de respuesta, nacieron funciones de IA ligeras y rápidas en el dispositivo.

La cultura detrás del idioma: ¿Cómo sería el modelo de traducción de IA perfecto?

Los investigadores del Centro Global de IA de Samsung Research tienen objetivos brillantes mientras lideran el campo de la IA en dispositivos. “Mi objetivo final es ayudar a los usuarios a comunicarse de forma fluida y cómoda con personas que hablan otros idiomas”, afirmó Choi. Ryu reveló su visión para construir el traductor perfecto. “Algún día queremos crear un traductor que realmente comprenda las culturas detrás de los idiomas que traduce, equipado con un amplio conjunto de conocimientos”, expresó. “Quiero desafiarme a mí mismo para desarrollar un traductor que el mundo nunca haya visto antes”.

▲ El equipo del Centro Global de IA de Samsung Research desarrolló la función de traducción de IA en el dispositivo.

Las funciones de traducción de IA en el dispositivo de Samsung permiten que cualquier persona con un dispositivo móvil habilitado se comunique libremente, sin preocuparse por la conexión a Internet o la fuga de información. De cara al futuro, el equipo de Samsung Research seguirá liderando en materia de innovación en el cambiante campo de la IA y ofreciendo nuevos niveles de comodidad a los usuarios.