Hacia el futuro con Samsung Research ③: Instituto de I&D de Samsung de China – Beijing: Destacando tecnologías revolucionarias para los usuarios con investigaciones fundamentales sobre el aprendizaje automático

En esta nueva serie, Samsung Newsroom presenta a expertos en tecnología de los centros de I + D de Samsung en todo el mundo para conocer más sobre el trabajo que realizan y las formas en las que está mejorando directamente la vida de los consumidores.

El tercer experto de la serie que se presentará es Bin Dai, ingeniero de planta del Laboratorio de Inteligencia Artificial (AI) en el Instituto de Investigación y Desarrollo de Samsung en China – Beijing (SRC-B). Dai se unió a SRC-B en 2020 para unirse a sus colegas en el trabajo en compresión de red y diseño e investigación de modelos en el dispositivo. Sigue leyendo para obtener más información sobre las tecnologías innovadoras que Dai y su equipo están desarrollando en SRC-B.

P: Las tecnologías basadas en inteligencia artificial, incluida la PNL (procesamiento del lenguaje natural) y la inteligencia acústica, son áreas de investigación de vanguardia que están constantemente abriendo nuevos caminos. Pero, ¿Qué papel juega la oferta de investigación principal proporcionada por el aprendizaje automático como base para estas innovaciones?

El aprendizaje automático juega un papel crucial para llevar todo tipo de tecnologías directamente a los usuarios. La visión por computadora y el reconocimiento de voz son dos de las áreas más exitosas que utilizan la IA en la actualidad. Sin embargo, los algoritmos de IA existentes requieren enormes recursos de cálculo, lo que dificulta la implementación de algoritmos de última generación en dispositivos móviles. Para solucionar este problema, nuestro laboratorio de inteligencia artificial está trabajando en la producción de modelos diminutos con un rendimiento potente tanto desde una perspectiva teórica como práctica. De esta manera, nuestra investigación principal está destinada a innovar todo tipo de tecnologías basadas en inteligencia artificial.

P: ¿Podría presentarnos brevemente el Instituto de Investigación de Beijing y el tipo de trabajo que se lleva a cabo allí?

SRC-B es uno de los centros de I + D avanzados de Samsung Electronics y se estableció en 2000, el primer centro de I + D de Samsung que se estableció en China. SRC-B se enfoca en tecnologías innovadoras y se especializa en inteligencia artificial (IA) y telecomunicaciones de próxima generación, desde aprendizaje automático, visión por computadora, procesamiento de lenguaje e inteligencia de voz hasta la estandarización 3GPP y más. También promovemos estrechas asociaciones industriales-académicas. En abril de 2019, se estableció el Laboratorio de IA para centrarse en la investigación fundamental del aprendizaje automático, y buscamos continuamente formas de aplicar los resultados de nuestra investigación a los productos Samsung.

P: Tras el éxito de su tesis de investigación principal y otros logros, ¿en qué está trabajando en este momento?

Actualmente, SRC-B tiene como objetivo encontrar la mejor manera posible de mejorar la precisión de un algoritmo de IA al tiempo que reduce la complejidad del cálculo y los recursos utilizados para hacerlo. Para lograr estos objetivos, actualmente estamos trabajando en dos temas de investigación que permiten predicciones precisas con menos datos requeridos: redes equivariantes, parte del tema más amplio de aprendizaje profundo geométrico e inferencia dinámica. Hay muchos tipos de simetrías en los conjuntos de datos de visión por computadora que pueden proporcionar una medición de profundidad precisa como lo hacen los ojos humanos, como imágenes y nubes de puntos LiDAR. Con una red equivariante, estas simetrías se tienen en cuenta al diseñar la red. Por lo tanto, puede lograr un mejor rendimiento con menos recursos, ya que hemos considerado específicamente la estructura intrínseca del conjunto de datos.

La inferencia dinámica también es una dirección de investigación muy interesante. A diferencia de los métodos convencionales que aprovechan una arquitectura fija para todas las muestras de datos, la inferencia dinámica puede decidir de forma adaptativa cuántos recursos utilizar para cada muestra de datos. En consecuencia, utilizará menos recursos computacionales para muestras simples y más recursos para muestras difíciles. Al hacerlo, el recurso de cálculo promedio utilizado se puede reducir significativamente.

P: La investigación fundamental sobre la IA ha estado potenciando todo tipo de campos de aplicación para el usuario, desde la visión por computadora hasta el reconocimiento de voz. ¿Podrías explicar un poco más por qué es así y la dirección de la investigación que tú y el Laboratorio de IA han estado tomando para optimizar las experiencias móviles?

En esta era de Internet, los datos fluyen por todas partes a nuestro alrededor. Donde hay datos, hay conocimiento. Los algoritmos de IA son la mejor herramienta para descubrir el conocimiento oculto detrás de los datos y hacer uso de este conocimiento para mejorar nuestras vidas.

Hemos desarrollado un algoritmo de compresión de red basado en la teoría del cuello de botella de la información, que postula que los detalles extraños se pueden eliminar de los datos de entrada ruidosos como si se apretaran a través de un cuello de botella, que se ha aplicado a múltiples tareas, incluido el reconocimiento de video, la segmentación de imágenes y la traducción automática. También colaboramos activamente con otros laboratorios en SRC-B para desarrollar algoritmos de inteligencia artificial más potentes, incluidas las soluciones de búsqueda de arquitectura neuronal (NAS) y una vez por todas (OFA).

P: ¿Cuáles cree que son los principales beneficios para el usuario de incorporar todas las tecnologías móviles básicas con tecnologías de inteligencia artificial basadas en el aprendizaje automático?

Las tecnologías de inteligencia artificial basadas en el aprendizaje automático pueden mejorar drásticamente la vida de los usuarios de tres formas clave. En primer lugar, hay muchas funciones convenientes que simplemente no pueden funcionar sin tecnologías de inteligencia artificial. Por ejemplo, el sistema automático de preguntas y respuestas de los dispositivos móviles debe estar impulsado por algoritmos de inteligencia artificial. Otros métodos más tradicionales solo pueden manejar preguntas muy limitadas y predefinidas.

En segundo lugar, las técnicas de IA pueden mejorar significativamente el rendimiento de muchas aplicaciones en comparación con su rendimiento cuando se aprovechan solo las tecnologías convencionales. Por ejemplo, después de aplicar redes neuronales profundas a la función de procesamiento de señal de imagen neuronal (ISP) de una cámara, la calidad de las fotos tomadas con esa cámara mejora significativamente.

En tercer lugar, las tecnologías de IA son capaces de proporcionar servicios que los usuarios ni siquiera sabían que necesitaban. Por ejemplo, la IA es capaz de desarrollar un software específico del usuario basado en las preferencias específicas de ese usuario, lo que significa que la experiencia del dispositivo del usuario se puede mejorar continuamente.

P: ¿Cómo se integra el trabajo que realiza con el trabajo realizado por el resto del Instituto de I + D de Samsung en China – Beijing, o quizás incluso con otros institutos de I + D de todo el mundo? ¿Cómo se combina para hacer que la vida de los usuarios sea más cómoda?

Colaboramos constantemente con los otros equipos dentro de SRC-B. Hemos estado colaborando recientemente con nuestro equipo de Computación Visual para aplicar nuestro algoritmo de compresión basado en cuellos de botella de información a tareas de reconocimiento de video y tareas de segmentación humana, lo que resultó en una reducción significativa de los tamaños de los modelos sin ninguna caída en el rendimiento. En 2021, participamos en la competencia de búsqueda de arquitectura neuronal (NAS) de la Conferencia sobre visión por computadora y reconocimiento de patrones (CVPR) como un solo equipo con esta solución, y ganamos el 1er lugar.

También hemos estado trabajando con nuestro equipo de Language Intelligence para comprimir su modelo de traducción automática, lo que facilita la comercialización de su aplicación.

Por otro lado, creemos que podemos producir mejores resultados de investigación y aplicación mediante una mayor comunicación, discusión y colaboración con los centros de IA a nivel mundial.

P: ¿Cuáles cree que son las principales tendencias dentro de su industria en este momento? ¿Cómo los ha estado incorporando a la investigación que realiza en el Samsung R&D Institute China – Beijing?

Hay muchos temas de tendencia dentro de nuestro campo en este momento. El diseño eficiente de la arquitectura de red, el aprendizaje auto-supervisado y las redes neuronales gráficas son solo algunos ejemplos.

Nuestro enfoque está en la compresión de redes y el diseño de modelos diminutos, que en última instancia son útiles para aplicaciones en dispositivos móviles. Hay muchos dispositivos móviles, como los teléfonos inteligentes, que poseen recursos computacionales muy limitados, lo que significa que es imposible implementar los enormes modelos diseñados para servicios en estos dispositivos. Por eso, mi equipo está enfocado en diseñar modelos adecuados para estos dispositivos.

Hay diferentes formas de lograr este tipo de modelos ligeros pero potentes. Por ejemplo, la poda de redes, la cuantificación, la destilación de conocimientos, la búsqueda de arquitectura de redes neuronales y la inferencia dinámica son solo algunas de las áreas de la industria en las que nos estamos enfocando ahora para lograr esto.

P: ¿Cuál ha sido el logro en el Samsung R&D Instituto China – Beijing del que está más orgulloso hasta ahora?

Desarrollados en colaboración con nuestro equipo de investigación en comunicación, diseñamos algoritmos de inteligencia artificial para la comunicación inalámbrica. Esta solución logró el primer lugar en la Competencia de IA de comunicación inalámbrica (WAIC) de este año, que es la competencia oficial de 5G + IA en China con más de 600 equipos de todo el mundo y está organizada por la Academia de Tecnología de la Información y la Comunicación de China (CAICT). Estoy orgulloso de este logro y siento que valida mi creencia de que 5G combinado con IA es una dirección de investigación con un gran potencial.

En el siguiente episodio contará con una entrevista con Evgeny Pavlov, un experto en software de sistemas del Samsung R&D Institute Russia (SRR).