Como tantas grandes innovaciones, la ultima tecnología UDC fue un esfuerzo grupal, impulsado por los valiosos comentarios de los expertos y los consumidores de Samsung. Para aprender más sobre el UDC mejorado para Galaxy Z Fold4, Samsung Newsroom habló con los expertos de Samsung Research [1]  que colaboraron en la tecnología.

Continua leyendo para ver lo que John Seok-Jun Lee, Líder del área Cámara Computacional en Samsung Research America (SRA), y Alok Shukla, Líder del área Soluciones de Visión de IA en Samsung R&D Institute India-Bangalore (SRI-B), tienen que decir sobre su colaboración detrás de traer tecnología UDC mejorada.

▲ A la izquierda:  John Seok-Jun Lee. Líder del área Cámara Computacional en Samsung Research America.  A la derecha: Alok Shuka. Líder del área Soluciones de IA en Samsung R&D Institute India-Bangalore.

John Seok-Jun Lee encabeza un equipo de expertos en fotografía computacional de clase mundial, encargados de desarrollar imágenes computacionales basadas en IA para conservar más detalles en las fotos tomadas con UDC.

Laboratorio de innovación de procesadores móviles (MPI) de SRA:

• Tiene como objetivo desarrollar las mejores cámaras del mundo en smartphones Galaxy, incluida la UDC en Galaxy Z Fold3 y Z Fold4
• Lidera la I+D en procesamiento de múltiples fotogramas, canalizaciones de imágenes computacionales y tecnología de procesamiento de píxeles de IA para lograr la mejor calidad de imagen de smartphone del mundo.
• Diferencia la experiencia del usuario de la cámara Samsung Galaxy al comercializar las tecnologías desarrolladas a través de la colaboración con los grupos de I+D SRI-B y MX.

Alok Shuka dirige un equipo que se especializa en el desarrollo integral de soluciones de cámara para dispositivos emblemáticos que utilizan IA (imágenes computacionales, reconocimiento humano e inteligencia profunda) para ofrecer las mejores funciones de cámara.

Grupo de soluciones de visión AI de SRI-B:

• Tiene una amplia experiencia en cámaras al trabajar en varios smartphones Galaxy
• Trabaja en estrecha colaboración con los equipos de I+D de Samsung en todo el mundo para ofrecer a los consumidores la mejor experiencia de cámara posible.

– ¿Qué es una cámara debajo de la pantalla (UDC)?

Seok-Jun: Una cámara debajo de la pantalla (UDC) es una solución de cámara innovadora que permite una experiencia de visualización ininterrumpida en un dispositivo móvil ocultando la cámara debajo de la pantalla y dedicando toda la pantalla a los usuarios mientras se ejecutan las aplicaciones. No solo requiere innovación de hardware al colocar una cámara debajo de un panel de visualización, sino que también requiere innovación de algoritmos para restaurar la calidad de la imagen, uno de los problemas de restauración de imágenes más complejos.

– ¿Cómo funciona UDC? 

Alok: En UDC, una cámara frontal se encuentra debajo de la pantalla. La densidad de píxeles de la pantalla se reduce en esta área, lo que permite que la pantalla muestre imágenes sin obstáculos, pero al mismo tiempo, no impide que la luz llegue a la cámara cuando está en uso. Como la cámara se coloca debajo de la pantalla, UDC puede sufrir una calidad de imagen deficiente causada por artefactos de difracción, lo que da como resultado destellos, saturación, desenfoque y neblina. Por lo tanto, si bien la tecnología UDC brinda una mejor experiencia de visualización, también afecta la calidad de imagen de la cámara y otras tareas de visión posteriores. Estas distorsiones complejas y diversas hacen que la restauración de imágenes UDC sea extremadamente desafiante.

– ¿Por qué UDC es una tecnología importante cuando se trata de Galaxy Z Fold4? ¿Qué valor proporciona a los clientes?

Seok-Jun: Los dispositivos plegables de Samsung están diseñados para ser nuevos y diferentes, combinando un smartphone con experiencias de visualización inmersivas en un solo dispositivo móvil a través de una tecnología de visualización innovadora. Cuando está plegado, proporciona un uso similar al de un smartphone y, cuando está desplegado, la pantalla ofrece una experiencia más inmersiva y productiva. Nuestra investigación de consumo mostró que los usuarios de la serie Galaxy Z Fold prefieren la cámara de la pantalla de cubierta para capturar fotos y selfies y la pantalla principal inmersiva para tareas más productivas como mirar videos, jugar games y trabajar en documentos. Por lo tanto, pensamos que la tecnología UDC sería la opción perfecta para satisfacer las necesidades de una pantalla ininterrumpida sin dejar de ser capaz de realizar tareas como abrir videollamadas. Samsung lanzó la primera solución UDC plegable en el Galaxy Z Fold3 y mejoró aún más su calidad en el Galaxy Z Fold4.

Alok: Galaxy Z Fold4 realmente despliega un mundo de visualización inmersiva. La tecnología UDC está en el centro de la búsqueda de una verdadera pantalla completa. Al combinar la innovación líder en tecnología de visualización con técnicas avanzadas de IA para la restauración de imágenes, Galaxy Z Fold4 brinda el equilibrio perfecto entre la calidad de la pantalla y la calidad de la imagen de la cámara.

– ¿Cómo ha mejorado la calidad de imagen de la cámara desde el Galaxy Z Fold3?

Alok: Samsung Galaxy Z Fold3 mostró la primera tecnología UDC del mundo en un plegable. Después del lanzamiento al mercado del Galaxy Z Fold3, uno de los comentarios clave de los consumidores fue hacer que la UDC fuera menos visible. En el Galaxy Z Fold4, la disposición de los subpíxeles se optimizó para ocultarla aún más.

Como se mencionó anteriormente, cuando la cámara se coloca debajo de la pantalla, esto puede causar una calidad de imagen deficiente causada por artefactos de difracción, que provocan destellos, saturación, desenfoque y neblina.

Es por eso que, en Galaxy Z Fold4, hemos aprovechado el poder de la IA, respaldada con el procesamiento de múltiples cuadros para desarrollar una nueva canalización de imágenes computacionales para la restauración de imágenes UDC.

SRI-B, junto con Visual SW R&D Group en MX Business, se enfocaron en desarrollar la Restauración de Imágenes con IA para la captura de fotografías y la vista previa para compensar la difracción óptica en UDC. Al mismo tiempo, el laboratorio de innovación de procesadores móviles (MPI) de SRA mejoró el algoritmo de fotografía computacional de fotogramas múltiples. El UDC de Galaxy Z Fold4 resuelve desafíos técnicos claves en calidad de imagen para brindar una experiencia única a los clientes finales.

– Guíenos a través del viaje del proyecto de asociación SRA-SRI. ¿Por qué sus dos equipos colaboraron?

Seok-Jun: El SRA MPI Lab ha estado trabajando con SRI-B a lo largo de toda la historia de MPI en Samsung, desde la comercialización de la cámara Galaxy Note4 de 2014 hasta el Galaxy Z Fold4 y Z Flip4 de 2022. SRA MPI ha liderado la investigación y el desarrollo de la tecnología de procesamiento de múltiples cuadros (MFP) MX para UDC, modo nocturno, Expert RAW y otras tecnologías. SRI-B ha contribuido a todas las impresoras multifunción de SRA MPI comercializadas al proporcionar un software de cámara increíble, ajuste de calidad de imagen y recursos para la comercialización, así como la I+D de cámaras AI. Nuestra colaboración de tres vías con el grupo MX R&D, SRA MPI y SRI-B ha sido un éxito, especialmente cuando el equipo mundial utilizó las diferencias de zona horaria de manera efectiva para completar hitos a tiempo para un proyecto tan complicado. Siempre es un placer trabajar con ellos y ofrecer juntos los éxitos de las cámaras de los dispositivos Galaxy para lograr nuestro objetivo mutuo de ser la mejor experiencia de cámara para smartphones del mundo.

– Explique su función laboral y las contribuciones de su equipo para UDC. ¿Cómo contribuyó a hacer la mejor experiencia de usuario posible?

Alok: Samsung Galaxy Z Fold4 UDC fue un proyecto de I+D complejo y el papel de SRI-B fue pensar en términos de extremo a extremo para la mejor experiencia del consumidor. Esto requería experiencia en múltiples dominios y una profunda colaboración entre varios equipos. Los expertos de SRI-B, SRA-MPI Lab y MX Visual SW R&D Group trabajaron a la perfección para lograr una experiencia UDC integral.

SRI-B también desempeñó un papel clave en la utilización de una Unidad de Procesamiento Neuronal (NPU) para ejecutar el modelo de IA, logrando un rendimiento en tiempo real en las vistas previas y un tiempo de procesamiento de captura significativamente más rápido que en Samsung Galaxy Z Fold3 UDC. Las vistas previas de la cámara, las grabaciones de video y los escenarios de videollamadas necesitan un rendimiento en tiempo real sin perder ningún cuadro. La restauración de UDC basada en IA acelerada con NPU para el procesamiento de vista previa se aplicó por primera vez en Samsung Galaxy Z Fold4. Aunque no se requería el procesamiento en tiempo real, dado que la captura de la cámara requiere una calidad de imagen más alta que una vista previa, se deseaba lograr una mejor calidad de imagen con menos tiempo de procesamiento para la experiencia del usuario.

– ¿Cuáles fueron algunos de los desafíos que enfrentó al desarrollar esta tecnología y cómo los superó?

Seok-Jun: La baja transmisión y difracción de la luz son los principales desafíos para la tecnología de cámaras UDC. Aún así, un desafío más, diferente de una imagen de cámara perforada, es que la calidad de captura de UDC se ve afectada no solo por el módulo de la cámara, sino también por el panel de visualización. El algoritmo 3D ISP basado en IA de SRA MPI se diseñó con la flexibilidad necesaria para ajustar la calidad de la imagen de salida con las diferentes características de visualización. Tener tanta flexibilidad en 3D ISP ayudó a superar tales desafíos.

Alok: El enfoque clave de SRI-B fue desarrollar un módulo de restauración de imágenes de IA para Samsung Galaxy Z Fold4 UDC. Estas restauraciones son necesarias tanto para el modo de captura de fotos como para el modo de video. Los escenarios de grabación de video y videollamadas tienen requisitos estrictos para el procesamiento en tiempo real dentro de las limitaciones del consumo actual.

La restauración de UDC basada en IA se aplicó por primera vez en Samsung Galaxy Z Fold4 UDC para video. Para lograr una experiencia de mejor calidad de video que Galaxy Z Fold3, tuvimos que hacer que el modelo de IA fuera más liviano y al mismo tiempo lograr una buena calidad de restauración. Se realizaron múltiples experimentos en diseño y capacitación de redes para lograr una buena calidad en tiempo real. SRI-B utilizó ampliamente NPU y técnicas de cuantificación avanzadas para preparar un modelo de IA más liviano y altamente optimizado que logra un rendimiento en tiempo real con un bajo consumo de corriente.

– ¿Cuál es su visión para futuras iteraciones de UDC en Samsung?

Alok: El UDC del Samsung Galaxy Fold4 ha abierto una nueva dimensión al factor de forma de la cámara del smartphone. UDCs en el futuro permitirán colocar sensores de cámara más grandes y múltiples cámaras en posiciones flexibles sin comprometer la experiencia de visualización. Otro gran desafío es la adopción masiva de la tecnología UDC en más productos como la cámara frontal principal. Para que esto suceda, deberá haber una mejora significativa en la calidad de imagen de la cámara, el tiempo de procesamiento y la experiencia de visualización.

Seok-Jun: Dado que el Galaxy Z Fold4 UDC brinda una experiencia mucho mejor en términos de ocultar la cámara debajo de la pantalla y mejorar la calidad de la imagen, la dirección de I+D para los próximos dispositivos insignia trabajará para hacer que la tecnología UDC sea completamente invisible. Esto proporcionará la mejor experiencia de pantalla móvil inmersiva ininterrumpida mientras se logra la misma calidad de imagen que una cámara perforada.

[1] Samsung Research, que actúa como centro de investigación y desarrollo avanzado de Samsung Electronics, lidera el desarrollo de tecnologías futuras para la división Device eXperience (DX) de la compañía.

La primera parte de esta serie de dos partes se centró en los últimos electrodomésticos y monitores de Samsung. Aquí, Junghoe Kim de Samsung Research’s Robot Center y Hoseong Kang de Samsung’s Mobile eXperience Business ofrecen información exclusiva sobre los últimos robots de la compañía.

[Robótica] Reimaginando robots para que sean compañeros de vida

P: ¿Cuál es el tema del stand de Samsung Research en CES 2022?

El concepto general de Samsung Research en CES 2022 es “Digital, Meet Physical”. Hemos hecho todo lo posible para mostrar cómo las experiencias personalizadas que valoran los millennials y los usuarios de zoom pueden conectarse sin problemas al mundo digital.

Con ese fin, la ‘casa’ que establecimos en CES fue diseñada para parecerse a un mundo digital como metaverso. Nuestro avatar de IA se creó para identificar las ubicaciones de los usuarios en el mundo real mediante la tecnología de reconocimiento de ubicación UWB (Ultra-Wideband) e interactuar con ellos a través del producto de hogar inteligente más cercano.

En el CES de este año, se presentarán dos tipos de robots de compañía: el Samsung Bot i, un robot interactivo, y el Samsung Bot Handy, un robot manipulador que puede ayudar con las tareas del hogar.

Pueden ayudar a los usuarios organizando una videoconferencia para una reunión urgente o poniendo la mesa para una comida. Nuestro stand en CES 2022 demuestra cómo la IA y los robots pueden unirse para presentar experiencias de usuario innovadoras para el hogar del futuro.

P: ¿Cuáles son algunas de las características y tecnologías más innovadoras del Samsung Bot i y del Samsung Bot Handy?

El Samsung Bot i es un robot interactivo que utiliza tecnología de control de equilibrio. Se mueve como un ser vivo, realizando movimientos dinámicos y naturales. Cuando está al lado del usuario, se mueve junto a el y ofrece varias formas de apoyo. Cuando está lejos del usuario, gestiona varias tareas para él utilizando su función de telepresencia.

El Samsung Bot Handy es un robot que ayuda con diversas tareas domésticas mediante tecnología de manipulación. Esto le permite al robot reconocer objetos en la casa y recogerlos hábilmente. Mientras que en el CES del año pasado mostramos una tecnología que podía captar un solo objeto basado en el aprendizaje, este año vamos a presentar un escenario llamado “manejo de cubiertos”. Esta tecnología permite que el robot recoja elementos después de reconocer varios objetos y analizar el entorno circundante.

P: ¿Cómo resumiría la filosofía de I + D de Samsung Research en lo que respecta a los robots y hacia dónde se dirige la investigación de la empresa?

El Robot Center de Samsung Research está realizando investigaciones en varias áreas bajo la visión “Samsung Bot, Touching Your Daily Life” (Samsung Bot, que influye en su vida diaria). Nos esforzamos porqué nuestros compañeros robots ayuden a los usuarios en su vida diaria interactuando estrechamente con ellos y haciendo que sus vidas sean más felices y cómodas. Para lograr esto, estamos avanzando en tecnologías robóticas fundamentales como la movilidad y la manipulación, creando plataformas basadas en nuestra amplia experiencia en IA, y estamos desarrollando una serie de robots basados ​​en la investigación en estas áreas.