[Entrevista] La ingeniería detrás de la Under Display Camera del Galaxy Z Fold4

Las cámaras para selfies son una parte vital de cualquier smartphone, pero encontrar el lugar perfecto para ubicar la cámara frontal suelen ser un obstáculo para una experiencia de visualización perfecta. Gracias al Under Display Camera (UDC), los usuarios pueden despedirse del pequeño punto negro en la parte frontal de sus pantallas.

Samsung Electronics le ha dado al UDC una importante actualización en el Galaxy Z Fold4, ofreciendo a los usuarios una experiencia de pantalla completa, más inmersiva e ininterrumpida.

Como tantas grandes innovaciones la tecnología UDC fue un esfuerzo grupal, impulsado por los comentarios de expertos y consumidores Samsung. Para aprender más sobre esta mejora del Galaxy Z Fold4, hablamos con los expertos de Samsung Research[1]  que colaboraron en este desarrollo.

John Seok-Jun Lee, Líder de Cámara Computacional en Samsung Research America[2] y Alok Shuka, Líder de Soluciones de IA en Samsung R&D Institute India-Bangalore[3] nos explican la tecnología detrás del UDC del Galaxy Z Fold4.

▲ A la izquierda: John Seok-Jun Lee. Líder del área Cámara Computacional en Samsung Research America. A la derecha: Alok Shuka. Líder del área Soluciones de IA en Samsung R&D Institute India-Bangalore.

¿Qué es una cámara debajo de la pantalla (UDC)?

[Seok-Jun] Una cámara debajo de la pantalla (UDC) es una solución innovadora que permite una experiencia de visualización ininterrumpida en un dispositivo móvil ocultando la cámara debajo de la pantalla, y dedicando todo el contenido a los usuarios mientras se ejecutan las aplicaciones. No solo requiere innovación de hardware al colocar una cámara debajo de un panel de visualización, sino que también requiere innovación de algoritmos para restaurar la calidad de la imagen, uno de los problemas de restauración de imágenes más complejos.

¿Cómo funciona la UDC?

 [Alok] UDC es una cámara frontal se encuentra debajo de la pantalla. La densidad de píxeles de la pantalla se reduce en esta área, lo que permite que la pantalla muestre imágenes sin obstáculos, pero al mismo tiempo, no impide que la luz llegue a la cámara cuando está en uso. Como la cámara se coloca debajo de la pantalla, la UDC puede sufrir una calidad de imagen deficiente causada por artefactos de difracción, lo que da como resultado destellos, saturación, desenfoque y neblina. Por lo tanto, si bien esta tecnología brinda una mejor experiencia de visualización, también afecta la calidad de imagen de la cámara, y otras tareas de visión posteriores. Estas distorsiones complejas y diversas hacen que la restauración de imágenes UDC sea extremadamente desafiante.

¿Por qué la UDC es una tecnología importante para el Galaxy Z Fold4? ¿Cuál es la diferencia para los usuarios?

[Seok-Jun] Los dispositivos plegables de Samsung están diseñados para ser nuevos y diferentes, combinando un smartphone con experiencias de visualización inmersivas en un solo dispositivo móvil a través de una tecnología de visualización innovadora. Cuando está plegado, proporciona un uso similar al de un smartphone y, cuando está desplegado, la pantalla ofrece una experiencia más inmersiva y productiva. Nuestra investigación de consumo mostró que los usuarios de la serie Galaxy Z Fold prefieren la cámara de la pantalla de cubierta para capturar fotos y selfies, y la pantalla principal inmersiva para tareas más productivas como mirar videos, jugar videojuegos y trabajar en documentos. Por lo tanto, pensamos que la tecnología UDC sería la opción perfecta para satisfacer las necesidades de una pantalla ininterrumpida sin dejar de ser capaz de realizar tareas como abrir videollamadas. Samsung lanzó la primera solución UDC plegable en el Galaxy Z Fold3 y mejoró aún más su calidad en el Galaxy Z Fold4.

[Alok] El Galaxy Z Fold4 realmente despliega un mundo de visualización inmersiva. La tecnología UDC está en el centro de la búsqueda de una verdadera pantalla completa. Al combinar la innovación líder en tecnología de visualización con técnicas avanzadas de IA para la restauración de imágenes, Galaxy Z Fold4 brinda el equilibrio perfecto entre la calidad de la pantalla y la calidad de la imagen de la cámara.

¿Cómo ha mejorado la calidad de imagen de la cámara desde el Galaxy Z Fold3?

[Alok] El Samsung Galaxy Z Fold3 mostró la primera tecnología UDC del mundo en un plegable. Después su lanzamiento, uno de los comentarios clave de los consumidores fue hacer que la UDC fuera menos visible. En el Galaxy Z Fold4, la disposición de los subpíxeles se optimizó para ocultarla aún más.

Como se mencionó anteriormente, cuando la cámara se coloca debajo de la pantalla puede causar una calidad de imagen deficiente causada por artefactos de difracción, que provocan destellos, saturación, desenfoque y neblina.

Es por eso que en el Galaxy Z Fold4 hemos aprovechado el poder de la IA, respaldada con el procesamiento de múltiples cuadros para desarrollar una nueva canalización de imágenes computacionales, para la restauración de imágenes UDC.

SRI-B, junto con Visual SW R&D Group en MX Business, se enfocaron en desarrollar la restauración de imágenes con IA para la captura de fotografías y la vista previa para compensar la difracción óptica en UDC. Al mismo tiempo, el laboratorio de innovación de procesadores móviles (MPI) de SRA mejoró el algoritmo de fotografía computacional de fotogramas múltiples. La UDC de Galaxy Z Fold4 resuelve desafíos técnicos claves en calidad de imagen para brindar una experiencia única a los usuarios.

¿Por qué los equipos de SRA-SRI colaboraron entre sí?

[Seok-Jun] El SRA MPI Lab ha estado trabajando con SRI-B a lo largo de toda la historia de MPI en Samsung, desde la comercialización de la cámara del Galaxy Note4 en 2014 hasta el Galaxy Z Fold4 y Z Flip4 de 2022. SRA MPI ha liderado la investigación y el desarrollo de la tecnología de procesamiento de múltiples cuadros (MFP) MX para UDC, modo nocturno, Expert RAW y otras tecnologías. SRI-B ha contribuido a todas las impresoras multifunción de SRA MPI comercializadas al proporcionar un software de cámara increíble, ajuste de calidad de imagen y recursos para la comercialización, así como la innovación y desarrollo de cámaras con AI. Nuestra colaboración de tres vías con el grupo MX R&D, SRA MPI y SRI-B ha sido un éxito, especialmente cuando el equipo mundial utilizó las diferencias de zona horaria de manera efectiva para completar hitos a tiempo para un proyecto tan complicado. Siempre es un placer trabajar con ellos y ofrecer juntos los éxitos de las cámaras de los dispositivos Galaxy para lograr nuestro objetivo mutuo de ser la mejor experiencia de cámara para smartphones del mundo.

Explique las contribuciones de su equipo para el desarrollo de la UDC. ¿Cómo contribuyó a mejorar la experiencia de usuario?

[Alok] La UDC del Samsung Galaxy Z Fold4 fue un proyecto de innovación y desarrollo complejo y el papel de SRI-B fue pensar en términos de extremo a extremo para la mejor experiencia del consumidor. Esto requería experiencia en múltiples dominios y una profunda colaboración entre varios equipos. Los expertos de SRI-B, SRA-MPI Lab y MX Visual SW R&D Group trabajaron a la perfección para lograr una experiencia UDC integral.

SRI-B también desempeñó un papel clave en la utilización de una Unidad de Procesamiento Neuronal (NPU) para ejecutar el modelo de IA, logrando un rendimiento en tiempo real en las vistas previas y un tiempo de procesamiento de captura significativamente más rápido que en la UDC del Samsung Galaxy Z Fold3. Las vistas previas de la cámara, las grabaciones de video y los escenarios de videollamadas necesitan un rendimiento en tiempo real sin perder ningún cuadro. La restauración de UDC basada en IA acelerada con NPU para el procesamiento de vista previa se aplicó por primera vez en Samsung Galaxy Z Fold4. Aunque no se requería el procesamiento en tiempo real, dado que la captura de la cámara requiere una calidad de imagen más alta que una vista previa, se deseaba lograr una mejor calidad de imagen con menos tiempo de procesamiento para la experiencia del usuario.

¿Cuáles fueron algunos de los desafíos que enfrentó al desarrollar esta tecnología y cómo los superó?

[Seok-Jun] La baja transmisión y  difracción de la luz son los principales desafíos para la tecnología de cámaras UDC. Aún así, un desafío más, diferente de una imagen de cámara perforada, es que la calidad de captura de UDC se ve afectada no solo por el módulo de la cámara, sino también por el panel de visualización. El algoritmo 3D ISP basado en IA de SRA MPI se diseñó con la flexibilidad necesaria para ajustar la calidad de la imagen de salida con las diferentes características de visualización. Tener tanta flexibilidad en 3D ISP ayudó a superar tales desafíos.

[Alok] El enfoque clave de SRI-B fue desarrollar un módulo de restauración de imágenes de IA para la UDC del Samsung Galaxy Z Fold4. Estas restauraciones son necesarias tanto para el modo de captura de fotos como para el modo de video. Los escenarios de grabación de video y videollamadas tienen requisitos estrictos para el procesamiento en tiempo real dentro de las limitaciones del consumo actual.

La restauración de UDC basada en IA se aplicó por primera vez en Samsung Galaxy Z Fold4 UDC para video. Para lograr una experiencia de mejor calidad de video que Galaxy Z Fold3, tuvimos que hacer que el modelo de IA fuera más liviano y al mismo tiempo lograr una buena calidad de restauración. Se realizaron múltiples experimentos en diseño y capacitación de redes para lograr una buena calidad en tiempo real. SRI-B utilizó ampliamente NPU y técnicas de cuantificación avanzadas para preparar un modelo de IA más liviano y altamente optimizado que logra un rendimiento en tiempo real con un bajo consumo de corriente.

¿Cuál es su visión para futuras iteraciones de UDC en Samsung?

[Alok] El UDC del Samsung Galaxy Fold4 ha abierto una nueva dimensión al factor de forma de la cámara del smartphone. Las UDCs en el futuro permitirán colocar sensores de cámara más grandes y múltiples cámaras en posiciones flexibles sin comprometer la experiencia de visualización. Otro gran desafío es la adopción masiva de la tecnología UDC en más productos como la cámara frontal principal. Para que esto suceda, deberá haber una mejora significativa en la calidad de imagen de la cámara, el tiempo de procesamiento y la experiencia de visualización.

[Seok-Jun] Dado que el Galaxy Z Fold4 UDC brinda una experiencia mucho mejor en términos de ocultar la cámara debajo de la pantalla y mejorar la calidad de la imagen, la dirección de I+D para los próximos dispositivos insignia trabajará para hacer que la tecnología UDC sea completamente invisible. Esto proporcionará la mejor experiencia de pantalla móvil inmersiva ininterrumpida mientras se logra la misma calidad de imagen que una cámara perforada.

[1]Samsung Research, que actúa como centro de investigación y desarrollo avanzado de Samsung Electronics, lidera el desarrollo de tecnologías futuras para la división Device eXperience (DX) de la compañía.

[2] Equipo de expertos en fotografía computacional de clase mundial, encargados de desarrollar imágenes computacionales basadas en IA para conservar más detalles en las fotos tomadas con UDC.

[3] equipo que se especializa en el desarrollo integral de soluciones de cámara para dispositivos emblemáticos que utilizan IA (imágenes computacionales, reconocimiento humano e inteligencia profunda) para ofrecer las mejores funciones de cámara