Haciendo que la inteligencia invisible resulte confiable

A medida que la IA anticipa cada vez más las necesidades, organiza rutinas y funciona de forma autónoma en distintos dispositivos, los ponentes Allie K. Miller, CEO de Open Machine; Amy Webb, CEO de Future Today Strategy Group; Zack Kass, asesor global de IA en ZKAI Advisory y antiguo director de comercialización en Open AI; y Shin Baik, director del grupo AI Platform Center (APC) en Samsung Electronics, hicieron hincapié en que la confianza debe ganarse no con promesas, sino con un comportamiento coherente y comprensible.

En la sesión, Samsung compartió su enfoque de “confianza desde el diseño”, destacando la importancia de que los sistemas de IA sean predecibles, transparentes y fáciles de controlar para los usuarios. En palabras de Allie Miller, “en lo que respecta a la IA, los usuarios buscan transparencia y control. Quieren liderar sus propias experiencias personalizadas, comprender si un modelo de IA se ejecuta localmente o en la nube, saber que sus datos están seguros y ver claramente qué funciona con IA y qué no. Ese nivel de visibilidad genera confianza. Por parte de los proveedores, existe la responsabilidad de estar a la altura de los usuarios diseñando experiencias personalizadas en torno a los componentes básicos de la confianza: claridad, seguridad y responsabilidad”.

Samsung también destacó cómo la IA integrada en los dispositivos permite que los datos personales permanezcan locales siempre que sea posible, mientras que la inteligencia basada en la nube se puede utilizar de forma selectiva cuando se requiere mayor velocidad o escala, lo que ofrece a los usuarios flexibilidad sin comprometer la privacidad.

Seguridad construida para un mundo impulsado por la IA

El panel también exploró cómo, a medida que la inteligencia se distribuye entre teléfonos, televisores y electrodomésticos, la seguridad debe evolucionar. En la sesión, Samsung destacó su plataforma de seguridad Knox, que ahora protege miles de millones de dispositivos desde el chipset, así como Knox Matrix, un marco de seguridad entre dispositivos que permite que los productos se autentiquen y protejan entre sí.

Shin Baik afirmó “la confianza en la IA comienza con una seguridad probada, no prometida. Durante más de una década, Samsung Knox ha proporcionado una plataforma de seguridad profundamente integrada y diseñada para proteger los datos confidenciales en todas las capas. Pero la confianza va más allá de un solo dispositivo, requiere un ecosistema que se proteja a sí mismo. Con Knox, los dispositivos se autentican y supervisan continuamente entre sí, de modo que cada uno de ellos actúa como un escudo para el resto, creando un entorno resistente y seguro en el que los usuarios pueden confiar”.

El futuro de la confianza en todas las industrias

Shin Baik hizo hincapié en cómo crece la confianza cuando la IA se comporta de forma predecible y segura en todos los dispositivos, argumentando que los usuarios necesitan señales visibles de control en lugar de sistemas de “caja negra”. Samsung destacó sus asociaciones con líderes de la industria, como Google y Microsoft, como una forma de reforzar la investigación compartida en materia de seguridad, interoperabilidad y protección de todo el ecosistema.  Allie Miller, por su parte destacó la importancia de la transparencia para los usuarios, incluida una visibilidad clara de dónde se ejecutan los modelos de IA, cómo se utilizan los datos y etiquetas explícitas que muestren qué está impulsado por la IA y qué no. Por su parte, Zack Kass añadió que, si bien la desinformación y el uso indebido plantean retos reales, “para cada riesgo existe también una contramedida, y la propia tecnología desempeñará un papel fundamental en la mitigación de los inconvenientes de la IA”.

Amy Webb evaluó la relación entre la confianza y los hábitos de compra de los consumidores y afirmó, “no creo que tomen decisiones basándose únicamente en la confianza. La gente no paga por la confianza. No compran cosas por confianza. Compran por comodidad. Por tanto, si la IA atrae a la gente, es porque les hace la vida más fácil y cómoda”.

El panel concluyó que, a medida que la IA se vuelve cada vez más invisible, las tecnologías que se ganarán la confianza a largo plazo serán aquellas que prioricen la seguridad, la transparencia y la elección del usuario desde el principio.

Dado que el minimalismo ha definido el lenguaje visual de la industria tecnológica durante las últimas dos décadas, este panel de diseñadores convocado por Samsung se preguntó: ¿qué vendrá después? Juntos, los panelistas exploraron cómo una tecnología más cercana, expresiva y emocionalmente resonante puede dar forma a experiencias significativas en la era actual de la inteligencia artificial, al tiempo que trazan un camino a seguir para la industria.

El diseño como acto de amor

La sesión abordó una visión compartida sobre el propósito del diseño como algo fundamentalmente centrado en las personas. “En los últimos años, el diseño en el ámbito tecnológico ha sido algo uniforme”, afirmó la moderadora Debbie Millman. “En comparación con otros sectores, la uniformidad en el mundo tecnológico es una anomalía. Entonces, ¿qué pasaría si ampliáramos la tecnología más allá de las especificaciones y la funcionalidad?”

Samsung está abordando actualmente esta cuestión introduciendo un significado más allá de los productos, centrándose en cómo la tecnología encaja en la vida, las experiencias y las necesidades de las personas. Los ponentes debatieron sobre la creciente importancia de esta mentalidad en el panorama actual, en el que las barreras tradicionales de entrada, como el acceso a las herramientas, la escala y la capacidad técnica, siguen disminuyendo.

El lado humano de la tecnología

El debate puso de relieve el papel de la tecnología a la hora de hacer visibles la intención, el cuidado y la humanidad en la vida cotidiana. Los ponentes señalaron que la tecnología debería ayudar a las personas a reconocer la consideración que se esconde tras los productos que incorporan a sus hogares y rutinas.

En este contexto, Mauro Porcini, director de diseño de Samsung, compartió el objetivo de diseño de Samsung: enriquecer la calidad de vida de las personas a través de una tecnología significativa diseñada para la humanidad. Destacó el compromiso de la empresa de ayudar a las personas a vivir más tiempo, mejor, con más intensidad y a perpetuarse a través de tecnologías avanzadas que favorecen el bienestar, la creatividad y la expresión personal.

El panelista Karim Rashid se sumó a esta opinión y afirmó: “Cuando pensamos en los objetos físicos de nuestro mundo, no solo pensamos en la diversidad de opciones, sino también en el hecho de que podemos desarrollar fuertes vínculos con los objetos. A través del diseño, se puede llegar a establecer una conexión emocional muy poderosa con objetos inanimados, o incluso con productos”.

Diseño para los valores humanos

El panel continuó explorando cómo la IA puede abrir nuevas posibilidades de expresión cuando se moldea con valores humanos. Los panelistas compartieron la opinión de que la IA alcanza su verdadero potencial cuando se guía por la inteligencia emocional y la imaginación humana, no como un sustituto de la creatividad humana, sino como una fuerza que la amplía.

El director digital Porcini articuló esto con “IA × (IE + IM)”, su enfoque para equilibrar la inteligencia emocional y la imaginación humana con el fin de dar sentido a la innovación. Al describir esta filosofía, el director digital Porcini afirmó: “Cuando diseñamos y desarrollamos, la IA se ve amplificada por la inteligencia emocional y la imaginación humana. Después, cuando las personas utilizan los productos, la IA amplifica la inteligencia emocional y la imaginación humana”. Añadió: “No hay que temer a la tecnología. Estamos aquí para humanizarla, guiarla y darle forma”.

A través de estas ideas, la sesión reforzó la creencia de que la tecnología debe humanizarse, guiarse y moldearse para servir a la vida de las personas de formas cada vez más nuevas y significativas.

El diseño expresivo genera experiencias más significativas

El debate reforzó la importancia del diseño expresivo a la hora de dar vida a un propósito centrado en el ser humano, creando experiencias que reflejen emociones, fomenten la autoexpresión, inviten a la conexión y estimulen la imaginación.

“La felicidad es el objetivo del diseño”, afirmó Fabio Novembre. “Nuestra búsqueda de la felicidad se lleva a cabo a través del diseño, haciendo posible lo imposible. Creo firmemente en el diseño y en que debe volver a ocupar un lugar central”.

Los ponentes señalaron que esto refleja un cambio desde el mero diseño de objetos al diseño de experiencias en las que las emociones, el significado y la identidad son cada vez más importantes en la forma en que las personas se relacionan con la tecnología. Este enfoque inspira un nuevo tipo de expresión, que da lugar a diseños que van desde lo sutil y minimalista hasta lo atrevido e imaginativo, todos ellos destinados a dar forma a un futuro que no solo vale la pena vivir, sino también amar.