La inteligencia artificial necesita tanto diseño como algoritmos para hacer servicios centrados en las personas, que resulten útiles, fáciles de manejar y que mejoren de manera constante. Este es el principal reto al que se enfrentan las empresas, como defendió el equipo de BBVA, durante el encuentro de Big Data Spain.
La inteligencia artificial ya está presente en muchos ámbitos de la vida cotidiana, en la recomendaciones de Spotify para escuchar canciones, en los asistentes de voz como Alexa o en la 'app' de BBVA para prever los gastos del mes. El reto actual está en mejorar cómo las personas interactúan con todos estos servicios de una forma más natural y humana. “Para crear servicios más humanos es fundamental incorporar el diseño a los procesos de desarrollo”, aseguraba Elena Alfaro, responsable de Data e Innovación Abierta de BBVA, para quien es esencial crear equipos multidisciplinares que combinen distintos perfiles.
“Hay que entender que estos servicios, que usan el ‘machine learning’, pasan por un proceso de aprendizaje continuo. Es un ciclo que nunca acaba en donde las máquinas tienen que recibir un ‘feedback’ para evolucionar, tanto implícito (por el funcionamiento del propio sistema) como explícito (a través de encuestas y otros sistemas de seguimiento para descubrir los usos reales y fallos)”, señalaba Alfaro.
En este sentido, las personas aprendemos a cómo usar los programas y dispositivos, pero las máquinas también van aprendiendo según obtienen más datos. El diseño se vuelve fundamental para que esta interacción se vaya perfeccionando. Cualquier usuario que de un sistema de manos libres que va a llamar a un amigo puede puede aprender a pronunciar su nombre de modo que Siri o Android reconozca el contacto de la agenda. Y cuando no lo reconoce, el mayor peligro es que llame a otra persona.
Aquí se puede decir que son las personas las que se adaptan al sistema y las consecuencias de un mala experiencia aceptables. Pero cuando se conoce la experiencia de un niño usando Alexa que habla al sistema y este termina ofreciéndole acceso a un contenido pornográfico (como sucede en este conocido vídeo de YouTube) genera una gran desconfianza que puede ser nefasta. De ahí la necesidad imperiosa de seguir evolucionando los sistemas de manera constante para avanzar en estos servicios centrados en las personas.
“Hay que poner a prueba nuestros sistemas y aprender de ellos de manera permanente”, insiste Alfaro, para quien es fundamental que las empresas diseñen pensando de manera responsable, más allá de competir por la atención del usuario, poniendo por delante las beneficios para los usuarios y definiendo la intención del algoritmo, que puede ser ayudar a tomar decisiones, a mejorar el uso del tiempo o para descubrir nuevos contenidos.
Responsable
El diseño y el desarrollo debe incorporar un enfoque responsable que tenga en cuenta factores que los hagan más justos, que reflejen la diversidad, que sean transparentes e interpretables (que se expliquen de manera sencilla). Con este ejercicio se pretende reducir los posibles sesgos de los algoritmos o de los datos, que es uno de las grandes preocupaciones para la comunidad de los científicos de datos.
“En BBVA estamos tratando de aplicar siempre estos términos y trabajamos siempre con la intención de ser responsables. No dejamos de aprender en este sentido”, señalaba Alfaro, quien cree que parte del gran éxito de la 'app' de BBVA ha estado marcado por el incorporar esos servicios basados en datos que ayudan a la vida financiera de los clientes y diseñados siempre con el cliente en el centro.
“No todo se trata de inteligencia artificial si no de hacer que los productos encajen en la sociedad”, defendía Marcelo Soria, responsable de Estrategia de BBVA Data & Analytics en una conferencia posterior que continuaba con la idea de reforzar la importancia del diseño dentro del desarrollo de los servicios digitales. El ejemplo que más le gusta a BBVA Data & Analytics es sin duda Spotify y su sistemas para recomendar nueva música, que toman como referencia en muchos de informes y ponencias. El por qué les inspira tanto Spotify pasa por su forma de entender al usuario.
“Lo que estudian es cómo la gente escucha música, cómo usan su sistema. Su objetivo siempre es mejorar la experiencia del usuario”, recalca Alejandro Vidal, científico de datos y diseñador de BBVA Data & Analytics, para quien esta es la gran diferencia, al mismo tiempo que destacaba que esta experiencia se puede mejorar en muchas ocasiones con diseño más que con el algoritmos.
BBVA Data & Analytics se despedía de la audiencia de Big Data Spain haciendo hincapié en la necesidad de crear equipos que mezclen perfiles técnicos con otros dedicados a la investigación de cómo se están usando el sistemas, y donde el aprendizaje sea continuo para hacer evolucionar a estos servicios en un ciclo que no tiene fin.