Causalidad en IA: de predecir qué ocurre a entender por qué ocurre

Un modelo de Machine Learning (aprendizaje automático) puede ser muy bueno anticipando un resultado o identificando patrones en grandes volúmenes de datos, pero en muchos contextos, como el de la banca, predecir bien no es suficiente. También es necesario comprender cómo la relación entre diferentes atributos o variables influye en una predicción o qué hipótesis explican mejor un resultado. Esto nos permite auditar los resultados de los modelos de Machine Learning e implementar una IA más fiable, interpretable y transparente.

La tesis de Jesús Renero, titulada Explainability-Guided Causal Structure Learning from Observational Data, parte de una distinción básica, pero decisiva: predecir no es lo mismo que entender. Dos variables pueden moverse juntas sin que una cause a la otra, y un modelo puede aprender patrones útiles para anticipar un resultado sin identificar los mecanismos de fondo que lo producen.

Un ejemplo sencillo ayuda a visualizarlo. Aunque observemos que una variable A y una variable B aparecen relacionadas, no podemos concluir automáticamente que A provoca B. Puede haber una tercera variable C que influya en ambas, o puede tratarse de una relación indirecta. El modelo puede aprovechar muy bien esa asociación para predecir, pero seguir sin decirnos cuál es la causa real. La tesis insiste precisamente en esa diferencia, porque en muchos contextos de negocio esa frontera es la que separa una explicación útil de una hipótesis causal todavía por verificar.

Para dar respuesta a ese problema, la investigación propone ReX, un método que busca aprovechar las señales que generan los modelos predictivos para construir hipótesis causales más estructuradas. La idea no es tomar una predicción y convertirla en causalidad por arte de magia, sino usar las explicaciones del modelo como una pista inicial para ordenar mejor las relaciones entre variables. Después, esas pistas se refinan con reglas que ayudan a formar un grafo causal plausible, es decir, una representación que muestra cómo influyen unas variables a otras. En una gran corporación como BBVA, este tipo de representación ayuda a equipos técnicos, expertos de negocio, responsables de riesgo o auditoría a hablar un lenguaje común.

El enfoque de la tesis resulta útil porque conecta dos mundos que a menudo avanzan por separado. Por un lado, el de los modelos de IA más avanzados, capaces de aprender patrones complejos. Por otro, el de la explicabilidad, que trata de hacer visible qué variables pesan más en una predicción. Si se combinan ambas piezas con cuidado, se puede avanzar desde la simple predicción hacia una mejor comprensión para el análisis y la toma de decisiones.

Ahora bien, el propio estudio deja claro que las explicaciones del modelo no prueban causalidad por sí solas. Cualquier método de descubrimiento causal necesita supuestos, contexto y validación, donde el juicio experto sigue siendo imprescindible. Esa cautela es especialmente importante porque los datos suelen ser ruidosos, incompletos, no lineales y a menudo están marcados por variables omitidas o por señales débiles. El aprendizaje consiste precisamente en explorar una vía complementaria, apoyándose en modelos predictivos explicables para generar hipótesis causales más manejables y auditables.

Esta tesis doctoral se enmarca en la colaboración entre BBVA y la Universidad de Navarra para impulsar doctorados industriales en ciencia de datos, una iniciativa que busca acercar la investigación avanzada a retos reales de aplicación en el sector financiero.