Investigadores de la Universidad de Jaén (UJA) han concluido el proyecto europeo FIDELITY con un resultado concreto: sistemas de inteligencia artificial capaces de hacer recomendaciones más justas y de explicar, en términos comprensibles, por qué sugieren una cosa y no otra. El trabajo ha sido liderado por el investigador Raciel Yera bajo la supervisión del catedrático Luis Martínez, y ha contado con financiación de la Unión Europea a través de una beca Marie Skłodowska-Curie, una de las más prestigiosas del ámbito científico europeo.
El problema que intentan resolver
Cuando Netflix recomienda una serie, cuando Amazon sugiere un producto o cuando Google News selecciona qué titulares mostrar, hay un algoritmo tomando decisiones. El problema es que la mayoría de estos sistemas funcionan como cajas negras: nadie sabe exactamente por qué recomiendan lo que recomiendan, y con frecuencia favorecen a ciertos usuarios o proveedores en detrimento de otros.
FIDELITY ha trabajado precisamente en eso: desarrollar algoritmos que no solo ofrezcan buenas recomendaciones, sino que también sean capaces de justificarlas y de garantizar que traten a todos de forma equitativa, tanto a quien recibe la sugerencia como a quien ofrece el producto o servicio.
Transparencia y equidad, juntas
Uno de los hallazgos más relevantes del proyecto es que la transparencia y la equidad en los sistemas de IA no son objetivos contradictorios ni independientes, sino que se refuerzan mutuamente. Hasta ahora, muchos enfoques técnicos los trataban por separado, lo que dificultaba construir sistemas verdaderamente fiables.
Los investigadores han comprobado sus resultados de tres maneras distintas: mediante pruebas en laboratorio con datos reales, en escenarios de uso práctico y con estudios en los que participaron personas reales, analizando cómo percibían la transparencia y la equidad de las recomendaciones que recibían.
Reconocimiento internacional
Los resultados del proyecto han sido presentados en foros científicos de primer nivel, entre ellos ACM UMAP, el congreso de referencia mundial en personalización y sistemas que adaptan su comportamiento al usuario. Las conclusiones también han aparecido en revistas y congresos internacionales especializados en equidad algorítmica y sistemas de recomendación para grupos.
Que un sistema recomiende bien para un individuo es ya un reto técnico considerable. Hacerlo para un grupo de personas con gustos distintos —una familia eligiendo una película, por ejemplo— es bastante más complejo, y es uno de los ámbitos en los que el equipo de la UJA ha profundizado especialmente.
Una hoja de ruta para la industria
Más allá del valor académico, el proyecto tiene una vocación práctica. FIDELITY ofrece a empresas tecnológicas y desarrolladores de software una guía para incorporar principios de inteligencia artificial responsable en sus productos reales, no solo en entornos de laboratorio.
El objetivo último es que los ecosistemas digitales sean más equilibrados: que los usuarios reciban sugerencias que realmente se ajusten a sus intereses, que los pequeños proveedores no queden sistemáticamente en desventaja frente a los grandes, y que cualquiera pueda entender por qué un sistema le recomienda lo que le recomienda.
El proyecto ha sido financiado por la UE dentro del programa Horizon Europe Marie Skłodowska-Curie Actions, con el identificador 101106164, y sus resultados consolidan al grupo de investigación SINBAD 2 de la Universidad de Jaén como uno de los referentes internacionales en inteligencia artificial responsable.