Investigadores del Instituto de Ciencia de Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra han desarrollado un nuevo modelo de IA para reducir el sesgo en áreas críticas de toma de decisiones como la salud, la educación y la contratación. Su metodología optimiza los modelos de aprendizaje automático para garantizar la equidad abordando las desigualdades relacionadas con la raza, el género y el estatus socioeconómico, entre otras posibles discriminaciones algorítmicas.
Publicado en Machine Learning, el estudio combina técnicas de predicción conformal con el aprendizaje evolutivo para lograr predicciones de IA fiables e imparciales.
Los investigadores probaron su método en bases de datos reales y demostraron que reduce la discriminación sin comprometer la precisión.
Su trabajo permite a las empresas y los responsables de políticas públicas elegir modelos que equilibren eficiencia y equidad según sus necesidades, respondiendo a las regulaciones emergentes.
El equipo ha hecho públicos su código y sus datos para fomentar la transparencia y la investigación en el desarrollo responsable de la IA.