¿Cómo desarrollar IAs médicas inclusivas con las personas trans?: el objetivo de un estudio de la UPF, BSC, URV y PRISMA

En el campo de la salud, el desarrollo de la inteligencia artificial (IA) puede suponer grandes avances para personalizar diagnósticos y tratamientos, pero es necesario potenciar una IA libre de sesgos, con una visión más diversa e inclusiva, para que todos puedan beneficiarse de ella. Con este estudio, la Universidad Pompeu Fabra (UPF), el Barcelona Supercomputing Center -Centro Nacional de Supercomputación (BSC-CNS) y la Universidad Rovira i Virgili (URV) se han encaminado hacia el desarrollo de aplicaciones IA médicas que superen las lógicas binarias e incluyan las necesidades de las personas trans. El estudio se ha realizado en colaboración con la asociación PRISMA, que protege los derechos de las personas LGTBIAQ+ en el campo de la ciencia y la innovación.

Las IA médicas inclusivas podrían aportar varios beneficios a las personas trans, tales como una mayor personalización de los tratamientos hormonales masculinizantes o feminizantes según las características fisiológicas de cada una. Otro ejemplo es el diseño de apps de voz que tenga en cuenta las necesidades de las personas trans. Muchos de ellas las utilizan para acompañar su proceso de cambio de voz y les genera malestar emocional que la app les reconozca con un género con el que no se identifican.

El estudio, pionero en el Estado español, se ha difundido recientemente en un artículo publicado en la revista científica Journal of Medical Internet Research. La investigadora principal del estudio es Nataly Buslon Valdez, del grupo de investigación Social and Responsible Computing del Departamento de Ingeniería de la UPF. También son coautores Davide Cirillo, jefe de la Unidad Machine Learning for Biomedical Researchdel BSC y colíder de la línea de investigación sobre sesgo de sexo y género en la IA de la iniciativa Bioinfo4Women del BSC; Oriol Rios (Departamento de Pedagogía de la URV y miembro de PRISMA); y Simón Perera del Rosario  (Departamento de Medicina y Ciencias de la Vida de la UPF y miembro de PRISMA).

Buslon llevaba varios años investigando en salud y el género, para examinar los sesgos médicos y tecnológicos que generan perjuicios a las mujeres. "Vimos la necesidad de superar la visión binaria y ver las problemáticas que tenían sectores como las personas trans para tener una mirada más inclusiva, diversa y equitativa", explica. Con esta idea, surgida de la iniciativa Bioinfo4Women del BSC-CNS, contactó con la asociación PRISMA, que denuncia desde hace años las grietas que sufre el colectivo LGTBIAQ+ en relación a la ciencia y la innovación. PRISMA facilitó al equipo de investigación el contacto con personas trans. Además, se contó con el apoyo de representantes de TRÀNSIT, el Servicio de Atención y Promoción de la Salud de las Personas Trans y No Binarias del Instituto Catalán de la Salud (ICS).

La investigación parte de la metodología comunicativa, que requiere la participación activa del segmento de población estudiado y de distintos sectores sociales involucrados en el ámbito de la investigación. Un grupo representativo de 18 personas trans participaron telemáticamente en tres grupos focales para expresar su punto de vista sobre el tema y participar en el diseño de la investigación. Representantes de PRISMA colaboraron en la supervisión de los grupos focales para garantizar que la investigación fuese ética y respetuosa con las personas trans. El estudio quería analizar principalmente dos cuestiones: por un lado, los retos a superar para adecuar el diseño de las aplicaciones de IA en salud a las necesidades del colectivo trans y, por otro, potenciales soluciones. "La clave es potenciar una IA más diversa e inclusiva tanto en el ámbito de la salud como globalmente" - concluye Buslon.

A través de los grupos focales, "se ha constatado que las IA replican en muchos casos los sesgos de quienes las ha creado y pueden ampliar la invisibilización de las personas trans", explica Simón Perera del Rosario (UPF). Lo ejemplifica con las apps existentes para acompañar el proceso de cambio de voz de las personas trans. "Estos sistemas digitales están pensados ​​de forma binaria. Si alguien utiliza una app que le ayude a cambiar su voz y le identifica como hombre, cuando es una mujer trans, esto le generará malestar". Para Buslon (UPF), la discriminación constante de este colectivo, también por parte de la tecnología, "puede afectar a su salud mental, autoestima y calidad de vida".

¿Cómo pueden beneficiarse las personas trans del potencial médico de la IA?

“El estudio recomienda desarrollar aplicaciones de IA inclusivas, que permitan realizar tratamientos personalizados y ajustados a las necesidades específicas de cada persona trans”- explica Davide Cirillo (BSC). Esto permitiría, por ejemplo, ajustar las dosis de terapias hormonales masculinizantes o feminizantes a las características fisiológicas de cada una. Además, las herramientas de IA podrían ayudar a detectar y corregir incompatibilidades entre la terapia hormonal y otros fármacos.

Las personas trans también expresaban en los grupos focales la necesidad de hacer un uso adecuado de sus datos personales con fines sanitarios. Por ejemplo, solo con fines médicos, los profesionales sanitarios deberían saber si están atendiendo a una mujer trans o una mujer cis, porque, para el tratamiento de determinadas enfermedades, las dosis podrían diferir en uno y otro caso. De hecho, en los grupos focales, las personas trans advirtieron que los modelos binarios de gestión de datos y nuevos desarrollos tecnológicos en el ámbito médico pueden conducir a errores en los diagnósticos y tratamientos.

Fortalecer la confianza de las personas trans hacia el sistema sanitario

Además, el estudio subraya que es necesario revertir la desconfianza de las personas trans hacia las instituciones sanitarias, debida a su histórica discriminación también en este campo. Cabe recordar que la OMS no retiró la transexualidad de la Clasificación Internacional de Enfermedades hasta junio de 2019. Para ello, "se aconseja mejorar la formación y concienciación de los profesionales hacia las necesidades del colectivo trans"- añade Oriol Rios (URV). El estudio también apuesta por realizar más estudios científicos sobre el tema, muy escasos hasta ahora, que pongan el foco en la gestión de los datos y la IA con una visión diversa e inclusiva. Por último, recomienda promover redes de solidaridad y espacios de intercambio de conocimiento entre personas trans y profesionales sanitarios.