Inteligencia Artificial y ética en salud: un binomio complicado de gestionar

Las XI Jornadas I+D+i Tic Salut Social se inauguraron con la participación de Ignacio Fuentes, investigador del Massachusetts Institute of Technology (MIT), Eleonora Harwich, responsable de colaboraciones en el Sistema de Salud Pública en el Lab de Inteligencia Artificial del Reino Unido; y Joan Carles March, profesor de la Escuela Andaluza de Salud Pública.

(Foto: Ignacio Fuentes y Karma Peiró, en las Jornades TIC Salut Social 2021)

Ignacio Fuentes destacó la importancia de la regulación en las soluciones de Inteligencia Artificial, así como el difícil “acceso a los datos que supone una de las principales barreras para conseguir modelos robustos”. También presentó los principales objetivos del Jameel Clinic –Centro de investigación en IA y medicina del MIT– y algunos de los proyectos en desarrollo.

Seguidamente, Eleonora Harwich explicó cómo la IA ha entrado en el sistema de salud británico, detallando los distintos programas y proyectos en los que trabajan, con ejemplos de las aplicaciones posibles ya hoy en el ámbito de la salud. La investigadora destacó que siempre están presentes los aspectos éticos y la actual regulación europea.

Por su parte, Juan Carlos March compartió reflexiones desde el punto de vista de los pacientes, de las personas usuarias finales de estos servicios y proyectos que se desarrollan. En su intervención, March recordó los valores humanos “que es necesario preservar en este siglo XXI diferente y tecnológico”.

 (Foto: de izquierda a derecha, Eleonora Harwich, Karma Peiró y Joan Carles March)

En el debate entre Harwich y March se puso de manifiesto la importancia de conseguir una estrategia de Inteligencia Artificial común y cooperativa. “No es un reto sencillo”, matizó la repesentante del NHS AI Lab. “Precisamente estamos definiendo directrices y pautas para entender la dirección en la que es necesario avanzar, estableciendo prioridades y respetando la regulación al respecto”, añadió.

Otro aspecto debatido fue el papel de los ciudadanos en la definición de las bases éticas de la evolución de la IA, tanto en su aplicación al sistema sanitario como en general. En este sentido, March considera esencial “la validación y participación de la ciudadanía”. Y propone formar a los pacientes sobre los elementos básicos de la bioética, para que puedan intervenir en conversaciones con profesionales y aportar más matices al diseño y desarrollo de esta tecnología.

La sesión concluyó con reflexiones y preguntas en torno a conceptos como la transparencia, la integridad y la justicia.

(Ver la sesión 1a completa en este enlace)

¿Qué ocurre cuando entra en consideración la ética?

La sesión del día 21 de octubre estuvo dedicada al binomio IA+ética. Y la complejidad aumentó porque ya no se trataba de presentar únicamente proyectos sino de hablar de conceptos que deben servir para respetar los derechos humanos adquiridos combinados con la innovación tecnológica. Los ponentes invitados en esta ocasión fueron Eduard Fosch, profesor asistente de la Universidad de Leiden; Albert Sabater, director del Observatorio de Ética del Govern Català; y Karina Gibert, Intelligent Data Science e investigadora de Inteligencia Artificial.

(Foto: d’esquerra a dreta, Karma Peiró, Karina Gibert, Eduard Fosch, Albert Sabater)

Eduard Fosch se focalizó en la importancia de integrar aspectos de género y sexualidad en el desarrollo de herramientas de IA aplicadas a la salud. El investigador explicó las implicaciones que puede haber si no se tiene en cuenta la detección de sesgos y se ignoran las consideraciones de diversidad “mientras se construye lo que se denomina la normalidad de la población”. Cómo los sistemas basados ​​en IA pueden reforzar los sesgos en la atención sanitaria, con las consecuencias legales si no se abordan adecuadamente. La búsqueda de Fosch intenta entender los riesgos y oportunidades que los robots y la IA plantean en el campo legal.

Karina Gibert presentó cuatro proyectos en los que la inteligencia artificial ha ayudado a tomar mejores soluciones en fenómenos complejos. En todos los casos, se deja ver los retos éticos que nos plantea la IA. Los puntos críticos son siempre el tratamiento de datos personales, la identificación de las personas, la posibilidad de personalizar las respuestas con datos anónimos y la imposibilidad de implementar supervisión humana sin desvirtuar el sistema. Según Gibert, para todos estos retos “la visión europea es la más estricta a nivel global, centrada en la persona y orientada al bien común”.

En su intervención, Albert Sabater, destacó la necesidad de aplicar el ART –acrónimo de conceptos éticos como la Rendición de cuentas, la Responsabilidad y la Transparencia– a las soluciones de inteligencia artificial. Uno de los aspectos destacados fue la distinción entre “lo moralmente aceptable y lo legalmente permitido, de modo que en esta transformación no perdamos las características que nos defina como humanos, como la empatía y la ética”, remarcó Sabater.

Durante el debate entre los ponentes, se habló de los roles y responsabilidades. Desde la responsabilidad individual hasta la de empresas y la de los legisladores públicos. En este contexto, la responsabilidad ciudadana crece y es necesario acompañar a la ciudadanía para evitar que las desigualdades sociales existentes no se traspasen al uso de IA. Se profundizó también en el papel de Europa donde parece que el camino por el que se apuesta es el de la calidad de la IA desde la vertiente ética.

Como conclusión se destacó que hay que pensar a largo plazo y regular los principios sobre los que debe fundamentarse para que se convierta en una herramienta justa para todos.

Las XI Jornadas I+D+i Tic Salut Social 2021 –celebradas online durante los días 20, 21, 27 y 28 de octubre–, fueron organizadas por la Cátedra TIC Salud Social de la Universidad de Vic – Universitat Central de Catalunya (UVic-UCC), la Fundación TIC Salud Social (Departamento de Salud de la Generalidad de Cataluña), el Consorcio Hospitalario de Vic, la Fundación Hospital de la Santa Cruz de Vic, el EAP/ABS Centelles, el EAP Vic, el Instituto Catalán de la Salud-Gerencia Catalunya Central, Fundación Althaia y FORES.

(Ver la sesión 2a completa en este enlace)