IA i ètica en salut: un binomi complicat de gestionar

Les XI Jornades R+D+I Tic Salut Social es van inaugurar amb la participació d’Ignacio Fuentes, investigador del Massachusetts Institute of Technology (MIT), Eleonora Harwich, responsable de col·laboracions al Sistema de Salut Pública al Lab d’Intel·ligència Artificial del Regne Unit; i Joan Carles March, professor de l’Escola Andalusa de Salut Pública.

(Foto: Ignacio Fuentes i Karma Peiró, a les Jornades TIC Salut Social 2021)

Ignacio Fuentes va destacar la importància de la regulació en les solucions d’Intel·ligència Artificial, així com el difícil “accés a les dades que suposa una de les principals barreres per aconseguir models robustos”. També va presentar els principals objectius del Jameel Clinic -Centre de recerca en IA i medicina del MIT–i alguns dels projectes en desenvolupament.

Seguidament, Eleonora Harwich va explicar com la IA ha entrat en el sistema de salut britànic, detallant els diferents programes i projectes en els quals treballen, amb exemples de les aplicacions possibles ja avui en l’àmbit de la salut. La investigadora va destacar que sempre estan presents els aspectes ètics i la regulació europea actual.

Per la seva banda, Joan Carles March va compartir reflexions des del punt de vista dels pacients, de les persones usuàries finals d’aquests serveis i projectes que es desenvolupen. En la seva intervenció, March va recordar els valors humans “que cal preservar en aquest segle XXI diferent i tecnològic”.

(Foto: d’esquerra a dreta, Eleonora Harwich, Karma Peiró i Joan Carles March)

En el debat entre Harwich i March es va posar de manifest la importància d’aconseguir una estratègia de la Intel·ligència Artificial comuna i cooperativa. “No és un repte senzill”, va matisar la repesentant del NHS AI Lab.  “Precisament estem definint directrius i pautes per entendre la direcció en la qual cal avançar, establint prioritats i respectant la regulació al respecte”, va afegir.

Un altre aspecte debatut va ser el paper dels ciutadans en la definició de les bases ètiques de l’evolució de la IA, tant en l’aplicació al sistema sanitari com en general. En aquest sentit, March considera essencial “la validació i participació de la ciutadania”. I proposa formar als pacients sobre els elements bàsics de la bioètica, perquè puguin intervenir en converses amb professionals i aportar més matisos al disseny i desenvolupament d’aquesta tecnologia.

La sessió va concloure amb reflexions i preguntes al voltant de conceptes com la transparència, la integritat i la justícia.

(Vegeu la sessió 1a completa en aquest enllaç)

Què passa quan entra en consideració l’ètica?

La sessió del dia 21 d’octubre va estar dedicada al binomi IA + ètica. I la complexitat va augmentar perquè ja no es tractava de presentar únicament projectes sinó de parlar de conceptes que han de servir per respectar els drets humans adquirits combinats amb la innovació tecnològica. Els ponents convidats en aquesta ocasió van ser Eduard Fosch, professsor assistent de la Universitat de Leiden; Albert Sabater, director de l’Observatori d’Ètica del Govern Català; i Karina Gibert, Intelligent Data Science i investigadora d’Intel·ligència Artificial.

(Foto: d’esquerra a dreta, Karma Peiró, Karina Gibert, Eduard Fosch, Albert Sabater)

Eduard Fosch va focalitzar-se en la importància d’integrar aspectes de gènere i sexualitat en el desenvolupament d’eines d’IA aplicades a la salut. L’investigador va explicar les implicacions que hi pot haver si no es té en compte la detecció de biaixos i s’ignoren les consideracions de diversitat “mentre es construeix el que es denomina la normalitat de la població”. Com els sistemes basats en IA poden reforçar els biaixos en l’atenció sanitària, amb les conseqüències legals si no s’aborden adequadament. La recerca d’en Fosch intenta entendre els riscos i oportunitats que els robots i la IA plantegen en el camp legal.

Karina Gibert va presentar quatre projectes en els quals la intel·ligència artificial ha ajudat a prendre millors solucions en fenòmens complexos. En tots els casos, es deixen veure els reptes ètics que ens planteja la IA. Els punts crítics sempre són el tractament de dades personals, la identificació de les persones, la possibilitat de personalitzar les respostes amb dades anònimes i la impossibilitat d’implementar supervisió humana sense desvirtuar el sistema. Segons Gibert, per a tots aquests reptes “la visió europea és la més estricta a escala global, centrada en la persona i orientada al bé comú”.

En la seva intervenció, Albert Sabater, va destacar la necessitat d’aplicar l’ART –acrònim de conceptes ètics com ara la Rendició de comptes, la Responsabilitat i la Transparència– a les solucions d’intel·ligència artificial. Un dels aspectes destacats va ser la distinció entre “el que és moralment acceptable i el que està legalment permès, de manera que en aquesta transformació no perdem les característiques que ens defineixen com a humans, com ara l’empatia i l’ètica”, va remarcar Sabater.

Durant el debat entre els ponents, es va parlar dels rols i responsabilitats.  Des de la responsabilitat individual fins a la d’empreses i la dels legisladors públics. En aquest context, la responsabilitat ciutadana creix i cal acompanyar a la ciutadania per evitar que les desigualtats socials existents no es traspassin a l’ús d’IA. Es va aprofundir també en el paper d’Europa on sembla que el camí pel qual s’aposta és el de la qualitat de la IA des del vessant ètic.

Com a conclusió es va destacar que cal pensar a llarg termini i regular els principis sobre els quals s’ha de fonamentar perquè esdevingui una eina justa per a tothom.

Les XI Jornades R+D+I Tic Salut Social 2021 –celebrades en línia durant els dies 20, 21, 27 i 28 d’octubre–, van ser organitzades per la Càtedra TIC Salut Social de la Universitat de Vic – Universitat Central de Catalunya (UVic-UCC), la Fundació TIC Salut Social (Departament de Salut de la Generalitat de Catalunya), el Consorci Hospitalari de Vic, la Fundació Hospital de la Santa Creu de Vic, l’EAP/ABS Centelles, l’EAP Vic, l’Institut Català de la Salut-Gerència Catalunya Central, Fundació Althaia i FORES.  (Vegeu la sessió 2a completa en aquest enllaç)