Intel·ligència artificial al sector sanitari: conferència de Rachel Dubscombe a la Cimera de la Societat per la Salut Digital

En el marc de la Quarta Cimera de la Societat per la Salut Digital (4th Digital Health Society Summit), la britànica Rachel Dunscombe, experta en Intel·ligència Artificial (IA) dins de l’àmbit de l’atenció sanitària i el benestar, assessora del govern del Regne Unit i directora de l’Acadèmia Digital del NHS (National Health Service), va oferir una conferència sobre IA al sector. Segons Dunscombe, el públic general coneix les possibilitats que ofereix la IA, però desconeix aquells aspectes més rigorosos, com la governança o la garantia de qualitat.

La intel·ligència artificial és una eina que posseeix un gran potencial dins la gestió i processament de tota mena de dades, però els seus usos dins l’entorn sanitari, al seu parer, encara són molt teòrics. Per això, assegura que “necessitem entendre com la IA interactua amb els pacients i amb el sistema sanitari existent, i ha de començar a treballar en entorns controlats i tenir la possibilitat de ser auditada”. En aquest àmbit, Dunscombe afirma que “treballar amb IA al sector sanitari ha de ser com treballar amb un/a doctor/a o un/a infermer/a resident”, és a dir, que es necessita un professional expert que controli el que fa.

Per monitorar la Intel·ligència Artificial, Dunscombe ha ideat amb el seu equip sis àrees dins el cicle vital que cal controlar. Aquestes àrees són les següents:

1) La relació de l’algoritme amb la seguretat clínica: Es requereix una comprensió profunda relativa a com relacionem la intel·ligència artificial amb la seguretat clínica, ja que les seves aplicacions dins el camp de la salut són moltes i per tant, s’han de limitar per tal d’acotar els resultats.

2) La detecció de biaixos: El problema del sorgiment de biaixos és una font de preocupació a tots els algoritmes. Es necessita personal tècnic amb les eines necessàries per detectar biaixos i corregir-los.

3) La validació demogràfica: Tota IA ha d’adaptar-se a la població o al sector demogràfic amb el qual treballi. Tal com Dunscombe indica, “el mateix algoritme no pot servir per al centre de Londres i per a la zona rural del nord d’Anglaterra a la vegada”.

4) El seguiment dels processos interns de l’algoritme: tots els processos interns que realitzi un algoritme han de ser revisables. Actualment, no existeix cap conjunt de paràmetres relatius a l’atenció sanitària al voltant dels quals treballa la IA, i es necessiten per tal de veure els processos que aquesta segueix en lloc d’haver de suposar-los.

5) La necessitat d’auditar la IA: és necessari auditar els algoritmes per tal de subratllar els seus punts forts i revisar les seves errades i mancances.

6) El seguiment cronològic del rendiment: L’algoritme ha de ser seguit i instruït per a obtenir els resultats de rendiment esperats dins un marc cronològic determinat.

A més, per a la creació d’algoritmes viables i que es puguin sotmetre a aquests criteris, Dunscombe remarca que és necessari l’accés a un flux de dades massives constant, net, codificat i a temps real, ja que la qualitat de l’algoritme equivaldrà a la de les dades que rep. Actualment, l’accés a aquestes dades és molt restringit, quelcom que Dunscombe lamenta.

Una altra falla en el sistema és la manca de personal sanitari especialitzat que entengui el funcionament dels algoritmes i pugui treballar amb ells. El pronòstic de l’experta és que en els anys vinents hi hagi un augment de llocs de feina en posicions relacionades amb la salut des de l’àmbit digital, i seran aquests professionals els especialistes que supervisaran la IA.

“Un cop totes les bases per a crear algoritmes viables siguin presents, podrem experimentar les possibilitats en l’atenció sanitària d’aquesta eina que sembla futurista, però ja existeix”, conclou Dunscombe. “No podem córrer, però tampoc podem parar. Es necessita un equilibri entre velocitat i seguretat”.