Ciberseguretat i intel·ligència artificial: reptes principals i possibles solucions en l'àmbit de la salut

L’Agència de Ciberseguretat de la Unió Europea (ENISA) celebra cada mes d’octubre el #CyberSecMonth, una campanya anual per promoure la ciberseguretat entre la ciutadania i les organitzacions de la UE, i proporcionar informació actualitzada sobre seguretat en línia mitjançant activitats de sensibilització i intercanvi de bones pràctiques. Amb motiu d’aquesta campanya, Didier Domínguez, expert en intel·ligència artificial de la Fundació TIC Salut Social, i Oriol Castaño, expert en ciberseguretat de l’Oficina de Protecció de Dades en Salut, han escrit el següent article sobre ciberseguretat i intel·ligència artificial a l’àmbit de la salut.

 

La integració de la intel·ligència artificial (IA) a l’àmbit de la salut és una realitat amb un gran potencial per millorar el diagnòstic, tractament i gestió de pacients. No obstant, juntament amb aquestes noves oportunitats, sorgeixen reptes importants, especialment en el camp de la ciberseguretat, que representa un repte addicional en la implementació d’IA a hospitals i sistemes de salut en general.

La ciberseguretat és fonamental en l’atenció sanitària impulsada per IA. Els sistemes d’IA processen enormes quantitats de dades clíniques, com ara històries mèdiques, imatges i resultats d’anàlisi. Aquestes dades són molt sensibles i s’han de protegir per evitar-ne l’ús indegut o l’accés no autoritzat. De fet, aquesta informació és considerada com una categoria especial de dades personals per la normativa de protecció de dades, ja que afecten l’àmbit més íntim de les persones i són susceptibles de ser utilitzats per discriminar, perjudicar les persones o per cometre delictes . Per aquest motiu, cal protegir adequadament les dades de salut utilitzant les màximes mesures de seguretat adequades a cada cas.

Atacs cibernètics en salut

El sector de la salut no és immune als atacs cibernètics, malgrat les fortes implicacions ètiques que comporta un atac a qualsevol centre mèdic. El 2017, la campanya de segrest de dades (ransomware) WannaCry va paralitzar parts del Servei Nacional de Salut del Regne Unit durant dies, i el 2019, un individu maliciós va filtrar les dades personals de milers de pacients amb VIH a Singapur [1]. També s’han registrat incidents recents, com el ciberatac a l’Hospital Clínic de Barcelona el març de 2023, que va deixar el sistema informàtic inoperable i va afectar serveis crítics, incloent les urgències, consultes externes i el laboratori d’anàlisis clíniques, a més de posposar tractaments oncològics i intervencions mèdiques importants [2]. Aquests esdeveniments ressalten la vulnerabilitat del sector de la salut davant les amenaces cibernètiques.

Els atacs contra el sector de la salut estan augmentant, amb atacs dirigits a sistemes mèdics i demandes de rescat que van des dels milers als milions d’euros. Les conseqüències d’un atac que tingui “èxit” repercuteixen en tots els nivells de l’atenció mèdica, traduint-se en reprogramació de visites, retards en els tractaments i possibles errors diagnòstics.

Des del 2020 la INTERPOL ha advertit sobre el creixement d’atacs de ransomware dirigits a hospitals i altres institucions involucrades en la resposta global al COVID-19. Aquests atacs busquen bloquejar els sistemes crítics i extorsionar mitjançant pagaments, i per això l’organisme internacional ha emès una alerta a les forces de policia dels seus països membres sobre aquesta amenaça [3].

A més, la proliferació de dispositius IoT al sector mèdic, com ara marcapassos i bombes d’insulina connectades a Internet, augmenta la vulnerabilitat, ja que les proteccions de ciberseguretat poden presentar errors per la cursa per llançar nous equips mèdics al mercat.

Canvis en la regulació

Les institucions governamentals estan prenent cartes en la qüestió. La DIRECTIVA (UE) 2022/2555 [4], relativa a les mesures destinades a garantir un elevat nivell comú de ciberseguretat a tota la Unió Europea, estableix els requisits mínims de ciberseguretat que han de complir les organitzacions europees que gestionen xarxes i sistemes d’informació dels sectors considerats com a crítics: energia, transport, aigua, sector sanitari, infraestructura digital, administració pública, banca i finances, entre d’altres. També estableix que els estats membres han d’adoptar estratègies nacionals de ciberseguretat i designar autoritats nacionals competents, punts de contacte únics de seguretat i equips de resposta a incidents de ciberseguretat. Per tant, aquesta directiva combina múltiples estratègies per millorar la ciberseguretat de les organitzacions del sector sanitari; entre elles, l’anàlisi de riscos, la gestió d’incidents, la continuïtat de l’activitat, la seguretat de la cadena de subministrament i l’ús de sistemes de comunicació d’emergència segurs dins de l’organització. Aquesta Directiva entrarà en vigor el 18 d’octubre de 2024 i derogarà la Directiva NIS 2.

D’altra banda, l’Administració d’Aliments i Medicaments dels Estats Units (FDA) va emetre una sèrie de recordatoris i advertències després de descobrir els errors esmentats anteriorment als dispositius IoT al sector mèdic per intentar millorar els seus estàndards de seguretat predeterminats. La recent aprovació pel Congrés dels Estats Units de la Llei d’Assignacions Consolidades de 2023, en particular la Secció 3305 titulada ‘Garantir la Ciberseguretat dels Dispositius Mèdics’ [5], va esmenar la Llei Federal d’Aliments, Medicaments i Cosmètics per enfortir les regulacions de ciberseguretat per als dispositius mèdics. Aquestes esmenes, que havien d’entrar en vigor el 29 de març del 2023, subratllen el creixent reconeixement de la necessitat de prioritzar la ciberseguretat en el desenvolupament de tecnologies mèdiques.

En resum, si bé cap dispositiu o xarxa no és completament immune a les vulnerabilitats, mesures reguladores com aquestes són fonamentals per mitigar riscos i fomentar tecnologies d’atenció mèdica més segures.

Quin és l’impacte de la IA a la ciberseguretat?

La IA està tenint un impacte significatiu a la ciberseguretat, ja que els atacants estan utilitzant la IA tant per dissenyar com per dur a terme intrusions cibernètiques. Això inclou el desenvolupament de correus electrònics de phishing més sofisticats, atacs de suplantació d’identitat, l’explotació ràpida de vulnerabilitats, la creació de codis maliciosos (malware) complexos, una major recopilació d’informació sobre objectius, l’automatització d’atacs i la sobrecàrrega de les defenses humanes. A més, la IA s’està utilitzant expandir el ransomware i fer que sigui més evasiu, la qual cosa representa un desafiament addicional per a la ciberseguretat [6].

Tots aquests factors porten el concepte de ciberseguretat a un altre nivell, ja que implica anticipar vulnerabilitats en comptes de reparar-les després del fet. Les amenaces cibernètiques evolucionen constantment i superen les mesures de seguretat tradicionals. Per abordar aquesta bretxa, les organitzacions estan recorrent cada cop més a la IA en ciberseguretat. La ‘ciber IA’ és capaç d’identificar i respondre a activitats malicioses de manera autònoma, aturant atacs com el ransomware abans que causin mal, ja que comprenen el que és normal i anormal a la xarxa. Aquest enfocament, similar al sistema immunològic humà, ha tingut èxit en la detecció de ciberatacs sofisticats en els darrers anys, atrapant els atacants en etapes primerenques [1].

Exemples de ciberatacs a l’àmbit de la IA en salut

Enverinament de dades d’entrada

Hi ha moltes preocupacions de ciberseguretat associades específicament a la implementació de la IA en centres de salut com l’enverinament de dades d’entrada (data poisoning). Es tracta de la introducció de dades malicioses al conjunt d’entrenament d’una aplicació d’aprenentatge automàtic, que afecta la sortida del model. Això pot passar si individus maliciosos tenen accés a les dades d’entrada utilitzades per entrenar el model.

Els possibles objectius en un entorn d’atenció mèdica inclouen sistemes d’anàlisi de dades, dispositius IoT, sistemes de monitorització de xarxes i seguretat i sistemes de control d’instal·lacions. Es poden emprar diferents mètodes per dur a terme atacs durant les fases d’entrenament i prova, i això pot resultar en danys tècnics, incloent-hi la integritat de les dades, la disponibilitat de serveis i la degradació del rendiment. Per mitigar aquesta amenaça, se suggereix netejar i revisar adequadament les dades d’entrada durant el procés d’entrenament i prova, identificar valors atípics i anomalies, i mantenir la integritat i el rendiment del model amb mesures de monitorització i seguretat adequades.

Atac one-Pixel

Alguns articles sostenen que el one-pixel attack és un perill real en el context de la visió per computador i l’aprenentatge automàtic aplicat a la detecció i el diagnòstic de càncer [7]. Quan s’automatitzen tasques crítiques com ara el diagnòstic mèdic, la manipulació maliciosa d’aquest procés pot tenir conseqüències devastadores, fins i tot portar a diagnòstics i tractaments incorrectes. Per exemple, s’utilitzen atacs de one-píxel en un escenari de vida real utilitzant un conjunt de dades de patologia real (TUPAC16) i s’apunta al detector de càncer de mama IBM CODAIT’s MAX utilitzant imatges adversàries [7]. Els resultats mostren que una modificació mínima d’un sol píxel en una imatge completa pot invertir el resultat del diagnòstic automàtic, fet que planteja una amenaça real des de la perspectiva de la ciberseguretat, ja que aquest mètode de one-pixel podria ser utilitzat com un vector d’atac per un atacant motivat. Això subratlla la importància de protegir els sistemes d’IA en aplicacions mèdiques contra amenaces cibernètiques i atacs.

Atacs d’inversió, inferència i extracció de models

Els atacs d’inversió, inferència i extracció de models se centren en l’obtenció d’informació confidencial sobre un model d’aprenentatge automàtic o un conjunt d’entrenament. Alguns exemples d’aquests atacs són:

– Atac d’extracció de model: Consisteix a recopilar informació d’un model per reconstruir un model substitut que es comporti de manera semblant a l’original.

– Atac d’inferència de membres: S’utilitza per determinar si una entrada (possiblement un individu) va formar part del conjunt d’entrenament del model.

– Atac d’inversió de model: Té com a objectiu invertir el model per obtenir informació addicional sobre característiques sensibles d’un subjecte conegut al conjunt de dades. El terme sensible en aquest context es refereix a característiques que el creador del model no desitja que es revelin al consumidor de la sortida del model.

– Atac d’inferència de propietat: Consisteix a extreure propietats del conjunt de dades que no estan explícitament codificades com a característiques al model.

En aquest cas, les fonts d’amenaces dels atacs d’inversió, inferència i extracció de models són probablement actors externs que tenen accés a les interfícies del model com a consumidors regulars o insiders amb coneixement parcial de l’arquitectura del model, hiperparàmetres, configuració d’entrenament o accés complet al model en si. El tipus i els mètodes d’atac disponibles per a un atacant varien segons la quantitat d’informació que pugui obtenir l’atacant sobre el model i el conjunt d’entrenament, l’arquitectura d’aprenentatge i l’algorisme d’aprenentatge automàtic utilitzat. Aquests atacs poden tenir un impacte significatiu en la seguretat i la privadesa de les dades personals, i podrien portar a la divulgació d’informació personal. També poden tenir implicacions legals i econòmiques per a l’organització que posseeix o controla el model d’aprenentatge automàtic. Per defensar-se contra aquests atacs, es poden implementar diverses mesures de seguretat, com ara la detecció d’anomalies a les consultes al model, l’aplicació de soroll aleatori, l’ús de la Privadesa Diferencial (DP) i la regularització per reduir el sobre-ajustament del model.

Altres tipus d’atacs i desafiaments

A més dels tipus d’atac exposats anteriorment, hi ha tota una sèrie de qüestions que poden comprometre la ciberseguretat d’un sistema d’IA. Es podrien esmentar diverses preocupacions com la introducció de dades adversàries (adversarial data) als conjunts d’entrenament, la manca de regulació sòlida, l’opacitat en la transparència dels models, la manca de coneixement dels líders empresarials i la necessitat de gestionar les conseqüències no intencionades dels canvis als models d’IA. Aquests riscos poden conduir a resultats inesperats, biaixos en les dades i manca de responsabilitat [8].

Possibles solucions als ciberatacs en l’àmbit de la salut

Hi ha desafiaments que directament o indirectament poden afectar la ciberseguretat de sistemes d’IA en centres mèdics, com ara la manca d’una clara articulació dels resultats i les expectatives organitzatives quant al rendiment, la qualitat i la precisió. Aquest és un punt crític en la implementació de la IA i l’aprenentatge automàtic, perquè si no s’estableixen uns objectius tecnològics específics per als proveïdors, definint-ne el rendiment esperat, la precisió, el marge d’error i les sortides definides, i com es relacionen amb la qualitat de l’atenció mèdica, els resultats poden ser poc útils, afectar negativament la presa de decisions i soscavar la confiança en la tecnologia.

Pel que fa a les fonts d’amenaces potencials, s’inclouen la mala qualitat de les dades, la manca de transparència i controls del sistema, i la de-identificació de dades, que poden conduir a biaixos i diferències en els plans de tractament o fluxos de treball del pacient. A més, és important reconèixer les limitacions de la IA i els possibles biaixos en els algoritmes, així com el risc d’ajust deficient o excessiu quan s’aplica algun tipus de canvi o transició de les dades (data transition).

Per abordar aquests desafiaments en la implementació de la IA i l’aprenentatge automàtic es proposen diverses solucions [8]:

– Pla de dades i adquisició: És essencial establir objectius tecnològics clars per als proveïdors i definir-ne el rendiment esperat, la precisió i altres criteris relacionats amb la qualitat de l’atenció mèdica. També s’ha de considerar la gestió de la privadesa del pacient i el consentiment en els assajos clínics.

– Educació sobre IA/aprenentatge automàtic: Se suggereix implementar programes d’educació i capacitació a IA per a personal mèdic i professionals de la salut. Això ha de ser una responsabilitat compartida entre les organitzacions d’atenció mèdica i les empreses d’IA.

– Requisits ISO13485 per a dispositius mòbils: Cal capacitació per a totes les persones interessades en el projecte que construeixin, donin suport o prestin servei al dispositiu mèdic. Això inclou proveïdors de sistemes i aquells que brinden serveis de manteniment.

– Gestió de riscos cibernètics: És crucial adoptar un enfocament basat en el risc per a la classificació de programari d’IA/aprenentatge automàtic. Això inclou l’avaluació de la ciberseguretat i la transparència en el disseny del producte.

– Gestió de vulnerabilitats: Es recomana la monitorització de vulnerabilitats, proves de penetració independents i proves periòdiques de verificació i validació. També cal considerar les variables que poden afectar el conjunt d’entrenament i els resultats inesperats.

– Gestió postmarket: Se suggereix realitzar estudis de seguiment post-comercialització (PMCF) per identificar possibles riscos residuals de dispositius amb marcatge CE i per recopilar dades sobre el rendiment clínic a llarg termini. A més, cal implementar la vigilància post-mercat, incloent-hi el monitoratge proactiu de la ciberseguretat i la gestió de vulnerabilitats.

– Gestió de pedaços (patchs): Cal parar atenció a la gestió de pedaços i l’actualització de programari IA/aprenentatge automàtic per garantir una transició sense problemes i minimitzar el temps d’inactivitat de l’usuari.

Conclusions

A més dels riscos de ciberseguretat inherents a qualsevol sistema informàtic, hi ha alguns riscos específics de les solucions d’IA. L’àmbit de la salut no està exempt d’aquests riscos i, de fet, és el blanc específic de moltes intrusions cibernètiques. L’objectiu d’aquests atacs pot anar des d’obtenir accés a dades mèdiques, fins a enverinar les dades o manipular els models per copiar-los, danyar-ne l’exercici o inferir informació de pacients. A més, els constants avenços a la IA fan que aquesta sigui utilitzada per desenvolupar atacs més efectius i complexos. Però afortunadament, aquests avenços també permeten anticipar vulnerabilitats, aturar els atacs a temps i evitar la sobrecàrrega de les defenses humanes.

A més, hi ha altres desafiaments de ciberseguretat a la IA més associats a l’estructura organitzativa, l’opacitat en la transparència dels models o la manca de coneixement de líders empresarials. Per abordar-los, cal implementar mesures com ara la verificació del model, la regulació adequada, la transparència en la presa de decisions, l’educació de líders empresarials i la implementació de pràctiques de gestió de canvis.

En definitiva, i com a conclusió, podem dir que la ciberseguretat en els sistemes d’atenció mèdica basats en IA és essencial per garantir la precisió dels diagnòstics, així com la privadesa i la integritat de les dades; uns factors que són pilars fonamentals a l’hora de mantenir la confiança en aquests sistemes crítics per a la salut pública.

Referències:

[1] AI in Healthcare: Protecting the Systems that Protect Us. (2020). Wired. Recuperat de https://www.wired.com/brandlab/2020/04/ai-healthcare-protecting-systems-protect-us/ (Visitat el 26 d’octubre del 2023).

[2] Hospital Clínic. (2023). Ciberatac a l’hospital Clínic Barcelona. Recuperat de https://www.clinicbarcelona.org/ca/premsa/ultima-hora/ciberatac-a-lhospital-clinic-barcelona (Visitat el 26 d’octubre del 2023).

[3] INTERPOL. (2020). Cybercriminals targeting critical healthcare institutions with ransomware. INTERPOL. Recuperat de https://www.interpol.int/en/News-and-Events/News/2020/Cybercriminals-targeting-critical-healthcare-institutions-with-ransomware (Visitat el 26 d’octubre del 2023).

[4] Eur-Lex, Access to EU law. (2022). Ciberseguridad de las redes y sistemas de información. Recuperat de https://eur-lex.europa.eu/ES/legal-content/summary/cybersecurity-of-network-and-information-systems-2022.html (Visitat el 26 d’octubre del 2023).

[5] Federal Register, the Daily Journal of the United States Government. (2023). Cybersecurity in Medical Devices: Quality System Considerations and Content of Premarket Submissions; Guidance for Industry and Food and Drug Administration Staff; Availability. Recuperat de https://www.federalregister.gov/documents/2023/09/27/2023-20955/cybersecurity-in-medical-devices-quality-system-considerations-and-content-of-premarket-submissions (Visitat el 26 d’octubre del 2023)

[6] Departamento de Salud y Servicios Humanos de EE. UU. (2023). Artificial Intelligence, Cybersecurity and the Health Sector. Departamento de Salud y Servicios Humanos de EE. UU. Recuperat de https://www.hhs.gov/sites/default/files/ai-cybersecurity-health-sector-tlpclear.pdf (Visitat el 26 d’octubre del 2023).

[7] Korpihalkola, J., Sipola, T., Puuska, S., & Kokkonen, T. (2021). One-Pixel Attack Deceives Computer-Assisted Diagnosis of Cancer. En SPML 2021 (págs. 100–106). ACM. doi: 10.1145/3483207.3483224.

[8] Healthcare & Public Health Sector Coordinating Councils. (2023). Health Industry Cybersecurity-Artificial Intelligence Machine Learning (HIC-AIM). Recuperat de https://www.aha.org/cybersecurity-government-intelligence-reports/2023-02-08-new-hscc-cwg-publication-artificial-intelligence-cybersecurity (Visitat el 26 d’octubre del 2023).