Cosa si rischia se la cartella clinica finisce su ChatGpt

AGI - È sempre più diffusa la prassi di caricare analisi cliniche, radiografie e altri referti medici sulle piattaforme di intelligenza artificiale generativa chiedendo interpretazioni e diagnosi. Per il Garante della privacy, "si tratta di un fenomeno allarmante sia per il rischio di perdita di controllo su dati sanitari di straordinaria importanza per le persone, sia per il rischio che soluzioni di intelligenza artificiale non specificamente progettate allo scopo di fornire le indicazioni richieste e non rese disponibili al pubblico come dispositivi medici a valle dei necessari test e controlli previsti dalla disciplina di settore forniscano indicazioni errate".

Il Garante della privacy lancia un allarme e invita gli utenti di tali piattaforme "a valutare con attenzione l'opportunità di procedere alla condivisione di dati di carattere sanitario con i fornitori di servizi di intelligenza artificiale generativa e quella di fare affidamento sulle risposte generate automaticamente da tali servizi, risposte che dovrebbero sempre essere verificate con un professionista medico".

Rischi e informative sulla privacy

Sotto il primo profilo, il Garante richiama l'attenzione sull'opportunità di "leggere le informative sulla privacy che i gestori della piattaforme hanno l'obbligo di pubblicare al fine di verificare se i dati sanitari contenuti negli esami clinici caricati online ai fini della richiesta di interpretazione e/o diagnosi siano destinati a essere cancellati a seguito della richiesta medesima, in un momento successivo o a essere conservati dal gestore del servizio ai fini dell'addestramento dei propri algoritmi". Molti dei più noti servizi di intelligenza artificiale generativa, infatti, consentono agli utenti di decidere la sorte dei dati e documenti caricati online nell'ambito dell'utilizzo del servizio.

L'Autorità richiama quindi l'attenzione sull'importanza, riconosciuta sia dal Regolamento europeo sull'IA sia dal Consiglio Superiore di Sanità, di "garantire sempre un'intermediazione umana qualificata nell'elaborazione dei dati sanitari tramite sistemi di IA. L'intervento umano è essenziale per prevenire rischi che potrebbero incidere direttamente sulla salute della persona (cfr. articolo 14 Regolamento IA e parere 'I sistemi di intelligenza artificiale come strumento di supporto alla diagnostica', Consiglio superiore di sanità, Sez. V, 9 novembre 2021). La 'supervisione umana qualificata', tra l'altro, deve essere garantita in tutte le fasi del ciclo di vita del sistema di IA: dallo sviluppo all'addestramento, fino ai test e alla convalida, prima della sua immissione sul mercato o nel suo utilizzo".

Decalogo per i servizi sanitari e web scraping

Il tema era stato già anticipato dall'Autorità nel decalogo per la realizzazione di servizi sanitari nazionali attraverso sistemi di IA adottato nel mese di ottobre del 2023 nell'ambito del quale erano stati evidenziati anche "ulteriori aspetti di protezione dei dati personali che devono essere assicurati anche nella realizzazione di tali sistemi a supporto della comprensione di referti diagnostici: come la presenza di un idoneo presupposto di liceità; la necessaria e preventiva valutazione d'impatto; gli obblighi di trasparenza e sicurezza". Il Garante richiama infine gli sviluppatori dei sistemi di IA e gli operatori del settore sanitario sui rischi che comporta il fenomeno della raccolta massiva di dati personali dal web per finalità di addestramento dei modelli di intelligenza artificiale generativa che sono stati evidenziati nel documento pubblicato a maggio 2024 sul web scraping.