L’estrema sintesi della teoria riguardo l’effetto della regina rossa è che non si raggiunge mai la perfezione adattiva per via di un semplice motivo: tanto l’individuo cambia, tanto cambia l’ambiente circostante e di conseguenza tanto cambia la perfezione ricercata.
Un concetto che si presta perfettamente al mondo privacy, fortemente condizionato da un’innovazione tecnologica veloce e incessante.
Nonostante il Garante sia a conoscenza di questa teoria, tenta comunque di definire attraverso il GDPR un contesto che si avvicini più possibile alla perfezione di quel momento.
L’intelligenza artificiale muta qualunque contesto, anche quello sanitario
L’Intelligenza Artificiale ha mutato - o sarebbe meglio dire sta mutando, o addirittura sta per mutare- la vita quotidiana di ognuno di noi.
Se rimaniamo alla teoria dell’effetto della regina rossa, scopriamo come questa si presti particolarmente all’ambito medico-antropologico, teorizzando le dinamiche evolutive di parassita-ospite e di preda-predatore.
E’ proprio l’aspetto medico quello su cui il Garante Privacy ha posto l’attenzione per illustrare linee guida capaci di circoscrivere il presente e definire gli orizzonti del futuro.
I tre principi che guidano il decalogo del Garante
Sono 3 i principi che regolano il decalogo emanato dal Garante per tutelare i cosiddetti dati sensibili dal ciclone dell’intelligenza artificiale: trasparenza dei processi decisionali, decisioni automatizzate supervisionate dall’uomo e non discriminazione algoritmiche.
- Per trasparenza nei processi decisionali si intende la comunicazione nei confronti dei pazienti che dovrebbero essere pienamente informati della presenza e del funzionamento di processi decisionali automatizzati in scelte ad alto impatto sulla loro salute.
- La supervisione dell’uomo è ritenuta fondamentale da parte del Garante per valutare e validare le decisioni prese dagli algoritmi di IA e garantire la correttezza e l’eticità di tali decisioni.
- A maggior ragione dopo quel che è successo negli Stati Uniti: un sistema di IA utilizzato per stimare il rischio sanitario di oltre 200 milioni di americani, ha sottostimato il rischio per i pazienti di etnia afroamericana per via della spesa sanitaria media individuale più bassa rispetto alla media
Questa anomalia ha portato a un ingiusto accesso limitato a cure sanitarie adeguate alle persone di etnia afroamericana.
Il decalogo del Garante per gestire l’AI in ambito sanitario
Di seguito le 10 linee guida del Garante:
- Le basi giuridiche del trattamento: il trattamento deve essere proporzionato alla finalità perseguita, rispettare l’essenza del diritto alla protezione dei dati e prevedere misure appropriate e specifiche per tutelare i diritti fondamentali e gli interessi dell’interessato
- Accountability, privacy by design e by default: il titolare deve poter comprovare il rispetto dei principi e degli adempimenti previsti dal Regolamento
- La definizione dei ruoli: l’attribuzione dei ruoli deve corrispondere alle attività che il soggetto svolge in concreto alla luce dei compiti istituzionalmente demandati allo stesso, in conformità al quadro giuridico di settore.
- Conoscibilità, non esclusività e non discriminazione algoritmica: l’interessato ha il diritto di conoscere l’esistenza di processi decisionali basati su trattamenti automatizzati e il titolare deve ridurre opacità ed errori;
- Valutazione d’impatto sulla protezione dei dati: i titolari devono svolgere una preventiva valutazione di impatto sul trattamento
- Qualità dei dati: Il titolare del trattamento deve garantire che i dati siano esatti e aggiornati, intervenendo tempestivamente per cancellare o rettificare i dati non corretti.
- Integrità e riservatezza: i dati personali devono essere trattati in maniera da garantire un’adeguata sicurezza, compresa la protezione.
- Correttezza e trasparenza: garantire la la trasparenza e la correttezza nei processi decisionali
- La supervisione umana: affidare all’AI il compito di prendere decisioni comporta rischi per i diritti e le libertà delle persone.
- Dignità e identità personale: necessario porre attenzione ai profili etici del trattamento dei dati personali, ancor più se con questi strumenti si intendono trattare informazioni sulla salute di un’intera popolazione.
