Le applicazioni dell’Intelligenza Artificiale (IA) abitano i nostri tempi, in una molteplicità di settori. Il dominio degli algoritmi (algocrazia) può aprire a un nuovo paradigma: il paternalismo digitale. Un insieme di pratiche e interventi che limitano o indirizzano scelte e comportamenti delle persone. Fino a rappresentarsi come una forma di controllo sociale che, favorendo determinati valori e interessi, limita la libertà degli individui di esprimere proprie opinioni e prendere decisioni.
Un ambito di particolare interesse è quello sanitario in cui aspetti postivi e negativi delle applicazioni digitali continuamente si confrontano. Le applicazioni dell’IA apportano miglioramenti sull’efficienza; automatizzano le attività di routine; ampliano l’accesso all’erogazione dell’assistenza; assistono nei processi decisionali; innovano i tradizionali processi di valutazione. Si possono produrre raccomandazioni automatizzate rendendo gli interventi medici sempre più accurati, affidabili e adattati al singolo paziente, riducendo indesiderati effetti collaterali. A tal riguardo i risultati nella prevenzione, diagnostica, terapia e riabilitazione sono molteplici e di riconosciuta efficacia.
Si sollevano, tuttavia, nuove questioni. Una di queste è che l’IA sta diventando un nuovo e prevalente decisore. Un nuovo protagonista. Una preoccupazione etica distintiva, che deriva dall’IA applicata alla Health Technology Assessment (HTA), è l’autonomia della tecnologia. Emergono interrogativi sulla responsabilità nei confronti dei pazienti e sui modi più appropriati per garantire l’umanizzazione dell’assistenza, il rispetto della dignità e dell’autonomia delle persone.
Con il ricorso alla logica algoritmica si prendono decisioni e si valutano previsioni sulla base dei dati raccolti sulla singola persona o su una gran massa di dati di popolazione. “Fino a creare”, citando P. Paolo Benanti, “una nuova narrazione universale che sostiene un nuovo principio di legittimità: i big data e gli algoritmi. Il dataismo è questa nuova narrazione. Una vera e propria fondazione di una nuova religione. Mitologia del XXI secolo. Nella sua forma estrema i fautori di questa visione del mondo dataista percepiscono l’intero universo come un flusso di dati, vedono gli organismi viventi come poco più di algoritmi biochimici.”
Nuovi obiettivi: profilazione nel processo decisionale automatizzato, medicina di precisione e medicina personalizzata. Ma a fronte di benefici già riconosciuti, c’è un rischio? E quale? La risposta è nell’assegnare un’assoluta priorità al “dato” rispetto alla ontologica complessità della persona e alla sua singolare nonché irriducibile relazionalità. È una prospettiva in cui il dataismo fonda un nuovo paternalismo che definiamo, appunto, digitale.
Il paternalismo digitale si colloca nella presunta infallibilità della tecnica basata sull’IA. Una sorta di nuova terra promessa in cui precisione e velocità sono parametri riconosciuti. Ma non si possono sottovalutare o eludere, ad esempio, i bias ovvero i c.d. “pregiudizi” dell’IA in quanto tecnologie addestrate su dati selezionati (es.: per popolazione, genere, etnia, …).
Il paternalismo digitale emerge quando l’IA viene posizionata come la più alta forma di evidenza (IA onnisciente) in cui l’elaborazione algoritmica è paradigma di riferimento della salute (eHealth). Gli algoritmi supportano l’attività sanitaria, ma potrebbero sostituire la figura del medico riscrivendo, a sua volta, anche il ruolo del paziente. In questa prospettiva, la medicina del futuro, definita anche profetica dai suoi sostenitori, sarà personalizzata e democratizzata perché pazienti – digitalizzati – gestiranno le proprie cure e prenderanno decisioni sugli interventi medici con l’assistenza dell’IA e dei robot. È l’orizzonte di una medicina, definita appunto partecipativa e democratica, che consentirebbe a ognuno di gestire la propria salute e le malattie nell’emancipazione dalle competenze e dalle responsabilità del medico.
Tuttavia, emergono criticità. L’argomento è epistemologico. La competenza del medico nella cura non si basa semplicemente sull’applicazione di dati empirici e oggettivi ma richiede la rilevanza dell’assistenza nello “stare a fianco” (ad-sistere). Gli algoritmi forniscono risultati (output) ma spesso sono caratterizzati da una carenza di trasparenza (black box artificial intelligence). Comunque, pur rispettando il principio di esplicabilità dei processi di apprendimento automatico delle macchine, i medici non sarebbero più la fonte esclusiva di informazioni. Assisteremo al tramonto delle competenze epistemiche (conoscenze biomediche e tecniche) ed etiche (valori, interessi e preferenze del paziente, discernimento e integrazione di fattori socio-relazionali, psicologici, morali, religiosi, …) del medico?
Il medico deve deliberare con il paziente, mediando tra conoscenze tecniche a disposizione e valori del singolo paziente, riconoscendogli la possibilità di decidere (principio di autonomia) nella relazionalità assistenziale.
Comunque, emerge un interrogativo sostanziale: “una mappa di dati può essere una copia esatta della realtà? Questa domanda è stata posta diverse volte e la risposta è sempre stata univoca: no. Allora la questione etica non è questione transitoria destinata a sparire o ad affievolirsi con la realizzazione di mappe perfette, ma una questione costitutiva delle intelligenze artificiali.”
A fronte del funzionalismo tecnocratico, si ripropone nella sua attualità l’ineludibile esigenza del sostanzialismo della relazione di cura. Come evidenzia la Nuova Carta degli Operatori Sanitari del Pontificio Consiglio per gli Operatori Sanitari, la “cura della salute” si svolge nella pratica quotidiana in una relazione interpersonale, contraddistinta dalla fiducia di una persona segnata dalla sofferenza e dalla malattia, la quale ricorre alla scienza e alla coscienza di un operatore sanitario che le va incontro per assisterla e curarla.
Appunto, prendersi cura! È questa una sintassi esistenziale che, iscritta nell’essere umano, non è rappresentabile da macchine la cui caratteristica è la misurabilità oggettiva delle proprietà fisiche. Diversamente dagli aspetti qualitativi (c.d. qualia) delle esperienze coscienti della singola persona (soggettività), uniche e irripetibili per la comprensione della realtà altrimenti piatta e priva di significato.
Ciò non significa fondare o sostenere posizioni tecnofobiche da neo-luddismo, piuttosto rileva l’importanza della “cooperazione in una visione collaborativa e di reciproca implementazione tra intelligenze artificiali (machinae sapientes) e uomo (homo sapiens). È il modello della cognizione sintetica, risultato della visione della realtà mediata all’uomo dal suo strumento in maniera trasparente e non l’acquisizione passiva di un risultato ottenuto secondo una modalità oscura. L’obiettivo funzionale è offrire all’uomo una migliore possibilità di cognizione e non rendere mai invece la cognizione una funzione algoritmica sottratta all’uomo.”
Abitare, cooperare, governare possono essere le prospettive chiave che richiedono deliberazione umana libera e corresponsabile con assunzione di obblighi, etici e normativi, nella irriducibile alleanza fondata nella relazione di cura.
(Foto di Hitesh Choudhary su Unsplash)
