Come evitare che l’ultratech si “impadronisca” dei nostri corpi

PISA. Anche nel rapporto fra paziente e medico di famiglia metterà presto lo zampino l’intelligenza artificiale. Anzi, lo fa già (quasi) adesso o quantomeno è più vicino di quanto ci immaginiamo: i fondi del Pnrr finanziano con più di 37 milioni (e altri 20 milioni sono già promessi) il progetto di sperimentare una nuova piattaforma che inizialmente riguarderà un migliaio di medici ed alla fine del prossimo anno dovrebbe coinvolgere la totalità dei medici di famiglia. I notiziari di settore informano che l’Agenas – l’Agenzia nazionale per i servizi sanitari regionali al cui interno c’è una branca dedicata alla “sanità digitale” –  ha varato un bando per creare tale piattaforma. Rivolta ai medici ma, in un secondo tempo, utilizzabile in forma di app anche dagli assistiti.

Viene spiegato che gli algoritmi prenderanno i dati sulla nostra salute conservati nel fascicolo sanitario elettronico e li faranno “dialogare” con i referti di visite ed esami e con gli acquisiti di farmaci per aiutare la quotidianità dei medici di base.

Agenas: così l’intelligenza artificiale aiuterà medici oberati

Lo scenario l’ha disegnato il direttore generale dell’Agenas, Domenico Mantoan, in una intervista: l’intelligenza artificiale darà una mano – questa la sua riflessione – a medici di famiglia che devono aver presenti i quadri clinici e le terapie di una folla di 1.500 assistiti, talvolta perfino di più. Lo aiuta sapere di poter contare sull’arrivo di “alert” nel caso che si verifichino anomalie o se si prospetta il bisogno di esami.

Non è tutto. Secondo una visione ottimistica sull’impiego dell’intelligenza artificiale, la sanità potrà contare su dispositivi per il monitoraggio da remoto (magari sensori per pressione o glicemia senza sobbarcarsi lo spostamento da casa all’ambulatorio) o su strumenti per la prevenzione predittiva (cioè grazie al confronto con una enorme mole di dati, si può far scattare l’ “allarme” quando il paziente entra in un’area che fa immaginare un rischio). A ciò si aggiunga il supporto alle decisioni e la sburocratizzazione (certificati, ecc.).

Ma se qui si dedica attenzione a questo argomento è per segnalare qualcosa di più complesso delle “magnifiche sorti e progressive” che ci attendono, mentre in realtà gli standard di spesa pubblica nella sanità sono nel nostro Paese al di sotto della media dei Paesi occidentali di rango analogo. E con il sospetto che le straordinarie potenzialità di verifica e controllo tramite algoritmi possano essere indirizzate più al taglio della spesa a suon di “ottimizzazioni”.

Pisa capofila del progetto internazionale “AlgoNomy”

In realtà, l’ “alert” per il cronista è suonato quando l’università di Pisa si è fatta capofila di un progetto che si chiama “AlgoNomy” e, come spiegano dal quartier generale dell’ateneo, «mette in rete competenze, idee e strumenti per capire come le tecnologie intelligenti possano trasformare il modo in cui ci prendiamo cura della salute». Lo coordina Nicolò Amore, che nell’università di Pisa lavora come ricercatore di diritto penale, e riunisce un team interdisciplinare di esperti ed esperte in diritto, medicina e informatica che fanno capo all’Università di Vienna, al King’s College London, all’Humboldt-Universität zu Berlin, all’Université Paris Cité e all’University of Belgrade. Hanno ricevuto un finanziamento da Circle U. attraverso il Seed Funding Scheme 2024 e di cui è da poco uscita la call 2025.

Questa collaborazione tra diversi atenei europei è stata ribattezzata “Alleanza Circle U” e, secondo l’ateneo pisano, ha di fronte a sé «una delle sfide più urgenti della sanità del futuro: il cosiddetto “paternalismo digitale”, una nuova forma di paternalismo prodotto dall’implementazione dell’Intelligenza artificiale, in cui decisioni cliniche cruciali vengono sempre più influenzate dagli algoritmi, riducendo lo spazio di dialogo e co-decisione tra medico e paziente».

Bene lo spiega Nicolò Amore che, come detto, da Pisa coordina il lavoro del team: «Con l’adozione crescente di dispositivi medici basati sull’intelligenza artificiale, la medicina risulta sempre più guidata dai dati. Si tratta certamente di un processo da incoraggiare, vista le opportunità che apre: tuttavia, questa trasformazione comporta anche dei rischi da gestire, e in particolare quello di ridurre il ruolo attivo di pazienti e medici, mettendo in discussione la natura stessa dell’assistenza sanitaria come relazione umana e condivisa». E qui lo studioso mette l’accento sui due aspetti più delicati e controversi: 1) sono spesso «opachi» i processi alla base del modo in cui operano i sistemi di intelligenza artificiale che assistono le scelte terapeutiche, «almeno per come attualmente concepiti»; 2) si basa «esclusivamente su dati clinici quantitativi»; 3) offrono «scarse possibilità di dialogo e personalizzazione».

C’è l’esigenza di un ripensamento profondo

È un triplice limite che mette sul tavolo l’esigenza di «un ripensamento profondo della progettazione e dell’integrazione dei sistemi di intelligenza artificiale nella pratica clinica», dice l’équipe pisana. «L’approccio interdisciplinare proposto da “AlgoNomy” – viene fatto rilevare – punta a «restituire ai protagonisti del percorso terapeutico, cioè pazienti e medici, un controllo reale e consapevole sui processi decisionali». Preservando dunque, anche in un contesto tecnologicamente avanzato, il fatto che la persona resti protagonista attiva e consapevole, anziché un fuscello passivo in balìa di decisioni esterne con tutto il potere deresponsabilizzante di una “intelligenza” omniscente e oggettiva.

In effetti, non sfuggirà che il team è affidato non a un ingegnere né a un medico supertech bensì a uno specialista dell’area giudirica (i diritti) e umanistica (la riflessione anche filosofica); occhi puntati proprio sull’attenzione alle «implicazioni giuridiche» e alla «distribuzione della responsabilità nei processi decisionali clinici»: con “AlgoNomy” si fissa lo sguardo – questo il filo rosso dell’argomentazione – sul fatto che «molte attuali applicazioni di intelligenza artificiale in ambito sanitario tendano a escludere le preferenze individuali dei pazienti e a limitare la capacità dei medici di influenzare e comprendere appieno gli esiti terapeutici», come dice Nicolò Amore. «L’obiettivo è sviluppare strategie concrete per contrastare tali rischi, promuovendo un utilizzo dell’intelligenza artificiale che sia rispettoso dei diritti fondamentali e del principio di autonomia, cardine dell’etica medica contemporanea». Tradotto:  come immaginare un modello di sanità digitale che metta d’accordo «innovazione, responsabilità e rispetto dell’autonomia individuale».