L’integrazione dell’intelligenza artificiale nei processi sanitari è una delle trasformazioni più rilevanti della medicina contemporanea. Le tecnologie entrano nella pratica clinica quotidiana, nei processi di diagnosi, nella gestione sanitaria, supportando i medici per cure più efficienti, rapide e personalizzate.
Tuttavia, questa trasformazione solleva importanti interrogativi: cosa accade quando un algoritmo sbaglia? Come cambia la relazione tra paziente, medico e tecnologia quando la “cura” diventa un “codice”? L’articolo “Quando la cura diventa codice”, pubblicato su Le Scienze, affronta il tema riportando il caso del sistema sanitario statunitense.
L’IA nei sistemi sanitari
Negli ultimi anni, soprattutto negli Stati Uniti, algoritmi e sistemi automatizzati si sono integrati sempre più nella pratica quotidiana. Gli strumenti tecnologici sono utilizzati, ad esempio, per analizzare dati clinici, per segnalare rischi, per monitorare i pazienti attraverso dispositivi indossabili, per scegliere i partecipanti alle sperimentazioni cliniche, per assegnare priorità ai pazienti o ottimizzare l’organizzazione delle cure. L’assistenza clinica, che fa uso di protocolli per l’analisi dei sintomi del paziente, rappresenta uno degli ambienti ideali per l’automazione.
Nell’articolo citato si riporta l’esempio di diversi strumenti tecnologici di supporto all’attività medica. È il caso del progetto pilota lanciato nello Utah pochi mesi fa di un chatbot con capacità agentiche che può emettere ricette di farmaci per pazienti che abbiano già un piano terapeutico definito[1]: secondo i sostenitori, l’iniziativa lascerebbe più tempo libero ai professionisti sanitari. Le associazioni di medici sono, però, contrarie a rimuovere il controllo umano sulla procedura. L’American Medical Association ha invitato alla cautela, ribadendo che il giudizio clinico umano rimane insostituibile.
Un altro esempio è ChatEHR, uno strumento lanciato lo scorso anno dalla Stanford Medicine per permettere ai medici di «chattare» con le cartelle cliniche di un paziente[2]. Un medico ha riferito che questo strumento ha scovato informazioni cruciali nascoste nei referti di un paziente oncologico, aiutando così un’équipe che comprendeva sei patologi a giungere a una diagnosi definitiva.
La pratica medica integrata con l’intelligenza artificiale vorrebbe puntare a garantire cure davvero continue: “un’infrastruttura decisionale che tenga sotto controllo i pazienti tra un appuntamento e l’altro unendo quello che c’è nella cartella clinica (risultati di analisi, esami di imaging, appunti, farmaci) ai dati sulla popolazione e ai dati generati dagli utenti stessi, per esempio attraverso dispositivi indossabili e diari alimentari. Il sistema cerca cambiamenti significativi, invia consigli o solleciti e segnala i casi che richiedono un input umano”. Si realizzerebbe, così, un monitoraggio sempre attivo, in grado di andare oltre alle capacità cognitive del singolo professionista.
Le criticità emerse
Accanto ai benefici dell’uso della tecnologia in medicina, sono emersi anche i rischi e le criticità di tale uso. Uno degli aspetti più problematici, come noto, riguarda gli errori algoritmici: in diversi casi, sistemi automatizzati hanno generato valutazioni non corrette che hanno portato a conseguenze negative per i pazienti, come diagnosi inappropriate, ritardi nelle cure o decisioni terapeutiche non adeguate. Gli errori non sono sempre facilmente individuabili o correggibili: molti algoritmi funzionano, infatti, come “scatole nere”, cioè sono sistemi il cui funzionamento interno non è trasparente nemmeno per chi li utilizza. Questo rende difficile capire perché sia stata presa una decisione e limita la possibilità di intervento e di miglioramento, ledendo anche la fiducia riposta sulla tecnologia. Le conseguenze degli errori ricadono spesso sui pazienti più vulnerabili, che possono subire decisioni automatizzate senza esserne pienamente consapevoli.
Un’altra criticità riguarda la responsabilità nel caso di errore: se la decisione clinica è stata influenzata da un algoritmo, sarà responsabile il medico che ha seguito il suggerimento, o l’ospedale che ha adottato il sistema, oppure l’azienda che ha sviluppato il software? Inoltre, una eccessiva dipendenza dalla tecnologia potrebbe danneggiare la stessa qualità delle cure. Le promesse della tecnologia potrebbero essere, così, infrante.
Nell’articolo citato in precedenza si afferma che “algoritmi difettosi, un’implementazione impropria e il basso utile sull’investimento hanno messo in stallo alcuni progetti. In reparto gli infermieri, incaricati di prendersi cura dei pazienti, diffidano sempre di più degli strumenti non validati”. Negli ultimi due anni, in California e a New York gli infermieri hanno manifestato per attirare l’attenzione sugli strumenti algoritmici privi di regolamentazione. Gli ospedali investono nelle tecnologie mentre i reparti restano senza personale di assistenza.
I rischi, spesso lamentati, non sono solo teorici ma concreti. Nell’articolo citato Obermeyer, professore della Berkeley’s School of Public Health, ha riportato, ad esempio, che alcuni algoritmi usati nell’assistenza medica si sono rivelati razzisti, aumentando le disuguaglianze. Il Professore lamenta che per l’IA non c’è un ente di controllo centralizzato e che spesso gli ospedali sono lasciati a se stessi nella validazione degli strumenti.
Alcune proposte
Alcune istituzioni di alto livello, per rispondere a tale criticità, hanno iniziato a diffidare dall’idea di affidarsi esclusivamente ad aziende esterne per gli strumenti algoritmici. Nell’articolo si riporta che alcuni anni fa, Stanford Health Care e Mount Sinai Health System di New York hanno organizzato un reparto interno per lo sviluppo di intelligenza artificiale, in modo da poter sviluppare in autonomia i propri strumenti, testare quelli dei fornitori esterni, calibrarli e difenderli di fronte ai medici. L’IA in ambito sanitario diventa, così, “una capacità istituzionale piuttosto che una tecnologia di consumo da acquistare”.
L’articolo suggerisce, poi, di “costruire strumenti che il personale sanitario usi davvero, strumenti capaci di spiegarsi da soli”.
A tal fine è necessario anche il coinvolgimento diretto del personale nel processo di sviluppo degli strumenti di IA. Alcune istituzioni si sono già mosse in tal senso, implementando, così, “un approccio bottom-up in aggiunta a quello top-down”. Le idee migliori, spesso, vengono infatti dalle persone più direttamente coinvolte nel lavoro. Nell’articolo si riporta il caso di una infermiera specializzata nella gestione delle ferite che ha avuto l’idea di creare uno strumento di IA per prevedere quali pazienti siano più a rischio di piaghe da decubito.
Il settore non dovrebbe solamente inseguire l’efficienza degli agenti autonomi, ma puntare a un’infrastruttura per testare gli algoritmi. Oggi la sicurezza dei pazienti “rimane ancorata proprio a quello che l’IA non è in grado di replicare: l’intuito del professionista sanitario umano”.
La riscoperta del “codice” della cura
È proprio l’intuito del professionista sanitario che non potrà mai essere sostituito dall’algoritmo, in ogni fase della cura. Una cura che, per non tradire se stessa, non potrà essere ridotta a mero codice o procedura: “non c’è cura senza relazione, prossimità e tenerezza, a tutti i livelli”[3], ricordava Papa Francesco.
Lo sviluppo di sistemi sanitari efficaci e sostenibili non può, pertanto, dipendere dal solo progresso tecnologico, ma ha bisogno di riscoprire, “a tutti i livelli”, l’atteggiamento fondamentale della cura, il suo vero unico “codice”: essa è “supporto e vicinanza agli altri, non solo perché qualcuno ha bisogno o è malato, ma perché sperimenta vulnerabilità, la vulnerabilità comune a tutti gli esseri umani”[4].
Per approfondire
- Schellmann, Quando la cura diventa codice, Le Scienze, marzo 2026
- Doctronic, Utah’s First AI Prescription Renewal Regulatory Mitigation Agreement, 2026
- Stanford Medicine, Clinicians can ‘chat’ with medical records through new AI software, ChatEHR, giugno 2025
- Papa Francesco, Discorso ai Dirigenti e al Personale dell’Ospedale Pediatrico Bambin Gesù, 16 marzo 2024.
- Papa Leone XIV, Discorso di Papa Leone XIV ai partecipanti all’assemblea plenaria della Pontificia Accademia per la Vita, 16 febbraio 2026.
[1] Cfr. Doctronic, Utah’s First AI Prescription Renewal Regulatory Mitigation Agreement, 2026.
[2] Stanford Medicine, Clinicians can ‘chat’ with medical records through new AI software, ChatEHR, giugno 2025
[3] Papa Francesco, Discorso ai Dirigenti e al Personale dell’Ospedale Pediatrico Bambin Gesù, 16 marzo 2024.
[4] Papa Leone XIV, DISCORSO DI PAPA LEONE XIV AI PARTECIPANTI ALL’ASSEMBLEA PLENARIA DELLA PONTIFICIA ACCADEMIA PER LA VITA, 16 febbraio 2026.
ultimo aggiornamento il 22 Settembre 2026
